Права роботов: когда разумную машину можно считать «личностью»?

В научной фантастике любят изображать роботов в виде автономных машин, способных принимать собственные решения и даже демонстрировать проявления личности. Тем не менее мы никак не избавимся от мысли, что роботы нам принадлежат как собственность и что у них нет прав, которые обычно имеются у людей. Но если машина может думать, принимать решения и действовать по собственной воле, если ей можно навредить или обязать нести ответственность за свои действия, должны ли мы перестать относиться к ней как к собственности и начать относиться к ней как к личности с правами?

А если робот вдруг станет полностью сознательным? Будут ли у него такие же права, как у нас, и такая же защита словом закона, ну или хотя бы что-то подобное?

Эти и другие вопросы уже обсуждает Комитет Европарламента по правовым вопросам. В прошлом году он выпустил проектный доклад и предложение создать набор гражданско-правовых норм для робототехники, регулирующих ее производство, применение, автономию и влияние на общество.

Из предложенных правовых решений наиболее интересным было предложение создать юридический статус «электронных лиц» для самых сложных роботов.

Осторожно: личность

В докладе признается, что улучшения автономных и когнитивных способностей роботов делает их большим, чем просто инструменты, и обычных правил ответственности, вроде договорной и деликтной ответственности, недостаточно для работы с ними.

Например, текущая директива ЕС об ответственности за вред, нанесенный роботами, покрывает только предсказуемый ущерб, причиненный производственными дефектами. В этих случаях ответственность несет производитель. Тем не менее, когда роботы смогут обучаться и адаптироваться, исходя из своего окружения, совершенно непредсказуемым образом, производителю будет сложнее предвидеть проблемы, которые могут причинить вред.

Также выражается обеспокоенность тем, как именно нужно рассматривать достаточно или недостаточно сложных роботов: как обычных людей, юридические лица (например, корпорации), животных или объекты. Вместо того чтобы втискивать их в существующую категорию, предлагается создание новой категории «электронных лиц» как более целесообразной.

В докладе не выступают за немедленные законодательные меры, впрочем. Вместо этого предлагают обновить законодательство, если роботы станут более сложными и обзаведутся поведенческими тонкостями. Если это произойдет, одна из рекомендаций состоит в том, чтобы уменьшить ответственность «создателей» пропорционально автономии робота, а также включить обязательное страхование.

Но зачем заходить так далеко, что создавать новую категорию «электронных лиц»? В конце концов, компьютеры еще не скоро обзаведутся близким к человеческому интеллекту, если это вообще случится.

Роботы — или, если точнее, программное обеспечение в их основе — становятся все сложнее и сложнее. Автономные (или «эмерджентные») машины становятся все более распространенными. Не прекращаются споры о правовых возможностях автономных устройств. Могут ли они проводить хирургические операции? Можно ли засудить робота-хирурга?

Робота учат «чувствовать» боль

Пока ответственность лежит на плечах производителя, это не особо сложные проблемы. Но если производителя нельзя будет определить с легкостью, например, в случае использования программного обеспечения с открытым исходным кодом? На кого подавать в суд, если создателей ПО — миллионы по всему миру?

Искусственный интеллект также начинает оправдывать свое название. Алан Тьюринг, отец современной вычислительной техники, предложил тест, пройдя который компьютер мог считать себя умным, если ему удастся одурачить, обмануть человека, выдать себя за живое существо. Машины уже близки к тому, чтобы пройти этот тест.

Список успехов роботов довольно длинный: компьютер пишет саундтреки к видео, неотличимые от написанных людьми, обходит «капчу», пишет прописью и обыгрывает лучших в мире покеристов.

В конечном итоге роботы могут сравняться с людьми по когнитивным способностям и даже быть чрезмерно человечными, например, если будут «чувствовать» боль. Если этот прогресс будет продолжаться, самосознательные роботы перестанут быть продуктом фантастики.

Доклад ЕС один из первых, посвященных этим вопросам, но другие страны тоже принимают активное участие. Юе-Сюань Вэн из Пекинского университета пишет, что Япония и Южная Корея считают, что мы будем сосуществовать с роботами к 2030 году. Японское Министерство экономики, торговли и промышленности создало серию руководств, адресованных вопросам бизнеса и безопасности касательно роботов следующего поколения.

Электронные лица

Если мы действительно решим давать роботам правовой статус, каким он будет? Если бы они вели себя как люди, мы могли бы относиться к ним как к правовым субъектам, а не объектам, либо разместить их где-то посередине. Субъекты имеют права и обязанности, и это дает им юридическую «личностность». Они не обязаны быть физическими лицами; корпорация таковым не является, но считается юрлицом. Юридические объекты, с другой стороны, не имеют прав и обязанностей, хотя могут иметь экономическую ценность.

Присуждение прав и обязанностей неодушевленному объекту или программе, независимой от создателей, может показаться… странным. Но мы уже наблюдаем, как корпорации создают фиктивные юрлица со своими правами и обязанностями.

Возможно, подход к роботам должен быть аналогичным? Если робот (или программа) достаточно сложный, чтобы удовлетворять определенным требованиям, ему можно дать статус корпорации. Это позволит ему зарабатывать деньги, платить налоги, иметь активы или подавать в суд, независимо от его создателей. Создатели робота будут подобно директорам корпораций.

Роботы будут рассматриваться в таком случае как юридические объекты, но в отличие от корпораций будут иметь физические тела. «Электронное лицо», таким образом, может быть сочетанием субъекта и объекта права.