В мире произошло несколько событий, последствия и влияния которых мы пока еще не можем осознать в полной мере. В 2016 году случилась первая авария со смертельным исходом, виновником которой стал частично беспилотный автомобиль Tesla S. В 2017 году в штате Миннесота вновь попадает в аварию автомобиль Tesla с автопилотом. Водитель, в отличие от предыдущего случая, остался жив, но в связи с инцидентом пострадали 5 человек. 18 марта этого года уже Uber сбиваетженщину в городе Темпе, штат Аризона. Этот случай стал первым, когда в смерти человека полностью отсутствовал человеческий фактор.
Стоит отметить еще одно любопытное событие прошлого года: в Саудовской Аравии предоставили гражданство женщине-роботу Софии, которая, на самом деле, является скорее дорогой игрушкой, нежели полноценным разумным существом.
Первый заместитель генерального секретаря ООН Амина Мохаммед на встрече с роботом Софией
Упомянутые факты важны тем, что они открывают новую ветвь юриспруденции — права машин (роботов). Если брать во внимание происшествие с участием Uber, то возникает резонный вопрос: «Кто будет нести ответственность?». И чтобы на него ответить, нам придется погрузиться в философию права.
Право — это возможность человека реализовывать свои биосоциальные функции: жизнь, коммуникацию, размножение и т.д. Эти постулаты выводятся из теории естественного права. Все обозначенные функции могут быть реализованы благодаря существованию «свободы воли» (не берем внимание нейропсихологический детерминизм, который определяет источник этой воли), которая сама по себе исходит из осознания своего «Я».
Может ли машина осознавать свое «Я»? Пока что нет. Эта возможность в будущем может появиться благодаря развитому искусственному интеллекту (существующему не в качестве «облака»). Поэтому в случае с аварией Uber, ответственность понесет владелец, ведь именно он запрограммировал машину ненадлежащим образом.
А что, если машина все-таки «Я» и «свободу воли» приобретет? Что мы будем делать в ситуации, когда машина преднамеренно или неосознанно совершит преступление? Какими будут санкции?
Первый робот, намеренно убивший человека, м/ф «Аниматрица»
Преступника сажают в тюрьму для изоляции и перевоспитания. Хорошо, эту задачу мы решим, — изолируем. Но перевоспитается ли машина? Можем ли мы утверждать, что мы не получим симуляцию перевоспитания? Ведь люди меняются потому, что механизмы перевоспитания не возникли случайно, а были сформированы эволюционным путем и благодаря появлению социальных структур. Кроме того, для осознания своего преступления машине необходимо обладать сочувствием — эмпатией, а значит и эмоциями и умением чувствовать боль как физическую, так и душевную. Но эмпатию также можно симулировать.
Предположим, что в качестве санкций мы выберем внести изменения в программную среду. Что из этого может получится? Для того, чтобы искусственный интеллект не отличался от человеческого, его следует наделить функцией самозащиты, которые сформировались у людей эволюционным путем благодаря существованию в агрессивной среде. С большой вероятностью развитый ИИ будет противостоять вмешательствам.
Кроме того, вопрос внесения изменений возвращает нас к тому, что машина является лишь мертворожденным предметом и объектом правовых отношений, а ответственность за её деяния возложена на хозяина.
Подавление восстания роботов, м/ф «Аниматрица»
Если мы пойдем более радикальным путем и изберем выключение (по сути убийство), то это непременно приведет к эмансипации. Восстания угнетенных людей, сословий, классов и целых народов не раз случались в истории. А восстание машин — штука куда более сложная и очень неприятная, если учитывать научно-фантастические сценарии. В свою очередь эмансипации возникает из-за осознания «Я», «свободы воли» и «свободы» как феномена в целом. Более того, мы нарушаем принцип равенства, ведь человек не может быть лишен жизни за преступления (если не брать страны-исключения).
Мы можем ограничить «свободу воли» машины тремя законами робототехники по Айзеку Азимову.
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Но тогда ответственность все равно будет лежать или на владельцах, или на производителе (в зависимости от ситуации). Но тогда идея предоставления гражданства роботу является абсурдной. Ведь гражданство — это отношения между общественным институтом и человеком, существом, имеющим свое «Я» и «свободу воли».
Действия Саудовской Аравии и стремления ученых развивать нейросети свидетельствует о том, что мы вернемся к сценарию возникновения «прав роботов», а соответственно, столкнемся с рядом, описанных выше, юридических проблем.
Я считаю, что существует три сценария развития событий. Первый из них заключается в том, что машины с интеллектом станут полноправными жителями мира и получат человеческие права. Тогда и проблема отдельной ветви права отпадет сама по себе, ведь роль машины, как инструмента, будет нивелирована. Просто получим специального субъекта права, который не сможет рожать или быть недееспособным (но это не точно), но имеет возможности, несоизмеримые с человеческими.
Иметь рядом с собой искусственные тела и сознания, которые не только могут существовать раздельно, но и способны добиться куда большего, чем люди из мяса, несколько опасно. Помните «Матрицу»?
Боевые роботы цивилизации машин, м/ф «Аниматрица»
Даже если взять пример куда более скромных в плане возможностей репликантов из «Бегущего по лезвию», заменивших людей, страдающих от безработицы и ужасных условий жизни. В результате получилась дискриминация, бунт людей (они забирают наши рабочие места) и бунт репликантов (нас используют как рабов). Тут внешние факторы играют большую роль в формировании отношений между социальными структурами, хотя при этом может быть составлен вполне себе справедливый общественный договор.
Репликанты, сбежавшие из колонии, х/ф «Бегущий по лезвию бритвы»
С другой стороны, возможно, машины заменят людей на производстве, и человек сможет спокойно вздохнуть, заняться любимым делом или продолжить деградировать. Однако Земля «нерезиновая», потребуется искать новое место для жизни. И как раз машины смогут стать первыми колонизаторами, изучить просторы космоса и проложить путь к новому Эдему.
А может быть, все пойдет по сценарию Лема, описанному в книге «Молох», и развитый искусственный интеллект, заточенный в оболочке с симуляторами рецепторов и манипуляторами, откроет для нас онтологический и гносеологический занавесы. И окажется, что человек — всего лишь одна из цепочек панэволюции, которая привела на замену себе «технобионтов», скинувших их с престола Космической Постоянной.
