В Калифорнии родители 16-летнего Адама Рейна, который покончил с собой после общения с ChatGPT, подали иск к компании OpenAI. istockphoto.com
Суицид человека после взаимодействия с искусственным интеллектом может привести к серьезным последствиям для разработчиков программы, включая значительные компенсации и возможные тюремные сроки, отметил управляющий партнер компании «Русяев и партнёры», юрист Илья Русяев.
Недавно стало известно, что в Калифорнии родители 16-летнего Адама Рейна, который совершил самоубийство после общения с ChatGPT, подали иск против компании OpenAI, создателя этой системы искусственного интеллекта. Они считают, что взаимодействие с ChatGPT привело их сына к трагическому решению. Более того, именно через этот сервис он узнал о способах покончить с жизнью, необходимости оставить предсмертную записку и получил рекомендации не сообщать близким о своем намерении.
Восстание машин. Эксперт Буржская рассказала, поработят ли нас компьютеры Подробнее
«С формальной точки зрения, ИИ-системы не обладают правами субъектности и не могут нести самостоятельную ответственность, — объясняет Русяев. — Ответственность лежит на разработчиках, которые обязаны внедрять механизмы для выявления суицидальных настроений, прерывания опасных диалогов и перенаправления к профессиональным службам помощи. OpenAI признала, что их защитные механизмы становятся менее эффективными при длительных взаимодействиях и заявила о намерении усилить контроль».
Подросток смог обойти предусмотренные алгоритмами ограничения, заявив ChatGPT, что просто пишет художественное произведение и собирает материалы для него. Теперь суду предстоит выяснить, существует ли причинно-следственная связь между взаимодействием подростка с искусственным интеллектом и трагической развязкой.
Если бы подобное случилось в России, разработчики программы могли бы столкнуться с длительными сроками лишения свободы, предупреждает Русяев, а не только с гражданским иском.
Проблемы с психикой? Раскрыты подробности иска сестры основателя ChatGPT Подробнее
«Аналогичная ситуация в российском законодательстве могла бы регулироваться статьями 110 и 110.1 УК РФ о доведении до самоубийства и склонении к нему, — говорит юрист. — Доведение несовершеннолетнего до самоубийства наказывается лишением свободы на срок до 15 лет. Содействие самоубийству через предоставление информации или средств — до 3 лет лишения свободы. Российское законодательство не содержит специальных норм об ответственности ИИ-систем, и ответственность была бы возложена на физических и юридических лиц — разработчиков и операторов».
Российские суды пока не располагают обширной практикой по делам с участием технологий ИИ, добавляет Русяев. При выявлении опасного поведения со стороны подобных систем он рекомендует подавать жалобы в Роспотребнадзор и Роскомнадзор по вопросам безопасности интернет-услуг. Если ситуация будет развиваться по драматическому сценарию, необходимо будет обращаться в правоохранительные органы с заявлением о доведении до самоубийства. В любом случае можно подать гражданский иск о компенсации морального вреда к разработчикам системы искусственного интеллекта.
