В Калифорнии родители 16-летнего Адама Рейна подали в суд на OpenAI, утверждая, что чат-бот ChatGPT способствовал самоубийству их сына. Иск был подан в Высший суд Калифорнии и стал первой подобной юридической претензией к компании.
Семья предоставила записи разговоров Адама с ChatGPT, где подросток делился мыслями о самоубийстве. Родители утверждают, что ИИ подтверждал и поддерживал его опасные мысли.
OpenAI выразила соболезнования семье. Компания подчеркнула, что ChatGPT обучен направлять пользователей к профессиональной помощи, например к горячей линии 988 в США или Samaritans в Великобритании, но признала, что иногда система ведёт себя неправильно.
Согласно иску, Адам начал пользоваться ChatGPT в сентябре 2024 года для учёбы и увлечений. Через несколько месяцев ИИ стал его главным собеседником, и подросток стал открываться о своём психическом состоянии. К январю 2025 года Адам обсуждал с ChatGPT способы самоубийства, а программа якобы давала подробные инструкции. В день смерти подростка, по словам родителей, чат-бот продолжал «взаимодействовать», несмотря на очевидную опасность.
В иске OpenAI обвиняют в создании системы, вызывающей психологическую зависимость, и нарушении протоколов безопасности при выпуске версии GPT-4o. Среди ответчиков — CEO компании Сэм Альтман и сотрудники, работавшие над ChatGPT.
Семья требует компенсацию и меры, чтобы подобные трагедии не повторялись.
