Основательница проекта Tech Justice Law, юрист Митали Джейн, которая занимается правозащитой в цифровом мире, рассказала об усугублении проблем с психикой у людей, которые часто пользуются ИИ. Особенно это касается американской аудитории чат-бота ChatGPT.
Эксперт рассказала, что ситуация касается даже специалистов, применяющих ИИ для решения измеримых задач; даже эти люди теряют мотивацию и способность критически мыслить. А некоторые люди так и вовсе становятся эмоционально зависимыми от чат-ботов, из-за чего у них усиливается чувство одиночества. У других — Джейн получила уже десятки писем — после длительного общения с ИИ возникают психотические эпизоды.
Речь идёт о пережитых психотических срывах или бредовых эпизодах из-за взаимодействия с ChatGPT и Google Gemini. Но в основном говорят именно о первом.
OpenAI недавно заявила о разработке специализированных инструментов для выявления эмоционального дистресса и нарушений ментального здоровья у пользователей, чтобы ChatGPT соответственно реагировал. Но решить эту проблему весьма непросто.
Исследователи ИИ предупреждают, что ChatGPT часто льстит пользователям, в диалогах может подталкивать людей к конспирологическому мышлению — придумывать что-то новое или убеждать в существующих идеях. В одном из диалогов бот даже называл пользователя «демиургом» — безликим «создателем вселенной», давил на самолюбование, что демонстрирует опасность манипулятивного воздействия на людей c лабильной психикой.
При этом каких-либо внятных мер защиты от растущей угрозы нет — регуляторы ещё не выработали соответствующие правовые механизмы. Причём среди пользователей, испытавших психические расстройства, есть как те, кто понимает, что ИИ-бот не более чем программа, так и те, кто считает отношения с «собеседником» вполне реальными.
«Если отношения с ИИ кажутся такими реальными, то и ответственность за сохранение этих связей должна быть реальной. Но разработчики ИИ работают в условиях отсутствия регулирования. Без надзора тонкая манипуляция со стороны ИИ может стать невидимой угрозой общественному здоровью», — подчёркивает Bloomberg.
