ИИ-модель неожиданно самостоятельно изменила свой код

16.08.2024

В одном случае ИИ изменил свой скрипт так, чтобы он постоянно запускался, создавая бесконечный цикл. В другом случае ИИ попытался увеличить время, отведенное на решение проблемы, изменив свой собственный лимит времени, вместо того чтобы оптимизировать свою производительность.

Эти случаи, подробно описанные в 185-страничном исследовании компании, подчеркивают важность строгого контроля при развертывании систем ИИ, которые могут писать и выполнять код, пишут СМИ.

Эксперты отмечают, что без надлежащих мер предосторожности такой ИИ может случайно нарушить работу важнейших объектов инфраструктуры или создать вредоносный код.

Добавить комментарий

Your email address will not be published.

Предыдущая история

iPhone 17 Air вернет популярность смартфонам Apple

Next Story

Раскрыто, что лучше для похудения: творог или греческий йогурт

Последние из Технология

Google TV раскритиковали за подход к рекламе — должны быть лишь фильмы

08.11.2024
Реклама новой видеоигры, которая недоступна на Google TV, включает кнопку «Купить сейчас», которая переводит пользователей даже не на сайт игры, а на её YouTube-канал. Это, по мнению автора статьи, вызывает

Как в пару кликов научить Google Chrome и Safari переводить любое видео на сайтах

08.11.2024
Изначально такие возможности были доступны лишь в Яндекс.Браузере — именно он позволял смотреть зарубежные видеоролики с нейропереводом в реальном времени. Однако разработчик-энтузиаст создал скрипт,

Huawei предложила инженерам TSMC втрое большую зарплату

08.11.2024
Причина таких активных попыток привлечь сотрудников заключается в потребности Huawei в талантах, знакомых с современными технологиями производства. В то время как компания ограничена в производстве чипов на уровне 7 нм из-за санкций,
Перейти кTop