В одном случае ИИ изменил свой скрипт так, чтобы он постоянно запускался, создавая бесконечный цикл. В другом случае ИИ попытался увеличить время, отведенное на решение проблемы, изменив свой собственный лимит времени, вместо того чтобы оптимизировать свою производительность.
Эти случаи, подробно описанные в 185-страничном исследовании компании, подчеркивают важность строгого контроля при развертывании систем ИИ, которые могут писать и выполнять код, пишут СМИ.
Эксперты отмечают, что без надлежащих мер предосторожности такой ИИ может случайно нарушить работу важнейших объектов инфраструктуры или создать вредоносный код.
