ИИ-инструмент Google под названием Big Sleep нашёл первые 20 уязвимостей в популярных open-source проектах.
Разработанный DeepMind и командой Project Zero, он уже продемонстрировал реальный результат: обнаруженные баги касаются таких проектов, как библиотеки FFmpeg и ImageMagick.
Подробности не раскрываются — до выпуска патчей информация держится в секрете. Но Google подчёркивает, что каждый баг был найден и воспроизведён именно ИИ, без вмешательства человека.
Перед отправкой отчёта, его всё же проверяет специалист, чтобы избежать ложных срабатываний.
По словам вице-президента Google по безопасности Хизер Эдкинс, это прорыв в автоматическом поиске уязвимостей. Подобные ИИ уже появляются и в других компаниях — например, RunSybil и XBOW, последний даже возглавил рейтинг HackerOne.
Однако у технологии есть минусы: некоторые баг-репорты оказываются «галлюцинациями» — несуществующими проблемами, придуманные ИИ.
Разработчики называют такие отчёты «ИИ-мусором» и сетуют на то, что они отвлекают от реальных задач.
