“В жалобе, поданной в Восточном округе Вирджинии, мы добиваемся действий по пресечению деятельности киберпреступников, которые намеренно разрабатывают инструменты, специально предназначенные для обхода защитных ограждений служб генеративного ИИ, включая Microsoft, для создания оскорбительного и вредоносного контента”, – заявили в компании.
Сервис, действовавший с июля по сентябрь 2024 года, содержал подробные инструкции по использованию инструментов для создания нелегального контента. Злоумышленники якобы использовали недокументированные API Microsoft и скомпрометированные API-ключи для доступа к серверам Azure компании, обходя встроенные средства контроля безопасности, предназначенные для “предотвращения создания вредоносного контента”.
Microsoft также подала в суд на семь человек, которые предположительно пользовались сервисом.
