Китайский стартап Sand AI, запустивший открытую модель для генерации видео Magi-1, блокирует создание изображений, связанных с политически чувствительными темами. Тестирование показало, что платформа запрещает изображения с Си Цзиньпином, площадью Тяньаньмэнь, «человеком с танком», флагом Тайваня и тому подобное. Фильтрация происходит на уровне изображений — даже переименование файлов не помогает обойти блокировку.
Sand AI не одинок: Hailuo AI от MiniMax также блокирует фото Си Цзиньпина, хотя разрешает изображения Тяньаньмэнь. Для соблюдения законов страны многие компании применяют фильтры на уровне запросов или дообучают модели, чтобы избегать спорных тем. Интересно, что китайские ИИ-модели при этом часто менее строги к порнографическому контенту, чем американские.
Magi-1 получила похвалу от экспертов за качество видео, но цензура якобы лишь ограничивает ее возможности.
