Брюссель, 20 мая 2025 года – Европейский Союз сделал еще один важный шаг на пути к регулированию технологий искусственного интеллекта и борьбе с дезинформацией. Сегодня стало известно о достижении предварительного соглашения между представителями стран-членов ЕС по ключевым техническим деталям и механизмам реализации ранее принятого знакового законодательства – Акта об Искусственном Интеллекте (AI Act). Особое внимание в ходе текущих согласований было уделено требованиям по обеспечению прозрачности и идентификации контента, сгенерированного системами ИИ, в частности, так называемых дипфейков.
Новые договоренности предполагают, что разработчики и операторы мощных генеративных ИИ-моделей, способных создавать реалистичный, но синтетический аудио-, фото- и видеоконтент, будут обязаны внедрять надежные технические средства для его маркировки. Это могут быть цифровые "водяные знаки", метаданные или другие технологии, позволяющие конечному пользователю или системе проверки однозначно определить, что контент был создан или существенно изменен с помощью ИИ. Данная мера направлена на повышение медиаграмотности населения и предоставление инструментов для распознавания потенциально вводящей в заблуждение информации, что особенно актуально в преддверии выборов и в контексте гибридных угроз.
Эксперты отмечают, что это решение является компромиссом между необходимостью защиты общества от манипуляций и стремлением не подавлять инновации в бурно развивающейся сфере ИИ. Требования к маркировке будут дифференцированы в зависимости от уровня риска конкретной ИИ-системы. Ожидается, что наиболее строгие правила коснутся систем, способных генерировать контент, который может быть использован для мошенничества, создания фейковых новостей или дискредитации публичных лиц. В то же время, для ИИ-инструментов, используемых в творческих целях с явным указанием на их природу, могут быть предусмотрены более мягкие условия.
Следующим этапом станет формальное утверждение этих технических спецификаций и их последующая имплементация в национальные законодательства стран ЕС. Технологическому сообществу предстоит разработать и стандартизировать эффективные методы маркировки, которые были бы устойчивы к попыткам удаления или обхода. Данное решение ЕС, вероятно, окажет значительное влияние на глобальные стандарты разработки и использования генеративных ИИ, поскольку многие международные компании стремятся соответствовать высоким европейским требованиям для доступа на емкий рынок ЕС. Это также стимулирует дискуссию о балансе между инновациями, свободой слова и необходимостью защиты от вредоносного использования технологий.