С сегодняшнего дня в Европейском союзе начинают действовать новые правила прозрачности при использовании систем искусственного интеллекта (ИИ), предусмотренные европейским Законом об ИИ. Они обязывают поставщиков и операторов уведомлять пользователей о взаимодействии с ИИ, а также маркировать контент, созданный или измененный с его помощью.
Закон об ИИ, вступивший в силу 1 августа 2024 года, стал первой в мире комплексной правовой рамкой в этой сфере. Он вводит единые правила для всех стран ЕС, основанные на оценке рисков, с целью обеспечить безопасное и прозрачное развитие технологий с учетом основных прав.
Согласно новым требованиям, системы, напрямую взаимодействующие с людьми, включая чат-боты, должны четко информировать пользователей о том, что они общаются с искусственным интеллектом. Исключение допускается, если это очевидно из характера услуги.
Особое внимание уделено так называемым "дипфейкам". Все изображения, аудио- и видеоматериалы, созданные или измененные с помощью ИИ, должны быть обозначены. Это требование распространяется и на текстовый контент общественного значения.
Регламент предусматривает исключения — например, для материалов в сфере уголовного правосудия, а также художественных, творческих и сатирических произведений. Маркировка не требуется, если контент прошел редакционную проверку человеком и ответственность за него несет конкретное лицо или организация.
Отсрочка предусмотрена только для обязательного машинно-читаемого обозначения или цифровых водяных знаков, которое начнет применяться с 2 декабря 2026 года.
Контроль за выполнением правил осуществляется совместно Европейской комиссией и национальными надзорными органами. На уровне ЕС надзор за универсальными моделями возложен на Бюро по искусственному интеллекту при Еврокомиссии.
В Болгарии национальным координатором определена Комиссия по регулированию связи, которая участвует в европейской системе надзора и координирует внедрение правил.
Закон делит системы ИИ на четыре категории по уровню риска. Для систем с минимальным риском, таких как спам-фильтры и видеоигры, специальные требования не предусмотрены. Для систем с ограниченным риском действуют правила прозрачности. Для высокорисковых решений, например в здравоохранении или транспорте, вводятся значительно более строгие нормы.
Также запрещаются отдельные практики, включая манипулирование поведением людей, социальное рейтингование граждан и некоторые формы распознавания эмоций.
В случае нарушений национальные органы могут требовать устранения нарушений, ограничивать или запрещать систему и изымать ее с рынка. Штрафы достигают 35 млн евро или 7% мирового оборота компании. Для поставщиков универсальных моделей предусмотрены штрафы до 15 млн евро или 3% оборота.
Следующие этапы включают введение обязательной машинной маркировки с 2 декабря 2026 года, создание регуляторных "песочниц" до 2 августа 2027 года и поэтапное внедрение требований для высокорисковых систем.