Нови правила за ИИ в ЕС: задължителна прозрачност и обозначаване на съдържание

От днес в Европейския съюз започват да се прилагат нови правила за прозрачност при използването на системи с изкуствен интелект (ИИ), заложени в европейския Акт за изкуствения интелект. Те задължават доставчиците и операторите да информират потребителите, когато взаимодействат с ИИ, както и да обозначават съдържание, създадено или модифицирано чрез такива технологии.

Актът за изкуствения интелект, влязъл в сила на 1 август 2024 г., представлява първата в света цялостна правна рамка за регулиране на тази област. Той въвежда общи правила за всички държави членки, базирани на оценка на риска, с цел да гарантира безопасно, прозрачно и съобразено с основните права развитие на технологиите.

Съгласно новите изисквания, системите, които комуникират директно с хора, включително чатботове, трябва ясно да уведомяват, че потребителят взаимодейства с изкуствен интелект. Изключение се допуска само когато това е очевидно от самата услуга.

Специално внимание се отделя и на т.нар. "дийпфейкове". Всички изображения, аудио и видеа, създадени или променени чрез ИИ, следва да бъдат ясно обозначени. Това изискване обхваща и текстове от обществен интерес, генерирани с помощта на изкуствен интелект.

Регламентът предвижда определени изключения – например за материали, използвани в наказателното правосъдие, както и за художествени, творчески и сатирични произведения. Не се изисква обозначаване и когато съдържанието е преминало редакционен контрол от човек и отговорността за него се носи от конкретно лице или организация.

Отлагане е предвидено единствено за задължението за машинно четимо обозначаване или цифров воден знак на съдържание, създадено с ИИ. То ще влезе в сила от 2 декември 2026 г.

Контролът по прилагането на регламента се осъществява съвместно от Европейската комисия и националните надзорни органи. На европейско ниво надзорът върху моделите с общо предназначение е поверен на Бюрото за изкуствен интелект към Комисията.

В България ролята на национален координатор е възложена на Комисията за регулиране на съобщенията (КРС), която участва в общата европейска система за надзор и координира изпълнението на правилата у нас.

Законът класифицира ИИ системите в четири категории според риска. При системите с минимален риск, като филтри за спам и видеоигри, не се въвеждат специални изисквания. За тези с ограничен риск, включително чатботове, важат правилата за прозрачност. При високорисковите приложения – например в здравеопазването, транспорта и критичната инфраструктура – се прилагат значително по-строги регулации.

Същевременно се забраняват определени практики, сред които манипулиране на човешкото поведение, социално оценяване на гражданите и някои форми на разпознаване на емоции.

При нарушения националните органи могат да изискват корекции, да ограничат или забранят използването на дадена система, както и да я изтеглят от пазара. Санкциите достигат до 35 млн. евро или 7% от глобалния годишен оборот на компанията. За доставчиците на модели с общо предназначение Европейската комисия може да налага глоби до 15 млн. евро или 3% от оборота, в зависимост от по-високата стойност.

Следващите етапи от прилагането на регламента включват въвеждането на задължително машинно четимо обозначаване от 2 декември 2026 г., създаването на поне една национална регулаторна тестова среда във всяка държава членка до 2 август 2027 г., както и поетапно въвеждане на правилата за високорисковите системи.