След тридневни „маратонски“ разговори председателството на Съвета и преговарящите на Европейския парламент постигнаха временно споразумение по предложението за хармонизирани правила за изкуствения интелект (AI), така наречения закон за изкуствения интелект. Проектът за регламент има за цел да гарантира, че системите с ИИ, пуснати на европейския пазар и използвани в ЕС, са безопасни и зачитат основните права и ценностите на ЕС. Това забележително предложение също има за цел да стимулира инвестициите и иновациите в ИИ в Европа.
Това е историческо постижение и огромен крайъгълен камък към бъдещето! Днешното споразумение ефективно се справя с глобално предизвикателство в една бързо развиваща се технологична среда в ключова област за бъдещето на нашите общества и икономики. И в това начинание успяхме да запазим изключително деликатен баланс: насърчаване на иновациите и навлизането на изкуствения интелект в цяла Европа, като същевременно зачитаме изцяло основните права на нашите граждани. Карме Артигас, испански държавен секретар по цифровизацията и изкуствения интелект
Действието на AI е a Флагмански кораб законодателна инициатива с потенциал за насърчаване на разработването и внедряването на безопасен и надежден ИИ в единния пазар на ЕС както от частни, така и от публични участници. Основната идея е да се регулира ИИ въз основа на способността на последния да причинява вреда на обществото след a "базиран на риска" подход: колкото по-висок е рискът, толкова по-строги са правилата. Като първото законодателно предложение от този вид в света, то може да постави a глобален стандарт за регулиране на ИИ в други юрисдикции, точно както направи GDPR, като по този начин насърчава европейския подход към технологичното регулиране на световната сцена.
Основните елементи на временното споразумение
В сравнение с първоначалното предложение на Комисията основните нови елементи на временното споразумение могат да бъдат обобщени, както следва:
правила за силно въздействащи AI модели с общо предназначение които могат да причинят системен риск в бъдеще, както и при висок риск AI системи
ревизирана система на управление с някои правомощия за прилагане на ниво ЕС
разширяване на списъка на забрани но с възможност за ползване дистанционна биометрична идентификация от правоприлагащите органи на обществени места, при спазване на предпазни мерки
по-добра защита на правата чрез задължението за внедряването на системи с изкуствен интелект с висок риск да извършват a оценка на въздействието върху основните права преди пускането на AI система в употреба.
По-конкретно, временното споразумение обхваща следните аспекти:
Определения и обхват
За да се гарантира, че дефиниция на система с ИИ предоставя достатъчно ясни критерии за разграничаване на ИИ от по-прости софтуерни системи, компромисното споразумение привежда дефиницията в съответствие с подхода, предложен от ОИСР.
Временното споразумение също така пояснява, че регламентът не се прилага за области извън обхвата на правото на ЕС и в никакъв случай не трябва да засяга компетенциите на държавите-членки в национална сигурност или всяко образувание, на което са поверени задачи в тази област. Освен това законът за ИИ няма да се прилага за системи, които се използват изключително за военен or защита цели. По същия начин споразумението предвижда, че регламентът няма да се прилага за AI системи, използвани с единствената цел научни изследвания и иновации, или за хора, които използват AI по непрофесионални причини.
реклама
Класификация на AI системите като високорискови и забранени AI практики
Компромисното споразумение предвижда a хоризонтален защитен слой, включително високорискова класификация, за да се гарантира, че системите с ИИ, които няма вероятност да причинят сериозни нарушения на основните права или други значителни рискове, не се улавят. Само представяне на AI системи ограничен риск ще бъде обект на много лека задължения за прозрачност, например разкриване, че съдържанието е генерирано от AI, така че потребителите да могат да вземат информирани решения за по-нататъшно използване.
Широка гама от висок риск Системите за изкуствен интелект ще бъдат разрешени, но при спазване на набор от изисквания и задължения за получаване на достъп до пазара на ЕС. Тези изисквания са изяснени и коригирани от съзаконодателите по такъв начин, че да са повече технически осъществимо намлява по-малко натоварващи които заинтересованите страни трябва да спазват, например по отношение на качеството на данните или по отношение на техническата документация, която следва да бъде изготвена от МСП, за да докаже, че техните високорискови системи за ИИ отговарят на изискванията.
Тъй като AI системите се разработват и разпространяват чрез сложни вериги на стойността, компромисното споразумение включва промени, изясняващи разпределение на отговорностите намлява ролите на различните актьори в тези вериги, по-специално доставчици и потребители на AI системи. Той също така изяснява връзката между отговорностите съгласно Закона за ИИ и отговорностите, които вече съществуват съгласно друго законодателство, като например съответното законодателство на ЕС за защита на данните или секторно законодателство.
При някои употреби на AI се счита за риск неприемлив и следователно тези системи ще бъдат забранени в ЕС. Временното споразумение забранява например когнитивните поведенческа манипулация, ненасочените бракуване изображения на лица от интернет или видеонаблюдение, разпознаване на емоции на работното място и в образователните институции, социално оценяване, биометрична категоризация за извеждане на чувствителни данни, като сексуална ориентация или религиозни убеждения, и някои случаи на предсказуем полицейски контрол за физически лица.
Изключения от правоприлагащите органи
Имайки предвид спецификата на правоприлагащите органи и необходимостта да запазят способността си да използват ИИ в жизненоважната си работа, бяха договорени няколко промени в предложението на Комисията, свързани с използването на системи с ИИ за целите на правоприлагането. При спазване на подходящи гаранции, тези промени имат за цел да отразят необходимостта от спазване на поверителността на чувствителни оперативни данни във връзка с техните дейности. Например, беше въведена спешна процедура, позволяваща на правоприлагащите органи да разположат високорисков AI инструмент, който не е преминал оценяване на съответствието процедура в случай на спешност. Въведен е обаче и специфичен механизъм, който да гарантира това основните права ще бъдат достатъчно защитени срещу евентуални злоупотреби със системите за изкуствен интелект.
Освен това, що се отнася до използването на реално време дистанционна биометрична идентификация системи в обществено достъпни пространства, временното споразумение изяснява целите, когато такова използване е строго необходимо за целите на правоприлагането и за които следователно правоприлагащите органи следва да имат право по изключение да използват такива системи. Компромисното споразумение предвижда допълнителни предпазни мерки и ограничава тези изключения до случаи на жертви на определени престъпления, предотвратяване на истински, настоящи или предвидими заплахи, като терористични атаки, и издирвания на хора, заподозрени в най-тежките престъпления.
Системи с изкуствен интелект с общо предназначение и модели на основата
Добавени са нови разпоредби, за да се вземат предвид ситуации, при които AI системите могат да се използват за много различни цели (AI с общо предназначение), и когато AI технологията с общо предназначение впоследствие е интегрирана в друга система с висок риск. Временното споразумение също така разглежда специфичните случаи на системи с ИИ с общо предназначение (GPAI).
Договорени са и конкретни правила модели на основата, големи системи, способни компетентно да изпълняват широк набор от отличителни задачи, като например генериране на видео, текст, изображения, разговор на страничен език, изчисления или генериране на компютърен код. Временното споразумение предвижда, че моделите на основата трябва да отговарят на специфични задължения за прозрачност преди да бъдат пуснати на пазара. Въведен е по-строг режим за 'висока степен на въздействие' модели на основата. Това са базови модели, обучени с голямо количество данни и с усъвършенствана сложност, възможности и производителност доста над средното, което може да разпространи системни рискове по веригата на стойността.
Нова архитектура на управление
Следвайки новите правила относно моделите на GPAI и очевидната необходимост от прилагането им на ниво ЕС, ан AI Office в рамките на Комисията е създадена със задача да наблюдава тези най-модерни модели на ИИ, да допринася за насърчаване на стандарти и практики за тестване и да прилага общите правила във всички държави-членки. А научен панел от независими експерти ще съветва Службата за изкуствен интелект относно моделите на GPAI, като допринася за разработването на методологии за оценка на възможностите на моделите на фундаменти, съветва относно определянето и появата на модели на фундаменти със силно въздействие и наблюдава възможните рискове за безопасността на материалите, свързани с моделите на фундаменти.
- AI дъска, който ще се състои от представители на държавите-членки, ще остане като координационна платформа и консултативен орган към Комисията и ще даде важна роля на държавите-членки при прилагането на регламента, включително разработването на кодекси на практика за модели на основаване. Накрая ан консултативен форум за заинтересовани страни, като представители на индустрията, малки и средни предприятия, стартиращи фирми, гражданско общество и академични среди, ще бъдат създадени, за да предоставят техническа експертиза на борда на AI.
Санкции
Глобите за нарушения на закона за ИИ бяха определени като процент от глобалния годишен оборот на компанията-нарушител през предходната финансова година или предварително определена сума, която от двете е по-висока. Това ще бъде 35 милиона евро или 7% за нарушения на забранените приложения за изкуствен интелект, 15 милиона евро или 3% за нарушения на задълженията на закона за изкуствен интелект и 7,5 милиона евро или 1,5% за предоставяне на невярна информация. Временното споразумение обаче предвижда по-пропорционални капачки относно административните глоби за МСП и стартиращи фирми при нарушения на разпоредбите на ЗИ.
Компромисното споразумение също така изяснява, че физическо или юридическо лице може да подаде жалба до съответния орган за надзор на пазара относно неспазване на закона за ИИ и може да очаква, че такава жалба ще бъде разгледана в съответствие със специалните процедури на този орган.
Прозрачност и защита на основните права
Временното споразумение предвижда a оценка на въздействието върху основните права преди високорискова AI система да бъде пусната на пазара от нейните внедрители. Временното споразумение също предвижда увеличение прозрачност по отношение на използването на високорискови AI системи. По-конкретно, някои разпоредби от предложението на Комисията бяха изменени, за да се посочи, че някои потребители на високорискова система с ИИ, които са публични субекти, също ще бъдат задължени да се регистрират в База данни на ЕС за високорискови AI системи. Освен това, новите добавени разпоредби поставят акцент върху задължение за потребителите на an система за разпознаване на емоции да информира физически лица, когато са изложени на такава система.
Мерки в подкрепа на иновациите
С оглед на създаването на правна рамка, която е по-благоприятна за иновациите и за насърчаване на основано на доказателства регулаторно обучение, разпоредбите относно мерки в подкрепа на иновациите са съществено променени в сравнение с предложението на Комисията.
По-специално, беше изяснено, че AI регулаторни пясъчници, които трябва да създадат контролирана среда за разработване, тестване и валидиране на иновативни AI системи, трябва също да позволяват тестване на иновативни AI системи в реални условия. Освен това бяха добавени нови разпоредби, позволяващи тестване на AI системи в условия на реалния свят, при определени условия и предпазни мерки. За да се облекчи административната тежест за по-малките дружества, временното споразумение включва списък с действия, които трябва да бъдат предприети в подкрепа на такива оператори, и предвижда някои ограничени и ясно посочени дерогации.
Влизане в сила
Временното споразумение предвижда прилагането на закона за ИИ две години след влизането му в сила, с някои изключения за конкретни разпоредби.
Следващи стъпки
След днешното временно споразумение работата ще продължи на техническо ниво през следващите седмици, за да се финализират детайлите на новия регламент. Председателството ще представи компромисния текст на представителите на държавите-членки (Корепер) за одобрение, след като тази работа приключи.
Целият текст ще трябва да бъде потвърден от двете институции и да бъде подложен на правно-езикова редакция преди официалното приемане от съзаконодателите.
Основна информация
Предложението на Комисията, представено през април 2021 г., е ключов елемент от политиката на ЕС за насърчаване на развитието и навлизането в единния пазар на безопасен и законен ИИ, който зачита основните права.
Предложението следва основан на риска подход и установява единна, хоризонтална правна рамка за ИИ, която има за цел да гарантира правна сигурност. Проектът на регламент има за цел да насърчи инвестициите и иновациите в ИИ, да подобри управлението и ефективното прилагане на съществуващото законодателство относно основните права и безопасност и да улесни развитието на единен пазар за приложения на ИИ. Той върви ръка за ръка с други инициативи, включително координирания план за изкуствен интелект, който има за цел да ускори инвестициите в ИИ в Европа. На 6 декември 2022 г. Съветът постигна споразумение за общ подход (мандат за преговори) по това досие и започна междуинституционални разговори с Европейския парламент („трилози“) в средата на юни 2023 г.
EU Reporter публикува статии от различни външни източници, които изразяват широк спектър от гледни точки. Позициите, заети в тези статии, не са непременно тези на EU Reporter.
