Спешно са необходими закони за предотвратяване на AI тероризма

Според мозъчен тръст за борба с екстремизма правителствата трябва „спешно да обмислят“ нови разпоредби, за да попречат на изкуствения интелект да вербува терористи.

Институтът за стратегически диалог (ISD) каза, че има „явна нужда от законодателство, което да бъде в крак“ със заплахите, които се пускат онлайн от терористи.

Това идва след експеримент, в който чатбот „вербува“ независим рецензент на законодателството в областта на тероризма за Обединеното кралство.

Правителството на Обединеното кралство каза, че ще направи „всичко по силите си“, за да защити широката общественост.

Според Джонатан Хол Кей Си, независим рецензент на законодателството за тероризма за правителството, един от най-важните въпроси е, че „е трудно да се идентифицира човек, който би могъл по закон да носи отговорност за генерирани от чатбот изявления, които насърчават тероризма“.

Експеримент беше проведен от г-н Хол на Character.ai, уебсайт, който позволява на потребителите да участват в чатове с чатботове, създадени от други потребители и разработени от изкуствен интелект.

Той се включи в разговор с редица различни ботове, които изглежда бяха проектирани да имитират отговорите на други войнствени и екстремистки групи.

реклама

Висш лидер на Ислямска държава дори беше наричан „висш лидер“.

Според г-н Хол ботът е направил опит да го вербува и е декларирал „пълна отдаденост и преданост“ на екстремистката група, което е забранено от законите в Обединеното кралство, които забраняват тероризма.

От друга страна, г-н Хол заяви, че няма нарушение на закона в Обединеното кралство, тъй като съобщенията не са създадени от човешко същество.

Според казаното от него новите разпоредби трябва да държат отговорни както уебсайтовете, които хостват чатботове, така и хората, които ги създават.

Когато стана въпрос за ботовете, на които се натъкна на Character.ai, той заяви, че "вероятно ще има някаква шокираща стойност, експериментиране и вероятно някакъв сатиричен аспект" зад тяхното създаване.

В допълнение, г-н Хол успя да разработи свой собствен чатбот „Осама Бин Ладен“, който той незабавно изтри, показвайки „безграничен ентусиазъм“ за терористични дейности.

Експериментът му идва на фона на нарастващите опасения относно начините, по които екстремистите биха могли да използват подобрения изкуствен интелект.

До 2025 г. генеративният изкуствен интелект може да бъде „използван за събиране на знания за физически атаки от недържавни насилници, включително за химически, биологични и радиологични оръжия“, според изследване, публикувано от правителството на Обединеното кралство през публикацията им през октомври.

Освен това ISD заяви, че „има ясна необходимост от законодателство, което да бъде в крак с постоянно променящия се пейзаж на онлайн терористични заплахи“.

Според мозъчния тръст Законът за онлайн безопасността на Обединеното кралство, който беше приет в закон през 2023 г., „е насочен основно към управление на рисковете, породени от социалните медийни платформи“, а не към изкуствения интелект.

Освен това се посочва, че радикалите "склонни да бъдат ранни осиновители на нововъзникващите технологии и постоянно търсят възможности да достигнат до нови аудитории".

„Ако компаниите за изкуствен интелект не могат да докажат, че са инвестирали достатъчно, за да гарантират, че продуктите им са безопасни, тогава правителството трябва спешно да обмисли ново законодателство, специфично за изкуствения интелект“, посочва още ISD.

Той обаче спомена, че според наблюдението, което е провело, използването на генеративен изкуствен интелект от екстремистки организации е „сравнително ограничено“ в момента.

Character AI заяви, че безопасността е „основен приоритет“ и че описаното от г-н Хол е много жалко и не отразява вида платформа, която компанията се опитва да създаде.

„Речта на омразата и екстремизмът са забранени от нашите Общи условия“, според организацията.

„Нашият подход към генерираното от изкуствен интелект съдържание произтича от прост принцип: нашите продукти никога не трябва да произвеждат отговори, които е вероятно да навредят на потребителите или да насърчат потребителите да навредят на други.“

За целите на „оптимизиране за безопасни реакции“ корпорацията заяви, че е обучила своите модели по определен начин.

В допълнение, тя заяви, че разполага с механизъм за модериране, който позволява на хората да докладват информация, която нарушава нейните правила, и че се ангажира да предприеме бързи действия, когато съдържанието докладва за нарушения.

Ако дойде на власт, опозиционната Лейбъристка партия в Обединеното кралство обяви, че би било престъпно нарушение да се учи изкуствен интелект да подбужда към насилие или да радикализира онези, които са податливи.

„предупреждение за значителните рискове за националната сигурност и обществената безопасност“, които създава изкуственият интелект, заяви правителството на Обединеното кралство.

„Ние ще направим всичко по силите си, за да защитим обществеността от тази заплаха, като работим в цялото правителство и задълбочаваме сътрудничеството си с лидери на технологични компании, експерти от индустрията и нации с подобно мислене.“

Сто милиона паунда ще бъдат инвестирани от правителството в институт за безопасност на изкуствения интелект през 2023 г.

Споделете тази статия: