Изкуствен интелект: Заплахи и възможности

Растежът и богатството на Европа са тясно свързани с това как тя ще използва данните и свързаните технологии. ИИ може да направи голяма разлика в живота ни и общество - за добро или лошо - и Европейският парламент създаде a комисия да проучи въздействието на технологията. По-долу са дадени някои ключови възможности и заплахи, свързани с бъдещи приложения на AI.

Прочетете повече за това какво е изкуственият интелект и как се използва.

Предимства на AI

Страните от ЕС вече са силни в цифровата индустрия и приложенията за бизнес от бизнес. С висококачествена цифрова инфраструктура и регулаторна рамка, която защитава неприкосновеността на личния живот и свободата на словото, ЕС би могъл станете световен лидер в икономиката на данни и нейните приложения.

Ползи от AI за хората

AI може да помогне на хората с подобрени здравни грижи, по-безопасни автомобили и други транспортни системи, съобразени, по-евтини и по-дълготрайни продукти и услуги. Той също така може да улесни достъпа до информация, образование и обучение. Необходимостта от дистанционно обучение стана по-важна поради Пандемия COVID-19. AI също може да направи работното място по-безопасно, тъй като роботите могат да се използват за опасни части от работните места и да отварят нови работни места, докато индустриите, управлявани от AI, растат и се променят.

реклама

Възможности на изкуствения интелект за бизнеса

За бизнеса AI може да даде възможност за разработване на ново поколение продукти и услуги, включително в сектори, в които европейските компании вече имат силни позиции: зелена и кръгова икономика, машини, земеделие, здравеопазване, мода, туризъм. Той може да увеличи продажбите, да подобри поддръжката на машината, да увеличи продукцията и качеството на производството, да подобри обслужването на клиентите, както и да спести енергия.

Възможности за изкуствен интелект в публичните услуги

ИИ, използван в обществените услуги, може да намали разходите и да предложи нови възможности в обществения транспорт, образованието, енергетиката и управлението на отпадъците, а също така може да подобри устойчивостта на продуктите. По този начин AI може да допринесе за постигане на целите на Зелена сделка на ЕС.

Укрепване на демокрацията

Демокрацията може да бъде засилена чрез използване на базиран на данни контрол, предотвратяване дезинформация и кибер атаки и осигуряване на достъп до качествена информация. AI също може да подкрепи многообразието и откритостта, например като смекчи възможността за предразсъдъци при наемане на решения и вместо това използва аналитични данни.

AI, сигурност и безопасност

Предвижда се изкуственият интелект да се използва повече в превенцията на престъпността и системата на наказателното правосъдие, тъй като масивните масиви от данни могат да се обработват по-бързо, рисковете от полети на затворници се оценяват по-точно, престъпността или дори терористичните атаки се прогнозират и предотвратяват. Вече се използва от онлайн платформи за откриване и реагиране на незаконно и неподходящо онлайн поведение.

Във военни въпроси AI може да се използва за стратегии за отбрана и атака при хакване и фишинг или за насочване на ключови системи в кибервойната, докато ключовото предимство на автономните оръжейни системи е потенциалът за въоръжен конфликт с намален риск от физическа вреда.

Заплахи и предизвикателства на ИИ

Нарастващата зависимост от системите за изкуствен интелект също представлява потенциални рискове.

Недостатъчно използване и прекомерна употреба на ИИ

Недостатъчното използване на изкуствения интелект се счита за основна заплаха: пропуснатите възможности за ЕС могат да означават лошо изпълнение на големи програми, като например Зелената сделка на ЕС, загуба на конкурентно предимство спрямо други части на света, икономическа стагнация и по-лоши възможности за хората. Недостатъчното използване може да произтича от недоверието на обществото и бизнеса към AI, лоша инфраструктура, липса на инициатива, ниски инвестиции или, тъй като машинното обучение на AI зависи от данните, от фрагментирани цифрови пазари.

Прекалената употреба също може да бъде проблематична: инвестиране в приложения за ИИ, които се оказват не полезни, или прилагане на ИИ за задачи, за които не е подходящо, например използването му за обяснение на сложни обществени проблеми.

Отговорност: Кой е отговорен за щетите, причинени от AI?

Важно предизвикателство е да се определи кой е отговорен за щети, причинени от устройство или услуга, управлявани от ИИ: при инцидент със самоуправляващ се автомобил. Трябва ли да се поемат щетите от собственика, производителя на автомобила или програмиста?

Ако производителят беше абсолютно свободен от отговорност, може да няма стимул за предоставяне на добър продукт или услуга и това може да навреди на доверието на хората в технологията; но разпоредбите също могат да бъдат твърде строги и да задушат иновациите.

Заплахи от ИИ за основните права и демокрацията

Резултатите, които AI произвежда, зависят от това как е проектиран и какви данни използва. Както дизайнът, така и данните могат да бъдат преднамерено или неволно предубедени. Например, някои важни аспекти на даден проблем може да не бъдат програмирани в алгоритъма или да бъдат програмирани да отразяват и възпроизвеждат структурни пристрастия. Освен това използването на числа за представяне на сложна социална реалност може да направи ИИ да изглежда фактически и точен, когато не е така. Това понякога се нарича измиване на математиката.

Ако не бъде направено правилно, AI може да доведе до решения, повлияни от данни за етническа принадлежност, пол, възраст при наемане или уволнение, предлагане на заеми или дори в наказателно производство.

AI може сериозно да засегне правото на неприкосновеност на личния живот и защита на данните. Може да се използва например в оборудване за разпознаване на лица или за онлайн проследяване и профилиране на лица. В допълнение, AI позволява обединяване на части от информацията, която човек е дал, в нови данни, което може да доведе до резултати, които човек не би очаквал.

Той може също да представлява заплаха за демокрацията; AI вече е обвинен за създаването на онлайн ехо камери въз основа на предишното онлайн поведение на човек, показвайки само съдържание, което човек би желал, вместо да създава среда за плуралистичен, еднакво достъпен и приобщаващ обществен дебат. Може дори да се използва за създаване на изключително реалистични фалшиви видео, аудио и изображения, известни като дълбоки фалшификати, които могат да представляват финансови рискове, да навредят на репутацията и да предизвикат вземането на решения. Всичко това може да доведе до разделяне и поляризация в публичната сфера и да манипулира изборите.

AI също може да играе роля за увреждане на свободата на събранията и протестите, тъй като може да проследява и профилира лица, свързани с определени убеждения или действия.

Въздействие на AI върху работните места

Използването на ИИ на работното място се очаква да доведе до премахване на голям брой работни места. Въпреки че AI също се очаква да създаде и да създаде по-добри работни места, образованието и обучението ще имат решаваща роля за предотвратяване на дългосрочна безработица и ще осигурят квалифицирана работна сила.

Натрупването на информация също може да доведе до нарушаване на конкуренцията, тъй като компаниите с повече информация могат да получат предимство и ефективно да премахнат конкурентите.

Рискове за безопасността и сигурността

Приложенията за ИИ, които са във физически контакт с хора или са интегрирани в човешкото тяло, могат да представляват риск за безопасността, тъй като те могат да бъдат лошо проектирани, злоупотребени или хакнати. Лошо регулираното използване на ИИ в оръжията може да доведе до загуба на човешки контрол над опасните оръжия.

Предизвикателства за прозрачността

Може да се използва дисбаланс в достъпа до информация. Например, въз основа на онлайн поведението на човек или други данни и без тяхно знание, онлайн доставчикът може да използва AI, за да предскаже, че някой е готов да плати, или политическа кампания може да адаптира посланието му. Друг проблем с прозрачността е, че понякога за хората може да е неясно дали си взаимодействат с ИИ или с човек.