Проверка на #BigTech обещания

Моделът в Силициевата долина е твърде познат. Движете се бързо, разбивайте нещата, извинявайте се, обещайте да се справите по-добре и повторете. След почти две десетилетия от този модел ние сме изтощени, пише Д-р Хани Фарид.

Изтощени сме от зрелищни неуспехи за защита на поверителността на потребителите, позволяващи на рекламодателите да насочват незаконно жилища и обяви за работа въз основа на раса и възраст, популяризирайки фалшиви новини, предназначени да подбуждат към насилие и да нарушават изборите, и позволявайки на терористичните групи да продължат да радикализират и вербуват онлайн. Изтощени сме от извиненията и обещанията да се справим по-добре.

Политиците и рекламодателите са все по-гласни в разочарованието си от липсата на агресивни компании, които се занимават агресивно с всичко - от радикализиращи материали, свързани с терора, до сексуално явно съдържание, насочено към деца. В отговор YouTube миналата седмица обяви, че е премахнал над 8 милиона видеоклипа през предходните три месеца, повечето от които са спам или съдържание за възрастни. Общо 6.7 милиона от изтритото съдържание бяха автоматично идентифицирани от машини, 76% от които бяха премахнати, преди да получат единичен изглед.

YouTube също съобщава, че повече от половината от видеоклиповете за насилствен екстремизъм са премахнати с по-малко от 10 гледания. Не ни се казва обаче колко от тези видеоклипове са свалени и, разбира се, не знаем колко видеоклипове остават онлайн, пропуснати от алгоритмите на YouTube или от човешките модератори.

На пръв поглед тези цифри звучат обещаващо, но по-внимателният поглед рисува различна картина. За период от седем седмици между 8 март и 26 април тази година, ние използвахме собствената си технология, за да идентифицираме присъствието на платформата на YouTube само на 256 предварително идентифицирани от ИДИЛ видеозаписи, свързани с тероризма. Ето какво научихме:

1. Не по-малко от 942 видеоклипа на ISIS бяха качени в YouTube.

2. Тези 942 видеоклипа събраха общо 134,644 XNUMX гледания.

3. Въпреки че 74% от видеоклиповете са останали в YouTube за по-малко от два часа, в този времеви прозорец тези видеоклипове са събрали средно по 12 гледания всеки, с максимален брой гледания 252.

4. За видеоклипове, които са били достъпни за повече от два часа, средният брой показвания за 48-часов прозорец е 515 с максимален брой показвания 9,589 (спряхме да проследяваме показвания след 48-часов прозорец).

5. Тези 942 видеоклипа бяха качени от 157 различни акаунта в YouTube, някои от които качиха цели 70 видеоклипа, преди каналът да бъде премахнат от администраторите на YouTube или изтрит от потребителя.

6. Приблизително 91% от видеоклиповете, които открихме, бяха качени повече от веднъж и останаха онлайн поне достатъчно дълго, за да го намерим.

Да дам само един конкретен пример - видеоклип със заглавие Ловете ги за монотеист, пуснат първоначално от сомалийския филиал на ISIS на 25 декември 2017 г., насърчава огнестрелни и автомобилни атаки в западните страни, включително Париж и Лондон. Това видео беше качено в YouTube на 10 март 2018 г., беше достъпно за 29 часа и получи 405 гледания, преди да бъде премахнато. Това видео е качено повторно на 11 март от друг акаунт и е било достъпно в продължение на 39 часа и е получило 113 гледания, преди да бъде премахнато отново. След това този видеоклип отново беше качен и изтрит поне още шест пъти през седемседмичния прозорец, като колективно получи още 875 показвания.

Няколко модела са получени от нашия анализ. Въпреки твърденията, че използва автоматични инструменти за намиране и премахване на свързано с терори съдържание, виждаме едно и също съдържание да се качва многократно в YouTube, често от един и същ акаунт. Това съдържание остава онлайн онлайн от часове до дни и се разглежда стотици до хиляди пъти. Веднъж премахнато, същото съдържание просто се качва отново, което означава, че то е ефективно на разположение през цялото време. Ако малка организация с нестопанска цел като Проект за борба с екстремизма с ограничени финансови и изчислителни ресурси може да намери съдържание на тези платформи, ние не виждаме причина самите платформи да не могат да направят същото.

Изводът е, че твърде много съдържание, свързано с терора, намира своя път онлайн, то остава твърде дълго онлайн и продължава да се появява отново, дори ако в крайна сметка бъде свалено.

Въпреки че сме забелязали известен напредък в сравнение с преди няколко години, все още има значителни пропуски в развитието и внедряването на технологиите за бързо и точно намиране и премахване на свързано с терори съдържание. В допълнение към подобряването на съществуващите технологии, индустрията трябва да направи повече, за да разработи и внедри нова технология, за да се бори с постоянно променящия се пейзаж - и това трябва да надхвърля неясните обещания за използване на ИИ след пет до десет години за решаване на проблемите, които сме изправени днес.

Политиците, рекламодателите и обществеността трябва да продължат да оказват натиск върху технологичните компании да поемат по-голяма отговорност за пряката и измерима вреда, произтичаща от злоупотребите на техните платформи. Ако тези технологични компании не реагират по-ефективно, тогава политиците трябва да обмислят глоби (както имат германците), а рекламодателите трябва да обмислят задържане на рекламни долари (както Unilever заплаши да направи).

Д-р Хани Фарид е професор и треньор по компютърни науки в Дартмутския колеж от Алберт Брадли от 1915 г. и старши съветник в проекта за борба с екстремизма.

Споделете тази статия: