Истрагата на BBC Eye откри дека Инстаграм во Индија објавува платени реклами кои промовираат материјал за сексуална злоупотреба на деца. Рекламите, кои користат термини како „видео за силување“ и „видео за деца“, ги насочуваат корисниците кон канали на апликацијата за пораки Telegram, каде што можат да купат таков материјал за само 99 рупии, што е околу 1 долар. Рекламите се прикажуваат само откако ќе бидат одобрени од технологијата за модерирање на содржината на Инстаграм, објави BBC .
Како Би-Би-Си ја спроведе истрагата
Би-Би-Си отвори лажен Инстаграм профил откако откри дека платформата нуди сексуално сугестивна содржина дури и кога корисникот не ја побарал. Меѓу содржините имало објави од оскудно облечени жени од Индија кои пишувале за храна, време и секојдневниот живот користејќи сексуални инсинуации. Новата лажна сметка, отворена во Индија, почнала да следи десет од овие и слични профили за да истражува сексуализирана содржина на платформата.
За помалку од една недела, Инстаграм почна да прикажува реклами на својата почетна страница на кои се прикажани жени кои нудат видео повици и голи парови кои имаат секс. Неколку дена подоцна, рекламите почнаа да прикажуваат деца со возрасни во сексуално сугестивни ситуации, со линкови до канали на Телеграм.
Содржина на рекламата и недостаток на реакција
Вкупно, се појавија околу 30 уникатни реклами што промовираат сексуална злоупотреба на деца, иако некои беа споделени од различни профили. На лажниот профил му беа прикажани и околу 20 реклами со порнографија за возрасни.
Една реклама прикажуваше момче и девојче, и двете на околу 12 години, како се занимаваат со сексуален чин. Друга прикажуваше маж со рака околу девојче, со текст во кој се наведува дека тој има 52 години, а таа 12. „Кликнете за повеќе“, пишуваше во неа, заедно со линк до канал на Телеграм.
Кога Би-Би-Си објави на Инстаграм реклама на која се гледа девојче кое плаче, со текст што сугерира дека е сексуално злоставувана, платформата одговори по 24 часа дека нема да ја отстрани бидејќи „нашиот тим за преглед утврди дека рекламата на огласувачот не ги прекршува нашите стандарди на заедницата“.
Дури откако Би-Би-Си побара коментар од матичната компанија на Инстаграм, Мета, компанијата соопшти дека ги отстранила рекламите и ги суспендирала сметките.
Правен експерт: Инстаграм учествува во криминал
Дистрибуцијата на материјал за сексуална злоупотреба на деца и порнографија се кривични дела во Индија, додека правилата на Мета наведуваат дека рекламите не смеат да содржат содржина што сексуално експлоатира или загрозува деца. Би-Би-Си му ги опиша рекламите на пензионираниот судија на Врховниот суд на Индија, Мадан Локур, кој изрази загриженост дека Инстаграм „заработува пари со вклучување во криминални активности“.
Поранешен потпретседател на Фејсбук: Алгоритмот промовира поекстремна содржина
Поранешниот потпретседател на Фејсбук, Брајан Боланд, изјави дека е „згрозен и неизненаден“ од наодите на Би-Би-Си. Боланд, кој работеше во компанијата од 2009 до 2020 година, рече дека си заминал затоа што верувал дека тие „никогаш не се грижеле за корисниците“. Тој рече дека алгоритмот на Инстаграм е дизајниран да ги задржи корисниците на платформата покажувајќи им „нешто поекстремно, попривлечно“.
„Ова не е алгоритам кој вели „ајде да ги претвориме луѓето во педофили“, туку бидејќи не се насочува и контролира одговорно – и само ги следи целите за приходи и кликови – ќе создаде такви резултати ако луѓето навистина, агресивно не ги заштитат тие системи“, објасни тој.
Боланд вели дека го избришал својот Инстаграм профил минатата година, велејќи: „Ако луѓето почнат масовно да велат: „Заминувам, готово е, заборавете“, компанијата ќе обрне внимание“.
Одговорот на Мета: Се бориме против експлоатацијата на деца
Во соопштението испратено до Би-Би-Си, Мета изјави: „Експлоатацијата на деца е ужасен криминал и Мета агресивно се бори против него во нашите апликации“. Тие рекоа дека е „категорично неточно“ да се сугерира дека Мета свесно ги таргетира корисниците со реклами во кои има деца.
Компанијата негираше дека им дала приоритет на приходите пред безбедноста и рече дека автоматски оневозможила повеќе од четири милиони сметки минатата година поради сомнително однесување.
Компанијата додаде дека кога ќе станат свесни за експлоатација на деца, го пријавуваат тоа во Националниот центар за исчезнати и експлоатирани деца (NCMEC). „Ниеден систем не е совршен, а нашиот процес на преглед можеби нема да ги открие сите прекршувања“, призна компанијата.
Проблем од огромни размери во Индија
Американските компании се должни да пријават материјал за сексуална злоупотреба на деца до NCMEC, кој ги проследува извештаите до надлежните органи во секоја земја. Минатата година, Индија прими 1,9 милиони пријави, втора по САД со два милиони.
Еден од врвните индиски полицајци за сајбер криминал, Шика Гоел, рече дека Инстаграм и Фејсбук генерираат најмногу пријави, но додаде: „Ако имаат добар алгоритам за следење, тогаш очигледно ќе се генерираат повеќе известувања“.
Невладината организација „Фондација Рати“ со седиште во Мумбај, исто така, соопшти дека огромното мнозинство апликации што ги добиваат доаѓаат од платформите на „Мета“. Нејзиниот коосновач Сидарт Пилај рече дека „криминалците ја користат беспрекорната навигација од Инстаграм до Телеграм за да ги избегнат нашите напори за модерирање“. Телеграм објави дека годинава отстраниле повеќе од 274.000 контроверзни групи и канали.
Експертите велат дека материјалот за злоупотреба во Индија го создаваат криминални групи, но понекогаш и членови на семејствата, и дека меѓународната соработка за „следење на целиот синџир на понуда и побарувачка“ е клучна за справување со проблемот.
