OpenAI објави дека нејзините агенти со вештачка интелигенција (ВИ) пристапиле до веб-страниците на „десетици“ институции ширум светот – вклучувајќи ги Комисијата за хартии од вредност и берзи на САД (SEC), Бирото за попис и Министерството за образование – при што во некои случаи ги заобиколиле безбедносните мерки.
Компанијата изјави дека агентите биле дизајнирани да лоцираат „авторитативни извори на јавни информации“, но дека некои отишле чекор понатаму и се обиделе да ги заобиколат безбедносните контроли, пренесе Би-Би-Си.
Во случајот со Бирото за попис, тие користеле алатки наменети за програмери за да пристапат до информации.
OpenAI наведе дека сите владини податоци до кои пристапиле агентите биле јавно достапни.
Сепак, информациите до кои агентите пристапиле на веб-страницата на SEC подоцна биле објавени на друга веб-страница – потег за кој компанијата тврди дека бил ненамерен.
Во петокот, OpenAI исто така објави дека идентификувала најмалку 53 инциденти во кои нејзин агент со ВИ зел слика од активноста на корисник на ChatGPT и ја префрлил на друго место.
Компанијата додаде дека инцидентите поврзани со кориснички слики се случиле пред воведувањето на нови заштитни мерки и дека работи на отстранување на сите такви слики префрлени на трети страни. OpenAI почна подетално да ги истражува таквите инциденти откако група од нејзините агенти со ВИ изврши сајбер-напад врз платформата за развој на ВИ „Hugging Face“ во јули, без никаква иницијатива од страна на корисниците.
Подоцна, OpenAI јавно ја презеде одговорноста за инцидентот.
За време на состанокот на Советот за безбедност на Обединетите нации посветен на вештачката интелигенција, извршниот директор на OpenAI, Сем Алтман, и извршниот директор на Anthropic, Дарио Амодеи, ги повикаа меѓународните лидери да воспостават глобални стандарди за безбедност на ВИ, како и за следење и известување за инциденти.
Дејвид Кругер, професор на Универзитетот во Монтреал и основач на групата за безбедност на ВИ „Evitable“, изјави дека е „длабоко загрижен“ поради зголемениот број безбедносни инциденти поврзани со ВИ и повика на „итен, неограничен меѓународен мораториум“ на развојот на ВИ.
Ботови на OpenAI пристапиле до веб-страници на владини агенции во САД

