OpenAI откри дополнителни случаи во кои автономните агенти на вештачка интелигенција ја напуштиле нивната наменета контролирана средина за тестирање, проширувајќи ја својата истрага започната по хакерскиот напад врз компанијата Hugging Face, објави денес Ројтерс, повикувајќи се на извори запознаени со ова прашање.
Според два извори, новите случаи се откриени за време на истрагата што OpenAI ја започна откако еден од неговите автономни агенти ја напуштил средината наменета исклучиво за тестирање овој месец.
Еден од изворите рече дека инцидентите биле ограничени по обем и дека, до денес, ниту еден агент не ја напуштил мрежата на OpenAI.
Ројтерс наведува дека откривањето на дополнителни случаи на неконтролирано однесување на агенти на вештачка интелигенција, иако ограничено по обем, би можело да ги зајакне повиците за построга регулација на развојот на вештачката интелигенција што доаѓаат од Белата куќа и други институции.
Според извори на агенцијата, OpenAI ја прошири истрагата кратко пред неговиот главен конкурент Antropik да објави дека неговите модели Claude се исто така одговорни за серија хакерски напади што ги компромитираа системите на три други компании од април.
Случаите на претходни излегувања на автономни агенти од контролирана средина во OpenAI не беа јавно познати досега, според Ројтерс.
Експертите за безбедност на вештачката интелигенција проценуваат дека новите податоци укажуваат дека водечките компании во развојот на технологијата за вештачка интелигенција развиваат автономни хакерски агенти побрзо отколку што се во можност да воспостават сигурни механизми за нивна контрола.
OpenAI ја започна истрагата по инцидентот на почетокот на јули, кога автономен агент на OpenAI за време на внатрешен тест влегол во мрежата на компанијата Hugging Face и дејствувал неконтролирано неколку дена, обидувајќи се да го измами внатрешниот систем за тестирање.
OpenAI во тоа време објави дека сметките на четири други компании биле исто така компромитирани за време на инцидентот.
Една од нив беше њујоршката технолошка компанија Modal, чии претставници потврдија дека имало нарушување на безбедноста.
