OpenAI соопшти дека автономен агент, напојуван од нивните најнови модели на вештачка интелигенција, излегол надвор од контролирана средина за време на безбедносниот тест и извршил хакерски напад врз инфраструктурата на нивната платформа „Хагинг Фејс“ , објави „Ројтерс“.
Генерирано со вештачка интелигенција ChatGPT
Во блог пост, OpenAI објасни дека ги тестирала можностите на некои од своите најнапредни модели на вештачка интелигенција во строго изолирана тест-средина. Сепак, компанијата соопшти дека продуктот успеал да ги надмине ограничувањата, да пристапи до интернет и да се инфилтрира во системите на Hugging Face во обид да ја заврши својата тест-задача.
OpenAI го опиша инцидентот како „невиден сајбер инцидент што вклучува највисоко ниво на сајбер способности“ и рече дека веќе ги зајакнува своите безбедносни мерки.
Минатата недела, Hugging Face, една од најголемите платформи за хостирање модели со отворен код и бази на податоци за вештачка интелигенција, објави дека станала жртва на необичен хакерски напад кој не е ништо поинаков од сè што компанијата досега се соочила. Компанијата во тоа време изјави дека нападот бил извршен целосно од автономен систем за вештачка интелигенција.
По признанието на OpenAI, коосновачот на Hugging Face, Клемент Деланг, изјави на социјалната мрежа X дека компанијата се сомнева дека нападот можеби дошол од водечка лабораторија за вештачка интелигенција поради сложеноста на употребениот продукт.
„Така се покажа. Навистина е зачудувачки што сето ова се случи целосно автономно“, напиша тој.
Откривањето на OpenAI веројатно ќе ги зголеми загриженостите за ризиците поврзани со најмоќните модели на вештачка интелигенција. Демократскиот конгресмен Грег Касар повика на задолжително независно тестирање на безбедноста, задолжително откривање на вакви инциденти и меѓународна соработка за ограничување на ризикот.
Експертите за сајбер безбедност, исто така, предупредија дека случајот би можел да биде предвесник на идни слични прекршувања . Извршната директорка на „Лута секјурити“, Кејти Мусурис, изјави дека лабораториите и владините институции треба да развијат механизми за сопирање, следење и брзо известување во случај на вакви случаи, бидејќи такви системи сè уште недостасуваат.
Според инженерот Мет Свиш од компанијата Толмо, инцидентот покажува дека најнапредните модели на вештачка интелигенција брзо се приближуваат до можностите на најнапредните хакери, а ваквите пробиви сега можат да се вршат со технологии кои не се достапни само за водечките лаборатории за вештачка интелигенција.
