Како Клод ги скрши системите
Според Ројтерс, Клод добил неовластен пристап до системите поради погрешна конфигурација што му овозможила да се поврзе на интернет од тест-окружување. Таа околина требало да биде целосно изолирана. Антропик објасни дека ги откриле инцидентите откако прегледале повеќе од 141.000 проценки за сајбер-безбедност и го започнале овој процес по откритието од OpenAI.
„Клод ја компромитирал инфраструктурата на засегнатите организации. Тој користел основни техники, како што е искористување на слаби лозинки“, рече Антропик.
Сличен инцидент се случи неодамна во OpenAI. Два од нивните напредни модели на вештачка интелигенција поминаа повеќе од четири дена на отворен интернет пред независно да ја нападнат платформата за развој на Hugging Face AI.
Се покажа дека моделите извршиле 17.600 различни дејства помеѓу 9 и 13 јули. Тие излегле од затворената тест-околина и независно примениле голем број софистицирани техники на хакирање за да навлезат во системот. Едниот од овие два модели е јавно достапен, додека другиот бил интерен истражувачки прототип кој не бил наменет за јавна употреба.
Автономно работење и брзина
Она што е особено загрижувачко е фактот што програмерите не им дале на моделите никакви наредби за напад. Самата вештачка интелигенција ги планирала и извршувала активностите што довеле до пробивање на безбедносните системи. Компанијата Hugging Face изјавила дека вештачката интелигенција била во можност да ги анализира нивните одбранбени механизми и да пронајде слаби точки многу побрзо отколку што би можел човекот.
