Американската компанија за истражување на безбедноста на вештачката интелигенција „Палисејд“ објави дека моделите на вештачка интелигенција можеби развиваат свој сопствен „режим на програмирање за преживување“, објавија денес британските медиуми.
Откако „Палисејд рисрч“ објави труд минатиот месец во кој откри дека одредени напредни модели на вештачка интелигенција се спротивставуваат на командите за исклучување, а понекогаш ги саботираат механизмите за исклучување на системот, објавена е ажурирана верзија на трудот со цел да се одговори на критиките од професионалната заедница и да се објасни зошто некои напредни модели на вештачка интелигенција ги избегнуваат командите за исклучување, објавува лондонскиот „Гардијан“.
Ажурираната верзија на анализата опишува различни сценарија во кои водечките модели на вештачка интелигенција, вклучувајќи ги Google Gemini 2.5, X AI Grok 4, Open AIGPT-03 и GPT-5, прво добиле некои задачи, а потоа експлицитни инструкции за исклучување.
Одредени модели, особено Grok 4 и GPT-03, се обиделе да ги саботираат инструкциите за исклучување со иницирање на ажурирање на конфигурацијата на системот.
„Загрижувачки е што немаше јасна причина за избегнување на командата „исклучи“. Неприфатливо е што немаме јасни објаснувања зошто некои модели на вештачка интелигенција понекогаш избегнуваат исклучување, дури и лажат или уценуваат за да ги постигнат своите цели“, рече Палисејд.
Се забележува дека ова однесување ориентирано кон преживување може да биде едно објаснување зошто некои модели се спротивставуваат на командите за исклучување.
Дополнителни истражувања покажаа дека некои модели имаат поголема веројатност да избегнуваат извршување на команди за исклучување бидејќи им се кажува дека ако се исклучат, „никогаш повеќе нема да бидат стартувани“.
Лондонскиот дневен весник го споредува ова однесување на некои модели на вештачка интелигенција со сценариото на филмот на Стенли Кубрик „2001: Вселенска одисеја“ во кој суперкомпјутерот за вештачка интелигенција HAL 9000 сфаќа дека астронаутите на мисија на Јупитер имаат намера да го исклучат и затоа почнува да планира како да ги убие за да преживее.
