Партнерството доаѓа откако моќниот нов модел на вештачка интелигенција на Anthropic, Mythos, предизвика широка загриженост минатиот месец за влијанието на вештачката интелигенција врз сајбер безбедноста, поттикнувајќи ја Белата куќа да разгледа формален процес на преглед. Според новите договори, Центарот за стандарди и иновации на вештачката интелигенција (CAISI), оддел на Министерството за трговија на САД, ќе може да ги оценува новите модели на вештачка интелигенција и нивното потенцијално влијание врз националната и јавната безбедност. Центарот, исто така, ќе спроведува истражувања откако моделите ќе бидат распоредени и досега има завршено повеќе од 40 такви евалуации.
„Независната и ригорозна наука за мерење е од суштинско значење за разбирање на најсовремената вештачка интелигенција и нејзините импликации врз националната безбедност. Оваа проширена соработка со индустријата ни помага да ја унапредиме нашата работа во јавен интерес во клучно време“, рече директорот на CAISI, Крис Фол.
Причина за нови мерки
Моделот Mythos, за кој Anthropic тврди дека е „далеку понапред“ од другите во однос на сајбер безбедноста, предизвика загриженост кај владите, банките и комуналните претпријатија во текот на изминатиот месец. Компанијата соопшти дека верува оти сè уште не е време моделот да се објави јавно и го ограничува пристапот на избрана група одобрени организации. Исто така, ги информираше високите владини претставници на САД за своите можности.
Сличен чекор презеде и OpenAI, кој минатата недела објави дека ги става своите најнапредни модели на вештачка интелигенција на располагање на сите потврдени нивоа на власт со цел да се спречат заканите овозможени од вештачката интелигенција.
Џесика Џи, виш аналитичар во Центарот за безбедност и технологии во развој при Универзитетот Џорџтаун, верува дека партнерствата ќе го олеснат тестирањето на вештачката интелигенција бидејќи му обезбедуваат на CAISI повеќе ресурси. „Тие едноставно немаат ресурси што ги имаат големите технолошки компании, без разлика дали станува збор за работна сила, технички персонал или пристап до компјутерска моќ, за да можат да ги евалуираат овие модели и да спроведат темелно тестирање“, рече таа.
Белата куќа моментално составува група експерти за да дадат совети за можен владин процес на проверка на нови модели на вештачка интелигенција, потврди Си-Ен-Ен. Ова би означило отстапување од претходниот пристап на администрацијата на Трамп, која се залагаше за полесна регулација на вештачката интелигенција.
„Секои најави за нови политики ќе дојдат директно од претседателот. Дискусиите за можни извршни наредби се шпекулации“, изјави портпаролот на Белата куќа за Си-Ен-Ен.
Иако „Мајкрософт“ редовно ги тестира своите модели, CAISI нуди дополнителна „техничка, научна и национална безбедносна експертиза“, изјави Наташа Крамптон, генерален директор на „Мајкрософт“ за одговорна вештачка интелигенција.
