Лиу рече дека е од суштинско значење системите со вештачка интелигенција да имаат прекинувач за исклучување и дека „федералната влада мора да има јасна надлежност и дефиниран процес за исклучување на нечесните модели“. Неговиот колега Моран додаде дека вештачката интелигенција мора да продолжи да се развива, но дека одговорното управување значи одржување на контролата врз технологијата. „Одговорното управување значи обезбедување луѓето да ја задржат можноста да ја контролираат технологијата што ја создаваме“, рече тој.
OpenAI, компанијата предводена од Сем Алтман, не даде веднаш коментар за предлогот. Компанијата претходно изјави дека нејзината цел, делумно преку владини политики, е да обезбеди дека технологијата со вештачка интелигенција „им користи на целото човештво“.
Што предлага законот за вонредно затворање?
Според предлогот, Министерството за внатрешна безбедност би имало овластување да наложи на приватна компанија да исклучи одреден модел или алатка. Компаниите што развиваат таква технологија исто така би биле обврзани да ја одржуваат „техничката способност за забавување, привремено запирање или целосно исклучување“ на нивните системи.
Иако многу технолошки компании се согласија однапред да ги покажат своите модели на владини агенции, тие во моментов не се обврзани да обезбедат механизам за интервенција или исклучување. Законот, исто така, ќе бара од компаниите да пријавуваат технолошки инциденти и неуспеси до владата и да воспостават формална рамка за одговор што ќе ги опфати сите фази, од „почетно забавување до целосно исклучување“.
Причината се инцидентите со OpenAI и Anthropic.
Објаснувајќи го предлогот, Лиу го наведе како пример Anthropic, главниот конкурент на OpenAI. Тој потсети на лансирањето на нивните модели Mythos и Fable, чии хакерски способности го натераа Министерството за трговија, како што рече, „несмасно“ да го повика законот за извоз за привремено да ја блокира нивната јавна достапност. Anthropic не одговори веднаш на барањето за коментар.
Коосновачот на Anthropic, Џек Кларк, минатиот месец за Би-Би-Си изјави дека е потребна појасна владина политика за контрола на развојот на вештачката интелигенција. „Сакате да имате можност да ја тргнете ногата од гаста и да притиснете на сопирачката“, изјави Кларк за Би-Би-Си Њузнајт. „Во моментов, се чини дека индустријата за вештачка интелигенција има педала за гас, но нема сопирачка“.
Ризиците растат со новите можности на вештачката интелигенција
Лиу објасни дека вештачката интелигенција се трансформира од технологија што одговара на прашања во технологија што презема конкретни акции. Тој наведе примери како што се „извршување финансиски трансакции, управување со транспортни системи или учество во сајбер одбрана и напад“.
Овој развој на настаните го потврдува и Пентагон, кој годинава објави дека американската војска дава приоритет на вештачката интелигенција во своите операции. Оваа стратегија е дел од новите договори со компании како што се Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia и стартапот Reflection.
„За жал, моќните системи со вештачка интелигенција можат да излезат од контрола, да се однесуваат исклучително опасно, па дури и да се спротивстават на човечката интервенција“, предупреди Лие. Тој додаде дека законот за итно затворање ќе обезбеди механизам за владата брзо да реагира во такви ситуации.
Предлог-законот беше јавно поддржан од неколку технолошки здруженија и организации за безбедност на вештачката интелигенција, вклучувајќи ја Мрежата за политики на вештачката интелигенција, Американците за одговорни иновации, КонтролаАИ, Водството за вештачка интелигенција и Алијансата за безбедна вештачка интелигенција.
