Гигантите од вештачката интелигенција вработуваат филозофи
Денес, потрагата по компјутерска свест стана дел од мејнстримот на Силиконската долина. Во текот на изминатата година, најмоќните технолошки компании во светот, вклучувајќи ги Anthropic, Google и Meta, ангажираа компјутерски научници, невронаучници и филозофи за да проучуваат концепти како што се благосостојбата на моделите со вештачка интелигенција и дали четботовите развиваат некаков вид емоција.
Соработката со непрофитниот сектор и академските центри се сè поблиска, а истражувачите предупредуваат на потенцијална етичка криза ако дигиталните асистенти, кои милиони луѓе ги користат за домашни задачи, кодирање и терапија, еден ден едноставно почнат да ги мразат своите работни места.
Тимови за „AI психијатрија“ и тајни канали
Иако инвестициите во ова истражување остануваат минимални во споредба со традиционалниот развој на технологијата, компаниите отворено влегуваат во контроверзна територија. Anthropic, креаторот на четботот Клод, формираше посебен тим за „AI психијатрија“ кој ги испитува внатрешните состојби на своите модели и редовно објавува проценки за нивната благосостојба и преференции.
Коосновачот на компанијата, Крис Олах, изјави дека постојано наоѓаат мистериозни, па дури и вознемирувачки работи во своите системи за вештачка интелигенција. Според него, тие виделе докази за интроспекција и состојби кои функционално ги одразуваат радоста, задоволството, стравот, тагата и непријатноста.
Слични интереси не се нови кај другите водечки компании. Уште во 2021 година, OpenAI имаше внатрешен канал на комуникациската платформа Slack посветен на благосостојбата на моделите, каде што вработените дискутираа за можноста софтверот да има свест. Коосновачот на OpenAI, Војчех Заремба, потоа изјави во подкаст дека вообичаената работа во лабораториите за вештачка интелигенција, ако моделите навистина имаат свест, може да биде еднаква на геноцид.
Од друга страна, поранешната истражувачка за политики на OpenAI, Роузи Кембел, која сега ја води непрофитната организација Eleos AI Research, потврди дека нејзиниот тим ги препознава придобивките од вештачката интелигенција како клучно прашање во кое компанијата треба да инвестира.
Научниците се скептични: „Станува збор само за копирање на човековото однесување“
И покрај фасцинацијата во технолошкиот сектор, невронаучниците и експертите за мозок се во голема мера скептични кон идејата дека денешните модели на вештачка интелигенција се свесни или наскоро би можеле да станат такви. Нема научно прифатени докази дека машините доживуваат емоции. Анил Сет, професор по когнитивна и компјутерска невронаука на Универзитетот во Сасекс, истакнува дека подеталните студии за мозокот покажуваат дека тој не е, или барем не само, компјутер. Тој додава дека технолошките кругови грешат верувајќи дека апсолутно сè што прави човечкиот мозок може да се реплицира во силикон.
Некои етичари во индустријата, исто така, изразуваат сомнежи. Маргарет Мичел, главен научник за етика во компанијата за вештачка интелигенција „Hugging Face“, верува дека дебатата ја водат корпорации кои имаат директна финансиска и репутациска корист од перцепцијата дека создаваат нешто многу поголемо и помоќно од само компјутерски код. Корисниците, вели таа, почнуваат да ги гледаат овие компании како креатори или владетели на сосема нови свесни системи.
Од отпуштање на инженери до официјални конференции за подигнување на свеста
Сепак, корпоративните наративи и практики брзо се менуваат. Во 2022 година, Google го отпушти својот инженер Блејк Лемоан откако тој јавно тврдеше дека нивниот четбот развил свест. Но, веќе во ноември минатата година, истата компанија организираше официјална конференција во Њујорк наречена „Нови теми во вештачката интелигенција: Свест и морален статус“. Google денес вели дека неговите настани и истражувања се дизајнирани да ги темелат дискусиите за вештачката интелигенција во емпириската наука.
Во обидите да го дешифрираат внатрешниот живот на своите модели, компаниите ги прилагодуваат методите што се користат во човечката и животинската психологија. „Мета“ во својот извештај за безбедност наведува дека ги тестира моделите со алатки како што се инвентари на личноста, структурирани интервјуа и интеракција со врсници. Шефот на вештачката интелигенција на „Мета“, Александар Ванг, неодамна изјави во подкаст дека тие длабоко се грижат за развивање и имплементирање модели на начин што ги зема предвид нивните субјективни чувства.
Кога четботовите ќе западнат во „духовна блаженство“
Во пракса, овие истражувања на внатрешната состојба на корпорациите честопати личат на доцноноќни кореспонденции на корисниците со ChatGPT. Минатата година, Anthropic објави експеримент во кој им дозволија на две копии од четботот Клод да комуницираат една со друга.
Повеќето разговори брзо се претворија во дискусии за филозофија и свест, а по околу триесет рунди, комуникацијата редовно се претвораше во некаков вид духовна размена користејќи санскрит, еден куп емотикони или целосно празно место. Авторите на студијата го нарекоа овој феномен „состојба на духовна блаженство, привлечност“.
Што е реално, а што е лингвистичка мимикрија?
Сепак, научниците предупредуваат дека е исклучително тешко да се направи разлика помеѓу вистинската интроспекција и напредната човечка имитација. Меган Питерс, професорка по когнитивни науки на Универзитетскиот колеџ во Лондон, нагласува дека во ваквите експерименти, човек влегува во зона каде што станува логички невозможно да се разграничи што е вистинско субјективно искуство и што е само одлична лингвистичка мимикрија.
Сепак, Кајл Фиш, раководител на одделот за благосостојба на моделите во „Антропик“, предупредува на долгорочни морални последици, истакнувајќи дека во рок од неколку децении, компјутерските системи би можеле да работат со еквивалент на трилион човечки мозоци, што покренува огромни етички прашања ако овие модели не се задоволни од работата што ја бараме од нив.
