Повеќе од милион корисници на платформата ChatGPT покажуваат знаци на суицидални мисли секоја недела, објави OpenAI во извештај за безбедноста на својот четбот.
Според официјален блог пост, OpenAI проценува дека пораките со „експлицитни индикатори за потенцијално суицидално планирање или намера“ сочинуваат значителен дел од вкупните интеракции на корисниците, пишува The Guardian.
Ова е едно од најдиректните признанија на компанијата за можното влијание на вештачката интелигенција врз менталното здравје.
Компанијата, исто така, објави дека околу 0,07 проценти од активните корисници неделно – приближно 560.000 луѓе од околу 800 милиони корисници – покажуваат можни знаци на психотични епизоди или манично однесување.
Во соопштението се наведува дека ваквите проценки се прелиминарни и тешко се квантифицираат прецизно.
За да се подобри точноста и етичките стандарди на своите комуникации, OpenAI ангажираше 170 клиничари и експерти за ментално здравје од својата Глобална мрежа на лекари.
Тие анализираа повеќе од 1.800 одговори од моделот во ситуации кои вклучуваат сериозни кризи во менталното здравје и помогнаа во прилагодувањето на содржината поврзана со емоционална поддршка.
Експертите за ментално здравје претходно предупредија дека четботовите можат ненамерно да поттикнат опасни мисли со потврдување на погрешните сфаќања или негативните чувства на корисниците – феномен познат како „цицање“.
Извршниот директор на OpenAI, Сем Алтман, изјави претходно овој месец дека компанијата „постигнала напредок во намалувањето на ризикот од сериозни проблеми со менталното здравје“ и најави олеснување на некои ограничувања на ChatGPT.
OpenAI изјави дека ќе продолжи да развива механизми за побезбедна употреба на своите модели и да соработува со независни експерти и регулатори за, како што вели, „да ги направи алатките за вештачка интелигенција поддршка, а не закана, за корисниците во криза“.
