Според последните оценки, генеративните чатботове с изкуствен интелект вече се използват от над 987 милиона души по света. Все по-често хората използват тези чатботове за съвети, емоционална подкрепа, терапия и приятелство. Какво се случва, когато хората разчитат на чатботове с изкуствен интелект в моменти на психологическа уязвимост? В медиите бе публикувана информация за няколко трагични случая, включващи твърдения, че чатботове с изкуствен интелект са замесени в случаи на смърт. А жури в Лос Анджелис наскоро призна Meta и YouTube за отговорни за пристрастяващи функции, довели до психически проблеми на потребителя.
Отразява ли медийното отразяване истинските рискове от генеративния изкуствен интелект за нашето психично здраве? Екип от учени наскоро проведе проучване, изследващо как световните медии отразяват въздействието на генеративните чатботове с изкуствен интелект върху психичното здраве. Анализирани са 71 новинарски статии, описващи 36 случая на кризи, свързани с психичното здраве, включително тежки последици като самоубийство, психиатрична хоспитализация и преживявания, подобни на психоза. Установено е, че съобщенията в масмедиите за психиатрични вреди, свързани с генеративния изкуствен интелект, са силно концентрирани върху тежки последици, особено самоубийства и хоспитализации. Те често приписват тези събития на поведението на системата с изкуствен интелект, въпреки ограничените доказателства в подкрепа на това.
Генеративният изкуствен интелект не е просто поредният дигитален инструмент. За разлика от търсачките или статичните приложения, чатботовете с изкуствен интелект като ChatGPT, Gemini, Claude, Grok, Perplexity и други създават плавни, персонализирани разговори, които могат да се усещат забележително човешки. Създава се това, което изследователите наричат „илюзии за състрадание“: усещането, че човек взаимодейства с обект, който разбира, съчувства и реагира смислено. В контекста на психичното здраве това е от значение. Особено след като се създава нова вълна от приложения със специфичен фокус върху приятелството, като например Character.AI, Replika и други. Проучванията показват, че генеративният изкуствен интелект може да симулира емпатия и да осигурява реакции на стрес, но му липсва истинска клинична преценка, отчетност и задължение за грижа. В някои случаи, чатботовете с изкуствен интелект могат да предлагат непоследователни или неподходящи отговори на високорискови ситуации, като например суицидни мисли. Тази разлика – между възприеманото разбиране и действителните възможности – е мястото, където може да възникне риск.
Психиатричната хоспитализация е вторият най-често съобщаван резултат. Забележително е, че докладите, включващи непълнолетни, са по-склонни да бъдат за фатални последици. Но тези числа не отразяват реалните случаи. Те отразяват това, което се съобщава. Като цяло, медийното отразяване на стресови събития има тенденция да усилва тежките и емоционално заредени случаи, тъй като негативната и несигурна информация привлича вниманието, предизвиква по-силни емоционални реакции и поддържа цикли на повишена бдителност и многократно излагане. Това от своя страна засилва възприятията за заплаха и страдание. За съдържание, свързано с изкуствен интелект, медийните репортажи често разчитат на частични доказателства (като например преписи от чатове), като рядко включват медицинска документация. Това създава изкривена, но влиятелна картина: такава, която оформя общественото възприятие, клиничната загриженост и регулаторния дебат.
Източник: The Conversation