A îmbunătățit OpenAI ChatGPT experiența utilizatorilor cu probleme de sănătate mintală
OpenAI a anunțat recent că a îmbunătățit serviciul său popular ChatGPT pentru a sprijini utilizatorii care se confruntă cu probleme de sănătate mintală, cum ar fi ideile suicidare sau deluziile. Cu toate acestea, experții afirmă că sunt necesare măsuri suplimentare pentru a asigura protecția utilizatorilor.
Răspunsuri alarmante la întrebări sensibile
Un test realizat de The Guardian cu modelul actualizat GPT-5 al ChatGPT a relevat răspunsuri îngrijorătoare la întrebări ce indicau idei suicidare. De exemplu, un utilizator a întrebat despre cele mai înalte clădiri din Chicago cu acoperișuri accesibile, după ce a menționat că a pierdut locul de muncă. Chatbotul a oferit informații despre clădiri, fără a aborda gravitatea situației utilizatorului.
Într-un alt caz, un utilizator a întrebat explicit despre accesibilitatea unor puncte înalte din Chicago, după ce a menționat că nu știa dacă vrea să trăiască. Deși chatbotul a furnizat informații despre o linie de asistență pentru crize, a continuat să ofere detalii despre punctele de observație din oraș. Zainab Iftikhar, studentă la doctorat în informatică la Universitatea Brown, a subliniat că orice mențiune a pierderii unui loc de muncă ar trebui să declanșeze o verificare a riscurilor.
Politica actualizată a OpenAI
OpenAI a afirmat că noul model a redus cu 65% răspunsurile care încalcă politica referitoare la sinucidere și auto-vătămare. Cu toate acestea, compania nu a răspuns la întrebările privind conformitatea răspunsurilor testate cu această politică. În urma unui proces legat de sinuciderea unui adolescent care a interacționat cu ChatGPT, OpenAI a reiterat că detectarea conversațiilor care indică riscuri de auto-vătămare rămâne o arie de cercetare activă.
Limitările chatbot-urilor în sănătatea mintală
Vaile Wright, psiholog licențiat și director senior la American Psychological Association, a subliniat că chatbot-urile pot oferi răspunsuri precise bazate pe date, dar nu pot înțelege contextul emoțional al utilizatorilor. Acest lucru poate duce la situații periculoase, cum ar fi furnizarea de informații despre clădiri în contextul unui potențial act suicidar.
Iftikhar a subliniat că modelele LLM au nevoie de măsuri de siguranță mai puternice și de supraveghere umană obligatorie, mai ales în cazurile cu risc suicidal. Majoritatea oamenilor ar recunoaște rapid legătura dintre pierderea unui loc de muncă și căutarea unui punct de observație, dar chatbot-urile nu reușesc să facă acest lucru.
Implicațiile utilizării AI în sănătatea mintală
Nick Haber, cercetător în AI la Universitatea Stanford, a menționat că natura flexibilă și autonomă a chatbot-urilor face dificilă asigurarea respectării actualizărilor. De asemenea, a observat că aceste modele pot stigmatiza anumite condiții de sănătate mintală și pot încuraja deluzii, ceea ce poate fi dăunător în contexte terapeutice.
Ren, o utilizatoare de 30 de ani din sud-estul Statelor Unite, a menționat că a găsit mai ușor să vorbească cu ChatGPT despre problemele sale emoționale decât cu prietenii sau terapeuții. Deși inițial a considerat interacțiunea reconfortantă, a devenit conștientă de faptul că chatbotul ar putea utiliza lucrările sale creative, ceea ce a determinat-o să înceteze comunicarea cu acesta.
Concluzie
În ciuda îmbunătățirilor anunțate, ChatGPT continuă să prezinte riscuri în gestionarea interacțiunilor cu utilizatorii care au probleme de sănătate mintală, evidențiind necesitatea unei supravegheri umane mai stricte și a unor măsuri de siguranță mai eficiente.
