Informații Falsificate în Rezumatele AI de la Google
O investigație realizată de The Guardian a descoperit că informațiile medicale eronate și înșelătoare din rezumatele furnizate de inteligența artificială (AI) a Google pun oamenii în pericol. Compania a declarat că aceste rezumate, care utilizează AI generativ pentru a oferi informații esențiale despre diverse subiecte, sunt „utile” și „fiabile”. Totuși, unele dintre aceste rezumate, care apar în partea de sus a rezultatelor căutărilor, oferă informații medicale inexacte, punând astfel sănătatea utilizatorilor în pericol.
Cazuri de Informații Incorecte
Un exemplu considerat „cu adevărat periculos” a fost o recomandare greșită pentru persoanele cu cancer pancreatic, care au fost sfătuite să evite alimentele bogate în grăsimi. Experții au subliniat că aceasta este exact opusul a ceea ce ar trebui recomandat, fapt ce poate crește riscul de deces al pacienților. Un alt exemplu alarmant a fost furnizarea de informații false despre teste esențiale ale funcției hepatice, lăsând astfel pacienții cu boli hepatice grave să creadă că sunt sănătoși. Căutările pe Google referitoare la testele de cancer la femei au oferit, de asemenea, informații „complet greșite”, ceea ce ar putea determina utilizatorii să ignore simptomele reale.
Reacțiile Experților
Un purtător de cuvânt al Google a afirmat că multe dintre exemplele de sănătate prezentate erau „capturi de ecran incomplete” și că, din ceea ce au evaluat, acestea se refereau la „surse binecunoscute și de încredere, recomandând căutarea sfaturilor de la experți”. Sophie Randall, director al Forumului de Informații pentru Pacienți, a afirmat că exemplele arată cum „rezumatele AI de la Google pot plasa informații medicale inexacte în partea de sus a căutărilor online, prezentând un risc pentru sănătatea oamenilor”.
Impactul Informațiilor Inexacte
Stephanie Parker, director digital la Marie Curie, a subliniat că oamenii caută informații pe internet în momente de îngrijorare și criză, iar dacă informațiile primite sunt inexacte sau scoase din context, acest lucru le poate afecta grav sănătatea. Anna Jewell, director la Pancreatic Cancer UK, a declarat că sfatul de a evita alimentele bogate în grăsimi este „complet incorect” și poate pune în pericol șansele pacienților de a fi suficient de bine pentru a urma tratamentele necesare.
Consecințele Informațiilor Falsificate
Cercetările au arătat că mulți pacienți cu boli hepatice nu prezintă simptome până în stadiile avansate, ceea ce face esențială testarea. Pamela Healy, director executiv al British Liver Trust, a declarat că ceea ce AI-ul Google consideră „normal” poate varia drastic de la ceea ce este considerat normal în realitate. Aceasta poate duce la situații în care pacienții cu boli hepatice grave cred că rezultatele lor sunt normale și, prin urmare, nu mai participă la întâlniri de urmărire medicală.
Concluzie
Informațiile medicale eronate furnizate de AI-ul Google subliniază riscurile asociate cu utilizarea tehnologiilor de inteligență artificială în domeniul sănătății, evidențiind necesitatea unei evaluări și reglementări mai stricte pentru a proteja sănătatea publicului.
