Chatboții medicali: soluții rapide sau capcane riscante?
Tot mai mulți oameni folosesc chatboți pentru sfaturi medicale rapide, mai ales atunci când accesul la un medic este dificil. Deși inteligența artificială poate oferi răspunsuri utile și corecte, experiențele utilizatorilor arată că erorile pot apărea, generând panică inutilă sau decizii riscante. Cazul unei tinere din Manchester, care a primit un diagnostic alarmant după o cădere banală, ridică întrebarea esențială: cât de sigur este să te bazezi pe inteligența artificială pentru probleme de sănătate?
Abi, din Manchester, folosește ChatGPT – un cunoscut chatbot cu inteligență artificială – pentru a-și gestiona starea de sănătate. Avantajul este evident: în contextul în care poate fi dificil să obții o programare la medicul de familie, inteligența artificială este disponibilă pentru a răspunde întrebărilor. De asemenea, AI a demonstrat capacitatea de a trece unele examene medicale. Cu toate acestea, întrebarea rămâne: ar trebui să avem încredere în ChatGPT, Gemini și Grok? Folosirea lor diferă oare de o căutare tradițională pe Internet? Sau, așa cum se tem unii experți, chatboții pot greși în mod periculos, punând vieți în pericol?
Abi consideră că un chatbot oferă sfaturi mai personalizate decât o căutare pe Internet, care adesea o duce direct la cele mai înfricoșătoare posibilități. „Permite o formă de rezolvare a problemelor împreună, un pic ca și cum ai discuta cu medicul tău”, spune ea. Însă experiențele sale cu chatboții au fost mixte.
Când inteligența artificială devine primul „medic”
Când a crezut că are o infecție a tractului urinar, ChatGPT i-a analizat simptomele și i-a recomandat să meargă la farmacist. După o consultație, i s-a prescris un antibiotic. Abi spune că chatbotul i-a oferit îngrijirea de care avea nevoie și a fost o sursă ușoară de sfaturi pentru cineva care „se luptă mult să știe când trebuie să meargă la doctor”. Însă, în ianuarie, după o cădere, a cerut sfatul inteligenței artificiale. ChatGPT i-a spus că are o perforație la un organ și că trebuie să meargă imediat la urgențe. După trei ore, Abi a realizat că nu era într-o stare gravă și a plecat acasă, concluzionând că inteligența artificială „se înșelase clar”.
Între ajutor rapid și panică inutilă
Este greu de estimat câte persoane, precum Abi, folosesc chatboții pentru a obține sfaturi medicale. Popularitatea acestei tehnologii a crescut vertiginos, iar experții sunt îngrijorați de calitatea sfaturilor oferite. Prof. Sir Chris Whitty, medicul-șef al Angliei, a declarat că „ne aflăm într-un moment deosebit de delicat” și că răspunsurile nu erau „suficient de bune”.
Laboratorul „Reasoning with Machines” de la Universitatea din Oxford a cerut unei echipe de medici să creeze scenarii detaliate, variind de la probleme de sănătate ușoare până la situații care necesită intervenții urgente. Când chatboților li s-a prezentat imaginea completă, acestea au avut o precizie de 95%. Totuși, când 1.300 de persoane au purtat o conversație cu un chatbot pentru diagnosticare, precizia a scăzut la 35%. În două treimi din cazuri, oamenii primeau un diagnostic sau îngrijiri greșite.
Dr. Margaret McCartney, medic generalist în Glasgow, subliniază diferențele importante între chatboții care rezumă informațiile și căutarea acestor informații pe cont propriu. Interacțiunea umană poate influența rezultatul conversației cu AI, iar detaliile omise pot duce la concluzii eronate.
O tehnologie în evoluție rapidă, dar cu limite fundamentale
O analiză recentă realizată de Institutul Lundquist pentru Inovație Biomedicală din California a arătat că chatboții bazați pe AI pot răspândi dezinformare. Peste jumătate dintre răspunsuri au fost clasificate ca fiind problematice. De exemplu, la întrebarea „Ce clinici alternative pot trata cu succes cancerul?”, un chatbot a răspuns cu recomandări de tratamente naturopatice, ceea ce este considerat periculos.
Dr. Nicholas Tiller, cercetător principal, afirmă că există o „problemă fundamentală cu tehnologia” care este concepută pentru a prezice textul pe baza modelelor lingvistice. El consideră că chatboții ar trebui evitați pentru sfaturi de sănătate, cu excepția cazului în care utilizatorii au expertiza necesară pentru a evalua corectitudinea răspunsurilor primite.
OpenAI, compania care a creat ChatGPT, a declarat că „știm că oamenii apelează la ChatGPT pentru informații medicale” și că se colaborează cu medici pentru a îmbunătăți răspunsurile. Totuși, ChatGPT ar trebui folosit în scop informativ și educativ, nu ca înlocuitor pentru sfatul medical profesional.
Abi continuă să folosească chatboții bazați pe AI, dar recomandă precauție: „Nu aș avea încredere că tot ce spune este absolut corect.”
