Cercetare: Medici britanici utilizează un program AI neautorizat pentru înregistrarea conversațiilor cu pacienții
Medicii din Marea Britanie au recurs la un software AI (Ambient Voice Technology sau AVT) care nu respectă standardele minime necesare pentru a înregistra și transcrie consultațiile cu pacienții, conform unei investigații recente. Departamentul pentru Sănătate (NHS) a solicitat medicilor și spitalelor să nu mai folosească acest software de inteligență artificială, deoarece ar putea pune pacienții în pericol prin accesarea informațiilor lor personale.
Solicitarea NHS vine la doar două săptămâni după ce instituția a evidențiat beneficiile utilizării AI pentru luarea notițelor, promovând astfel AVT ca un instrument ce ar permite medicilor să se concentreze mai mult pe pacienți. Într-o scrisoare din 9 iunie, NHS a subliniat că este conștientă de numeroase soluții AVT care, deși neconforme, sunt utilizate pe scară largă în practica clinică.
Oficialii NHS au declarat că mulți dintre furnizorii acestor programe nu respectă standardele de bază, iar continuarea utilizării soluțiilor neconforme riscă să compromită siguranța clinică și să încalce protecția datelor.
Îngrijorările sunt amplificate de prezența companiilor de inteligență artificială puțin cunoscute, dar ambițioase, care fac presiuni asupra spitalelor și cabinetelor pentru a adopta produsele lor de ascultare. În timp ce NHS recunoaște necesitatea experimentării, se solicită norme mai clare pentru a identifica programele care funcționează în siguranță.
Utilizarea inteligenței artificiale în domeniul medical a fost încurajată în Marea Britanie, dar experții atrag atenția asupra riscurilor, inclusiv fenomenul de „halucinații AI”, în care tehnologia generează răspunsuri false, ceea ce ar putea avea consecințe grave în context medical.
