Umjetna inteligencija (AI) već dugi niz godina obećava revoluciju u zdravstvenoj skrbi – brže dijagnostičke procjene, personalizirane terapije i stalno praćenje stanja pacijenata. Ipak, kako se ova tehnologija sve više uvlači u svakodnevni rad bolnica, sve više dokaza ukazuje da prevelika samopouzdanje AI‑a može postati izvor opasnosti. Kada algoritam izda čvrstu, neosjetljivu preporuku, liječnici mogu slijediti njezine savjete bez kritičkog razmišljanja, što dovodi do pogrešnih dijagnoza i neadekvatnih tretmana.
Problem prevelike samopouzdanosti u kliničkoj praksi
U jedinicama intenzivne njege, gdje je svaki trenutak presudan, liječnici se oslanjaju na sustave podrške odluka kako bi interpretirali složene podatke. Nedavna studija objavljena u časopisu BMJ Health and Care Informatics pokazala je da su liječnici u ICUs više skloni prihvatiti preporuku AI‑a kada ga smatraju pouzdanim, čak i kad njihovo kliničko prosuđivanje sugerira drugačiji zaključak. Rezultat je povećan rizik od slijednje netočnih savjeta, osobito kada je algoritam treniran na ograničenim podacima ili primijenjen na populaciju koja se razlikuje od one na kojoj je obučen.
Ovi nalazi odražavaju zabrinutost stručnjaka diljem svijeta: AI koji se predstavlja kao neupitan izvor znanja može oslabiti osjećaj autonomije liječnika. Kada strojevi iznose svoje zaključke s neosjetljivim tonom, liječnici se suočavaju s poteškoćama da postave pitanja ili preuzmu kontrolu nad postupkom, čak i kada sumnjaju na grešku.
Koncept „pokornog AI“ – nova filozofija dizajna
Kako bi se riješio ovaj problem, istraživački tim pod vodstvom Leona Anthonyja Celija iz MIT‑ovog Instituta za medicinski inženjering i znanost predložio je novi okvir koji potiče AI sustave da pokažu pokornost. Umjesto da djeluju kao orakli koji uvijek znaju točan odgovor, pokorni AI se ponašaju više kao trener ili ko-pilot, otvoreno komunicirajući razinu povjerenja i potičući ljudsku intervenciju kada je nesigurnost visoka.
Prema Celi, “Trenutno koristimo AI kao orakla, ali možemo ga koristiti i kao savjetnika koji nas potiče na razmišljanje i kritičko ocjenjivanje.” Ovaj pristup naglašava važnost transparentnosti i suradnje između čovjeka i stroja.
Kako pokorni AI može poboljšati sigurnost pacijenata
Pokorni AI sustavi mogu donijeti značajne prednosti u kliničkoj praksi:
- Jasna komunikacija nesigurnosti – algoritmi iznose procjenu svoje pouzdanosti, što liječnicima omogućuje da odluče hoće li slijediti preporuku.
- Poticanje kliničkog razmišljanja – umjesto da se oslanjaju na automatske odluke, liječnici se potiču da razmotre alternativne dijagnoze.
- Manje grešaka u dijagnostici – kada AI prepoznaje svoje ograničenje, smanjuje se rizik od pogrešnih preporuka.
- Bolja edukacija – sustavi mogu služiti kao alati za obuku, pokazujući liječnicima kako bi se interpretirali podaci.
Implementacija pokornog AI u praksi: izazovi i rješenja
Uvođenje pokornog AI zahtijeva promjene na više razina:
- Obuka i edukacija – liječnici moraju razumjeti kako AI procjenjuje nesigurnost i kako to primijeniti u kliničkoj praksi.
- Standardizacija protokola – potrebno je razviti smjernice koje definiraju kada i kako se AI preporuke mogu prihvatiti.
- Tehnička podrška – sustavi