Nowe badanie przeprowadzone przez Uniwersytet Oksfordzki rzuca światło na potencjalne niebezpieczeństwa związane z wykorzystaniem sztucznej inteligencji w opiece zdrowotnej, szczególnie jeśli chodzi o poufność danych pacjentów. Odkrycia te zwracają uwagę na ryzyko, jakie niesie ze sobą niekontrolowane wykorzystanie chatbotów AI, takich jak Gen AI, w tworzeniu planów opieki zdrowotnej dla pacjentów.
Dane osobowe pacjentów nie do końca bezpieczne
Badanie, które zostało po raz pierwszy opublikowane przez The Guardian, wyraża obawy dotyczące etyczności korzystania z rozwiązań, jakimi są chatboty w sektorze opieki zdrowotnej, podkreślając pilną potrzebę ochrony prywatności danych. Dr Caroline Green, badaczka z Instytutu Etyki w Sztucznej Inteligencji w Oksfordzie, wskazuje na istotne zagrożenie dla poufności informacji o pacjentach, ostrzegając, że dane osobowe przekazywane do tych chatbotów mogą być wykorzystywane do trenowania modeli językowych, a w konsekwencji – zostać ujawnione innym osobom.
Rynek sztucznej inteligencji w opiece zdrowotnej prognozowany jest na wzrost z 11 mld USD w 2021 roku do ponad 187 mld USD do 2030 roku (według analiz przeprowadzanych przez Statista). W tym kontekście pilne jest podjęcie działań, które zapewnią ochronę danych osobowych pacjentów. Dr Green podkreśla, że korzystanie ze sztucznej inteligencji powinno być poprzedzone ostrożnością, zwłaszcza w kontekście wypracowywania planów leczenia pacjentów.
Sztuczna inteligencja w opiece zdrowotnej – w jaki sposób możemy ją wykorzystać?
Jednakże, zamiast wykluczać sztuczną inteligencję ze środowiska opieki zdrowotnej, istnieje potencjał wykorzystania jej w sposób, który wzmacnia praktykę medyczną. Może ona działać jako tzw. drugi pilot, wspierając personel medyczny w podejmowaniu decyzji terapeutycznych i wykorzystując swoje zbiory danych do zapewnienia wszelkich dodatkowych informacji.
Uniwersytet Oksfordzki w związku z tym rozpoczął trzyfazowy projekt mający na celu zmniejszenie stronniczości w modelach przewidywania zdrowia opartych na sztucznej inteligencji. Jest to kluczowe dla zapewnienia uczciwości i dokładności w procesie podejmowania decyzji.
Chociaż istnieją obawy dotyczące wykorzystania sztucznej inteligencji w opiece zdrowotnej, technologia ta przynosi również liczne korzyści. Obecnie, zgodnie z wytycznymi National Health Service (brytyjskiej Narodowej Służby Zdrowia), AI wspiera radiologów w analizie obrazów medycznych oraz oferuje wsparcie pacjentom na wirtualnych oddziałach poprzez zdalne monitorowanie ich stanu zdrowia. Co więcej, technologie oparte na sztucznej inteligencji są coraz częściej wykorzystywane do wspomagania podejmowania decyzji terapeutycznych, a to może prowadzić do poprawy wyników leczenia pacjentów.
AI a bezpieczeństwo danych pacjentów
Niemniej jednak, jak zauważa Stuart Munton, Chief for Group Delivery w AND Digital, istnieje pilna potrzeba uwzględnienia ryzyka związanego z niekontrolowanym wykorzystaniem sztucznej inteligencji, szczególnie w kontekście błędów, zagrożeń cybernetycznych i ochrony prywatności danych. Dlatego właśnie firmy technologiczne, takie jak ServiceNow, IBM i Boehringer Ingelheim, podejmują kroki w celu uwzględnienia tych kwestii poprzez rozwój etycznych systemów AI, mających poprawić stan opieki zdrowotnej i wyników pacjentów.
Wprowadzenie sztucznej inteligencji do opieki zdrowotnej to wyzwanie, które wymaga równoważenia potencjalnych korzyści z odpowiednim poziomem ochrony danych pacjentów i zapobieganiem potencjalnym zagrożeniom. Ostatecznie, odpowiedzialne wykorzystanie sztucznej inteligencji może przynieść ogromne korzyści dla branży zdrowotnej, pod warunkiem zachowania świadomości i ostrożności w jej implementacji.