Technologia rozwija się szybciej niż organizacje, które mają z niej korzystać. Tak można podsumować jedną z debat poświęconych sztucznej inteligencji w ochronie zdrowia, podczas konferencji AI MedTech & CEE. Uczestnicy rozmowy, Ligia Kornowska, Daniel Kaźmierczak i Jędrzej Stępniowski, zgodnie podkreślali, że największą barierą wdrażania innowacji nie jest dziś brak rozwiązań technologicznych. Znacznie większym wyzwaniem okazuje się brak procesów, odpowiedzialności i jasnych zasad podejmowania decyzji.
Najpierw trzeba uporządkować sposób podejmowania decyzji
Kiedy rozmawiamy o sztucznej inteligencji w ochronie zdrowia, zwykle skupiamy się na możliwościach technologii. Zastanawiamy się, czy algorytmy będą trafniej diagnozować choroby, szybciej analizować obrazy diagnostyczne lub skuteczniej wspierać lekarzy w podejmowaniu decyzji. Tymczasem podczas debaty poświęconej innowacjom w zdrowiu wybrzmiała myśl, która odwraca tę perspektywę.
Z rozmów, wykładów i paneli wynika, że problemem jest to, że wiele organizacji nadal nie ma pomysłu, jak technologie właściwie oceniać, wdrażać i nadzorować.
Paneliści wielokrotnie wracali do kwestii odpowiedzialności za proces wdrażania innowacji. Jeśli nie ma osób odpowiedzialnych i zainteresowanych sensownością danego wdrożenia to nie możemy mówić o skuteczności innowacji. Co ciekawe, jak podczas konferencji przypomniał Tomasz Maciejewski, podsekretarz stanu w Ministerstwie Zdrowia, Polska znajduje się dziś w czołówce europejskich krajów pod względem poziomu cyfryzacji ochrony zdrowia. Nie oznacza to jednak, że równie dobrze radzimy sobie z wdrażaniem innowacji w codziennej praktyce organizacyjnej.Nie brakowało jednak przykładów placówek, które dostrzegały potrzebę zmiany, wybierały rozwiązanie i rozpoczynały współpracę z dostawcą, jednak sama implementacja przeciągała się miesiącami. Jeden z panelistów przywołał sytuację, w której integracja systemu ze szpitalem trwała niemal półtora roku, mimo że potrzeba jego wdrożenia została rozpoznana znacznie wcześniej.
Nie wynikało to wyłącznie z ograniczeń technologicznych. Problem leżał gdzie indziej. W organizacji brakowało osoby lub zespołu, który przeprowadziłby projekt przez wszystkie etapy wdrożenia, koordynując działania działów IT, administracji, użytkowników końcowych i dostawcy. W pewnym momencie padła nawet metafora teatru. Daniel Kaźmierczak zauważył, że nie przeszkadzałby mu nawet „teatr”, gdyby role były dobrze obsadzone. W rzeczywistości wiele wdrożeń przypomina jednak bardziej improwizację niż przedstawienie realizowane według przygotowanego scenariusza.
Ten brak scenariusza widać również w procesach zakupowych. W teorii placówki medyczne oceniają innowacje pod kątem bezpieczeństwa, zgodności z przepisami, jakości czy potencjalnych korzyści dla pacjentów i personelu. W praktyce jednak uczestnicy debaty zwracali uwagę, że bardzo często najważniejszym kryterium pozostaje cena. Prowadzi to do sytuacji, w której organizacje deklarują zainteresowanie innowacjami, a jednocześnie nie zawsze zadają podstawowe pytania dotyczące certyfikacji, zgodności regulacyjnej czy sposobu działania proponowanych rozwiązań.
Jak szpitale oceniają technologie i rozwiązania AI – dlaczego cena nadal wygrywa z jakością?
Szczególnie wyraźnie widać to w przypadku sztucznej inteligencji. Jedne placówki podchodzą do nowych technologii niezwykle rygorystycznie, angażując działy IT, prawników i specjalistów ds. bezpieczeństwa. Inne ograniczają proces oceny do minimum. Efekt jest taki, że poziom przygotowania organizacji do wdrażania AI bywa skrajnie różny, a powodzenie projektu często zależy od wiedzy i zaangażowania pojedynczych osób.
To właśnie w tym kontekście pojawiło się pojęcie AI Governance. Zdaniem ekspertów nie chodzi już wyłącznie o zakup odpowiedniego narzędzia. Kluczowe staje się stworzenie zasad określających, jakie rozwiązania mogą być wykorzystywane, kto odpowiada za ich ocenę, jak monitorowane są efekty ich działania i co dzieje się w sytuacji, gdy algorytm popełni błąd.
AI Governance – kto odpowiada za sztuczną inteligencję w szpitalu?
Odpowiedź na ostatnie pytanie była zresztą wyjątkowo jednoznaczna. Sztuczna inteligencja nie przejmuje odpowiedzialności za decyzje medyczne. Z perspektywy pacjenta nadal odpowiada lekarz i podmiot leczniczy. Algorytm może wspierać proces podejmowania decyzji, ale nie zastępuje człowieka ani jego odpowiedzialności zawodowej.
To ważna obserwacja, ponieważ pokazuje, że przyszłość innowacji w ochronie zdrowia nie zależy wyłącznie od rozwoju technologii. W dużej mierze zależy od dojrzałości organizacyjnej placówek medycznych. Można bowiem kupić najbardziej zaawansowany system oparty na sztucznej inteligencji, ale bez procedur, odpowiedzialności i świadomego zarządzania pozostanie on jedynie kolejnym narzędziem wdrożonym bez planu.
A tego, jak wynikało z debaty, uczestnicy rynku obawiają się dziś bardziej niż samej technologii. Technologia sama w sobie nie tworzy lepszych doświadczeń. O tym, czy innowacja przyniesie wartość pacjentom i pracownikom, decydują procesy, komunikacja i sposób wdrożenia.
Debata pokazała, że sukces wdrażania sztucznej inteligencji w ochronie zdrowia nie zależy wyłącznie od jakości algorytmów. Równie ważne są kompetencje liderów, procesy organizacyjne, gotowość zespołów i sposób zarządzania zmianą. To właśnie te obszary będą w najbliższych latach decydować o tym, czy AI stanie się realnym wsparciem dla personelu medycznego i pacjentów, czy pozostanie jedynie kolejną technologią wdrożoną bez planu.