Polscy naukowcy sprawdzają, czy AI zastąpi lekarza. Kobiety odgrywają ważną rolę w projekcie

Lekarz, wykonujący kolejny zabieg w ciągu danego dnia, odczuwający zmęczenie lub nawet niewielką niedyspozycję, może, mimo najlepszych intencji, podjąć błędną decyzję dotyczącą przebiegu procedury medycznej. Pacjentka, która trafia na stół operacyjny, być może w przeszłości miała wykonywane inne skomplikowane zabiegi lub była poddana leczeniu psychiatrycznemu, którego przebieg będzie miał wpływ na dalsze postępowanie w procesie dochodzenia do zdrowia. W tych i wielu przypadkach, w których życie i zdrowie ludzkie w dużej mierze zależne są od decyzji i działań podjętych przez człowieka, narzędzia bazujące na sztucznej inteligencji mogą wesprzeć przebieg danej procedury, a także poszerzyć spektrum wiedzy, z jakiej korzysta zespół medyczny. Do ich sprawnego wdrożenia i zastosowania zgonie z istniejącymi przepisami prawnymi, potrzeba szeregu procedur, a te z kolei wymagają czasu, nakładów finansowych oraz uważności w ich weryfikacji. Czy tak skomplikowaną procedurę da się nieco ułatwić? O rozpoczętym w styczniu 2023 roku projekcie badawczym UE REALM, którego celem jest utworzenie platformy umożliwiającej ocenę oprogramowania urządzeń medycznych, opowiada dr n. prawnych Tomasz Braun, uczestnik projektu, radca prawny, prorektor Uczelni Łazarskiego w Warszawie ds. Współpracy Międzynarodowej.

Czytaj więcej

Biznes i prawo

Nowe technologie w biznesie okiem kobiet: chęci są większe niż zyski. Badanie

Z badań opublikowanych na łamach "Forbes" wynika, że kobiety prowadzące własne firmy chętniej niż mężczyźni sięgają po nowoczesne rozwiązania technologiczne i oferują je swoim klientom. Dlaczego nadal niektórzy wolą powierzyć swój projekt mężczyznom?

Proszę o przybliżenie idei programu UE REALM. Na czym dokładnie polega to przedsięwzięcie?

Warto zacząć od tego, że jest to projekt realizowany w ramach programu horyzontalnego – Horizon Europe 2024 – finansowanego przez Komisję Europejską. Z polskiej strony realizowany jest wspólnie z panią dr Dominiką Harasimiuk z Uniwersytetu Warszawskiego. Jego zadanie polega na stworzeniu swoistej architektury, ekosystemu, w ramach którego zbudowana jest platforma porozumienia między regulatorami a tymi, którzy projektują systemy informatyczne w oparciu o sztuczną inteligencję, stosowaną w urządzeniach medycznych. Platforma taka jest potrzebna ze względu na sporą ilość rozwiązań z zastosowaniem sztucznej inteligencji w medycynie. Mają one szansę na realizacje w różnych dziedzinach, ponieważ są atrakcyjne badawczo, naukowo i komercyjnie. Istnieje ryzyko, że mogą zostać zbudowane niezgodnie z obowiązującymi regulacjami, więc projekt polega właśnie na stworzeniu pierwszej platformy, przez którą będzie można przefiltrować proponowane rozwiązania, zanim ktokolwiek podjąłby decyzję o stworzeniu danego systemu. Platforma ma za zadanie pomagać w ocenie zaproponowanych rozwiązań i wskazywać te miejsca, w których istnieje pełna zgodność z obowiązującymi przepisami oraz te, w których należy wprowadzić korekty. Do zgodności z regulacjami prawnymi należy dodać wyzwania okołoregulacyjne, które mogą dotyczyć również kwestii etycznych czy społecznych (ang. societal). Istnieje szereg procedur medycznych, które wprawdzie byłyby zgodne z prawem i są techniczne możliwe, ale budzą wątpliwości pod względem etycznym: czy i w jakim zakresie należy dane działania podjąć? Ale dostrzeżenie tego i wskazanie wykonawcom (ang. deployer), którzy będą budowali te systemy i dostosowywali do urządzeń medycznych, jest bardzo istotne.

W jakim zakresie narzędzia wspierane przez AI mogą wspomagać personel medyczny w jego bieżącej pracy?

Mówimy tu o całym spektrum usług medycznych zaczynającym się od diagnostyki, a kończącym na wsparciu w trakcie prowadzenia leczenia. Dzisiaj systemy będą coraz bardziej wchodzić w kompetencje medyków, bo już wspierają ich w wydawaniu orzeczeń. Rodzi się pytanie, czy istnieje ryzyko, że pojawi się moment, w którym nastąpi abdykacja lekarzy? Urządzenia medyczne to nie tylko diagnostyka, ale cała kwestia robotyki: dziś oznaczenie guza wykonane nawet przez doświadczonego lekarza niesie ze sobą ryzyko, że ten sam guz oznaczony przez kolejnego specjalistę będzie wskazany inaczej. W praktyce nadal, chociaż lekarz posługuje się urządzeniami, odbywa się to w części manualnie, więc łatwo o naturalną ludzką pomyłkę, albo chociaż o mniejszą precyzję. Nawet ten sam lekarz innego dnia, z różnych powodów, jest w stanie ten sam guz oznaczyć inaczej. Jakie mogą być tego konsekwencje? Inaczej oznaczony guz może zostać inaczej usunięty albo zapadnie decyzja, że usuwać go nie warto. Jeśli natomiast mamy urządzenia medyczne, które są w stanie przeprowadzić całą operację od otwarcia ciągłości powłoki skórnej aż po dotarcie do miejsca zmiany i wycięcie jej, mogą to zrobić znacznie bardziej precyzyjnie niż człowiek. Tutaj liczy się dokładność, powtarzalność i tzw. reliability, czyli cecha polegająca na tym, że możemy zaufać takim urządzeniom. To wszystko sprawia, że systemy informatyczne, szczególnie te oparte na sztucznej inteligencji, będą w stanie zrobić pewne rzeczy lepiej. Czy teraz odważylibyśmy się położyć na stół operacyjny i pozwolić, by robot wyciął nam zmianę? Myślę, że zdania byłyby podzielone, a na pewno zawahalibyśmy się przy tym przez chwilę. Choć gdybyśmy mieli rozpatrywać tę kwestię tylko pod względem racjonalnym, to istnieje większa szansa, że już dzisiaj będzie to zrobione lepiej przez maszynę niż przez lekarza, który w danym dniu prowadzi ósmy podobny zabieg. Oczywiście to uproszczenie, nie ma na celu umniejszenia roli lekarza, ale raczej pokazanie tego, jak bardzo sztuczna inteligencja jest w stanie wesprzeć jego pracę.

Czytaj więcej

Zdrowie

Nowe testy krwi będą wykrywać raka. Co zastąpią?

Naukowcy są zdania, że komórki nowotworowe można wykryć za pomocą testów krwi, nawet zanim pojawią się symptomy choroby. Czy jest to możliwe? Eksperci wyjaśniają.

W jakich innych obszarach związanych z pracą medyków narzędzia sztucznej inteligencji mogą okazać się pomocne?

Atrakcyjność rozwiązań informatycznych opartych na sztucznej inteligencji polega między innymi na tym, że są one w stanie zanalizować mnóstwo danych w czasie szybszym niż ktokolwiek i, mało tego, w czasie rzeczywistym. Jeśli jestem doświadczonym lekarzem z wieloletnim stażem, to cała moja wiedza opiera się na tym, co przeczytałem, co zrozumiałem, co zapamiętałem, o czym się dowiedziałem i czego sam doświadczyłem jako lekarz w prowadzonych przeze mnie procedurach medycznych. Proszę sobie zatem wyobrazić systemy, które mają dostęp do nieograniczonej ilości wiedzy, jaką ma każdy lekarz: nie 10 lekarzy, nie 100 lekarzy, ale miliony lekarzy na całym świecie. Narzędzia gromadzą informacje nie tylko z przebytych procedur medycznych, ale również z badań klinicznych prowadzonych na ogromną skalę, wykonywanych nie przez pojedynczego lekarza, ale przez systemy obliczeniowe. Mamy do czynienia z realnymi danymi, odpowiednio kodowanymi, anonimizowanymi tak żeby nie naruszać prywatności pacjentów. Dzisiejsze systemy mówią nam o danych realnych, ale i danych syntetycznych. Co to takiego? To nie tyko dane zanonimizowane, ale i takie, przy których sztuczna inteligencja podpowiada, jakie działania należy podjąć na podstawie dostępnych informacji. Na przykład, gdy kobiecie w 6 miesiącu ciąży trzeba usunąć guza, a jednocześnie wiadomo, że pacjentka ma zaawansowaną cukrzycę czy była leczona psychiatrycznie, sztuczna inteligencja bierze pod uwagę wszystkie te czynniki, które mają wpływ na to, jak należy daną procedurę przeprowadzić. Dane syntetyczne polegają na stworzeniu szeregu scenariuszy opartych o dane realne, ale mnożących różnego rodzaju wariancje. Aby narzędzia tak działały, trzeba dany system rozpisać, przewidzieć, zakodować. Przedsiębiorcy czy instytuty badawcze przygotowują rozwiązania, które muszą być zgodne z obowiązującymi przepisami. Przepisy mówią, gdzie można podjąć ryzyko, a gdzie nie należy tego robić. Mówią o tym, jakie ryzyka wiążą się z użyciem określonych systemów oraz wymagają zabezpieczeń. Tego wszystkiego chce nam dostarczyć projekt, nad którym pracujemy.

W jakim stopniu kobiety są zaangażowanie we współtworzenie projektu?

Zgodnie z wymogami stawianymi przed projektami finansowanymi przez Komisję Europejską, kobiety występują w projekcie w proporcjach sparytetyzowanych. Pracują w poszczególnych work packages i zarządzają nimi. Drugim poziomem jest instytucjonalne wsparcie związane z kwestią poszanowania równości płci. Dotyczy to uregulowań unijnych, ale również zobowiązania ze strony poszczególnych instytucji do podpisania gender equality plan. Jeśli te procedury nie zostaną dopełnione, dana instytucja nie może uczestniczyć w projekcie. To, co jest być może ważniejsze, to w jaki sposób pewne rozwiązania medyczne opracowywane w ramach projektu, będą brały pod uwagę kwestię płci, choćby dlatego, że bardzo duża ilość procedur medycznych dotyczy wyłącznie kobiet. Obecnie istnieje tendencja do zachęcania kobiet do udziału w badaniach o charakterze technologicznym. Kobiety przez lata były niedoreprezentowane w wielu dziedzinach i teraz to się zmienia. W momencie, gdy uczestniczą w projektach, które mają na celu zbudowanie systemów diagnostycznych, ważne, aby systemy nie brały pod uwagę tylko punktu widzenia lekarzy mężczyzn, lecz wszystkie perspektywy, w tym w równym stopniu kobiece. Pomimo tego, że projekt ma w dużej mierze charakter techniczny, o reprezentację kobiet w gronie uczestników na szczęście możemy być spokojni. Współuczestniczą, współkierują i są obecne na wielu etapach tego przedsięwzięcia.

Czytaj więcej

Biznes i prawo

Marnotrawstwo talentu kobiet: alarmujące dane Banku Światowego

Z raportu Banku Światowego wynika, że nie ma na świecie ani jednego kraju, w którym możliwości kobiet na rynku pracy byłyby takie same takie same jak u mężczyzn. Jakie inne wnioski przedstawiają autorzy badania?

Skoro systemy bazujące na narzędziach AI są tak precyzyjne i opracowywane z największą starannością, na ile pomocny w ich wykorzystaniu pozostanie doświadczony personel medyczny?

Wiemy, że systemy informatyczne już obecnie mogą być dużo bardziej precyzyjne niż działania ludzkie. Natomiast to, czy już jesteśmy gotowi, by oddać się w pełni autonomii tym urządzeniom, jest zagadnieniem o charakterze psychologicznym, antropologicznym, a nawet filozoficznym. W moim odczuciu jest to tylko kwestia różnicy poziomu, na którym oddamy autonomię urządzeniom, bo pewnie ją oddamy. Sztuczna inteligencja i zaawansowane systemy informatyczne od dawna są już z nami. Urządzenia te nas obsługują i towarzyszą nam w wielu dziedzinach życia. Nie zdajemy sobie sprawy, że samolot, którym polecimy, sporą część trasy pokona na autopilocie, biorąc pod uwagę wiele czynników, od których zależy przebieg lotu: od pogody po inne obiekty mijane na trasie. Podobnie jest z systemami medycznymi. Prawdopodobnie będziemy się wspierali narzędziami AI, ale ja jestem zdania, że sztuczna inteligencja nie wyprze ani nie zastąpi człowieka w pełni, a raczej pomoże dobrać jeszcze lepsze, jeszcze bardziej precyzyjne narzędzia do wykonania pracy. Zmiana, którą niesie ze sobą rewolucja związana z AI nie oznacza, że człowiek będzie mniej istotny. Oznacza raczej, że, lepiej zaopatrzony w wiedzę, będzie robił rzeczy mądrzejsze. Istotne jest, aby w ramach projektu stworzyć architekturę, która pozwoli połączyć, dopasować, ocenić proponowane rozwiązania medyczne, a z drugiej strony stworzyć system, w którym człowiek będzie lepiej przygotowany, aby rozwiązywać problemy. Maszyna zrobi tylko to, co powiemy jej, że ma zrobić. Tego się nauczy, bo ona uczy się szybciej niż dziecko homo sapiens. Nie oznacza to jednak, że stanie się homo sapiens.

Czy szerokie spektrum działania narzędzi opartych na AI nie sprawi, że dostarczając zbyt wielu danych, zaciemnią obraz, uniemożliwiając lub utrudniając podjęcie dalszych decyzji co do przebiegu leczenia?

To jest bardzo ciekawe pytanie, na które odpowiedź jest chyba przecząca. Tu nie chodzi o ograniczanie dostępu do danych ani do ilości możliwych rozwiązań. A bardziej o takie ich zaprojektowanie, aby potrafiły wskazać, w jaki sposób nas pokierować. Ich działanie można raczej porównać do zbudowania lejka, który przyjmie wiele różnych zadań, ale skanalizuje, doprecyzuje dokładnie to, co chcemy osiągnąć. Narzędzie ma nie tylko zapoznać się z danymi, lecz znaleźć rozwiązania, które są optymalne.

Czytaj więcej

Zdrowie

Koniec ery czerniaka złośliwego. Rewolucja w profilaktyce groźnego nowotworu

Pierwsza spersonalizowana szczepionka przeciwko czerniakowi jest obecnie testowana w Wielkiej Brytanii. Kto poddał się szczepieniu i czym nowy lek różni się od dotychczas dostępnych?

Prace nad projektem trwają od stycznia 2023 roku. Na jakim etapie są obecnie?

Badania polegające na przygotowaniu omawianej platformy są na etapie mniej więcej odpowiadającym długości trwania projektu. Projekt jest przewidziany na 36 miesięcy. Biorąc pod uwagę stopień zaawansowania, bardzo wiele rzeczy związanych z tym, czy projekt zakończył się sukcesem oraz jakie są jego rezultaty, ujawnia się na końcowych etapach, po sfinalizowaniu testów, podsumowaniu wyników badań, przedstawieniu wniosków.

Czy już na tym etapie w projekcie uczestniczą pacjenci, czy obecnie bardziej skupiają się państwo na budowie mechanizmów?

To jest skomplikowany projekt mający charakter metaprojektu, co oznacza, że pacjenci występują w różnego rodzaju badaniach, które wchodzą w skład całego przedsięwzięcia. Uczestnicy projektu współpracują z podmiotami będącymi w posiadaniu bazy danych związanych z badaniami prowadzonymi na pacjentach. Informatycy przygotowujący systemy biorą pod uwagę te dane, aby dokonać analizy i przekazać wyniki odpowiednim zespołom. Tak więc badania na różnych poziomach toczą się nieustannie. Nie wspomnieliśmy o kolejnej istotnej funkcji jaką pełnią badania medyczne: mówiliśmy o diagnostyce i samym leczeniu, ale nie wspomnieliśmy o profilaktyce, czyli o etapie, który poprzedza lub towarzyszy diagnostyce. Badań klinicznych odbywają się na świecie tysiące. Rezultaty tych badań są zwykle w dyspozycji badaczy albo są do nabycia, jeśli realizują je jednostki komercyjne, na przykład wielkie koncerny farmaceutyczne. Badania się toczą i są brane pod uwagę przy analizie konieczności stworzenia systemów które docelowo będą wskazywać na nowe rozwiązania. W ramach tego projektu wszystkie znalezione rozwiązania będą analizowane pod względem zgodności z wymogami, standardami zarówno od strony technologicznej, jak i od strony regulacyjnej. W projekcie uczestniczy obecnie 7 krajów i 15 partnerów, reprezentujących te kraje.

W jakich konkretnych dziedzinach medycznych te rozwiązania będą stosowane?