„Lekarz bardziej na mnie patrzy”: Zalety i wątpliwości pojawienia się AI w hiszpańskich konsultacjach lekarskich | Technologia

„Lekarz nie robił żadnych notatek i cały czas skupiał na mnie uwagę” – mówi Fernando Egido, dyrektor generalny Singular Bank, po grudniowej wizycie lekarskiej w Fundacji Jiméneza Díaza w Madrycie. Tego dnia po raz pierwszy zobaczył system sztucznej inteligencji (AI), który grupa szpitalna testowała od lata. „Częściej na mnie patrzył, było to poczucie bliskości i uwagi większe niż zwykle, kiedy musiał na przemian patrzeć na ekran komputera i na mnie” – dodaje.

System pomiędzy lekarzem a pacjentem tworzy raport medyczny w zrozumiałym języku i proponuje leczenie, które lekarz musi potwierdzić. „Oszczędza lekarzom zadań o niskiej wartości, pozwala im skupić się na pacjencie, a sztuczna inteligencja generuje całą część administracyjną, którą w przeciwnym razie musieliby wprowadzić” – dodaje Egido.

Grupa Quirónsalud nazywa system Mobility Scribe i według firmy jest to jej własny projekt. Na konferencji podali kilka szczegółów swojego planu: „To najważniejszy projekt w tym domu” – powiedział Daniel Blanco, szef działu wniosków o pomoc. „Lekarz rezydent lub sekretarki pełnili funkcję pisarza, sporządzacza notatek i części administracyjnej. Wykorzystujemy moc sztucznej inteligencji, aby przyjąć te role” – dodał Blanco.

Scribe to także ogólna nazwa tego typu aplikacji do konsultacji z lekarzem. Na całym świecie istnieją dziesiątki dostawców oferujących tego typu usługi. Amerykański ubezpieczyciel Kaiser od października 2023 r. Kataloński system publiczny zapowiada, że ​​zostanie wdrożony w 2025 r., choć na temat jego szczegółów nie ma prawie żadnych informacji. Ministerstwo Zdrowia rozważa wprowadzenie podobnego systemu w 2027 roku.

Usprawnianie tego typu zadań jest idealnym przykładem wpływu generatywnej sztucznej inteligencji na świat pracy. „Jednym z głównych obecnych problemów związanych z konsultacjami medycznymi jest to, że lekarz stał się „osobą wprowadzającą dane”, która, jeśli masz szczęście, patrzył Ci w oczy tylko dwa lub trzy razy, jeśli masz szczęście” – mówi Jorge García Herrero, prawnik korporacyjny specjalizujący się w przetwarzaniu danych ochrona. „W świetle postępu logiczne było, że wymiana informacji między lekarzem a pacjentem będzie przetwarzana za pomocą modelu językowego” – dodaje, dzięki czemu system podsumowuje rozmowę, poddaje dane kryteriom profesjonalisty przed zapisaniem ich w rejestrze historii klinicznej i zapewnić pacjentowi lepszy dostęp do diagnozy, bez analizowania pisma budzącego strach lekarza.

Ale sztuczna inteligencja nie jest na razie idealna. Transkrypcja skomplikowanych słów w dalszym ciągu stanowi wyzwanie: „Lekarz musiał przejrzeć każdą sekcję, aby upewnić się, że przepisał ją poprawnie” – mówi Egido o swojej konsultacji. „Z tego, co mi powiedział, odkąd zaczęto go używać dwa miesiące temu, system znacznie poprawił niezawodność transkrypcji” – dodaje.

Lekarz ze szpitala w Quirónsalud, który tej jesieni uczestniczył w kursie przygotowawczym, mówi EL PAÍS, że firma już o tym ostrzegała. „Przetestowali to i mówią, że trzeba uważać ze sprawdzaniem pisowni. Może się okazać, że nie rozumiesz słowa i okazuje się, że jest to słowo, którego korektor nie ma w swoim słowniku, a my używamy słów, których nie ma w zwykłych słownikach – wyjaśnia i wskazuje na słowo „ heparyna” jako źródło nieporozumień, lek przeciwzakrzepowy.

W opublikowanej na YouTubie prezentacji Quirónsalud znajduje się slajd, w którym w tajemnicy zwracają uwagę na problemy językowe: „Wspólny leksykon globalny (odpowiednie środowisko semantyczne)”. Angielskie przykłady Kaisera sprawdzają się dobrze, ale w przypadku hiszpańskiego i jego odmian dialektów w Hiszpanii i Ameryce Łacińskiej może to być bardziej złożone. Quirónsalud testuje system przynajmniej w szpitalach w Madrycie, Galicji i Katalonii.

Daniel Blanco z Quirónsalud przyznał w pewnym stopniu, że te AI mogą mieć trudności w przypadku bardziej złożonych specjalności: „Mówią, że to działa lepiej w przypadku bólu kolana niż w kardiologii” – przyznał. Źródła firmowe wskazują, że „we wszystkich specjalnościach są konsultacje prostsze i bardziej złożone, a tak naprawdę kardiologia jest jedną ze specjalności, gdzie w niektórych ośrodkach jest ona najczęściej wykorzystywana”. Te same źródła dodają trzy komentarze na temat tych zagrożeń: „Po pierwsze, lekarz i pacjent decydują, kiedy zastosować Scribe, nic nie będzie w 100% uniwersalne; po drugie, transkrypcja i działania Scribe są sprawdzane, zatwierdzane i udostępniane pacjentowi; po trzecie, system uczy się każdego dnia i poprawia się wraz z użytkowaniem.”

Przetwarzanie takich wrażliwych danych może być delikatne, ale García Herrero uważa, że ​​jego ograniczone możliwości mogłyby wyłączyć ten system. Hiszpańska Agencja Ochrony Danych (AEPD), z którą konsultowała się ta gazeta, twierdzi, że nie otrzymała jeszcze żadnych spraw. „Skonfigurowanie go do tak wąskiego celu omija główne ograniczenia europejskiego rozporządzenia w sprawie sztucznej inteligencji, ponieważ jest to czysty asystent podlegający ludzkiej ocenie” – mówi.

W sztucznej inteligencji, ale w której?

Model sztucznej inteligencji, z którego korzysta ten Skryba, jest również szczegółem, który jest obecnie nieznany: „Polegaliśmy na sztucznej inteligencji. Staramy się, aby była agnostyczna wobec silnika sztucznej inteligencji po drugiej stronie” – powiedział w swoim przemówieniu Blanco z Quirónsalud. Gdyby ten silnik był jednym ze słynnych z siedzibą w USA, mógłby pojawić się problem: „Interesującą i złożoną rzeczą byłoby wiedzieć, czy narzędzie to jest tylko warstwą dostosowywania dla systemu AI takiego jak ChatGPT, ponieważ oznaczałoby to przeniesienie przetwarzane dane spółce międzynarodowej w innym państwie pozaeuropejskim. Trzeba wiedzieć, które firmy są obecne w łańcuchu podwykonawców” – mówi García Herrero.

Są trudniejsze pytania, na które należy odpowiedzieć: głos to dane biometryczne. W przypadku Egido, który nie musiał niczego podpisywać, jego lekarz „podkreślił”, że „po przepisaniu nagrania zostało ono usunięte przez system”. Firma twierdzi, że „rozmowa nie jest nagrywana i służy jedynie do wygenerowania protokołu oraz czynności z protokołów, próśb o badania, recept, próśb o wizyty, które wynikają z ustawy lekarskiej”.

Jeśli chodzi o dane pacjentów, odpowiedzialny za cyfryzację związku UGT, ma inne wątpliwości: „Mechanizacja danych przez podmiot świadczący opiekę zdrowotną na platformie firmowej to nie to samo, co gdyby dane te można było wykorzystać do innych celów, np. do szkolenia samego modelu” – mówi. Firma twierdzi, że „od pacjenta wymagana jest wyraźna zgoda”. Egido potwierdza, że ​​jest to zezwolenie, nie podpisując niczego konkretnego: „O określonej godzinie [la doctora] „Powiedzieli mi, że zaczynają korzystać z aplikacji wykorzystującej sztuczną inteligencję, i na wstępie poprosili mnie o pozwolenie, aby zacząć z niej korzystać”.

Projekt Quirónsalud ma na celu nawet renowację przestrzeni szpitalnej: „Od sali konsultacyjnej pełnej gadżetów do cieplejszego otoczenia i większej uwagi” – twierdzi Blanco, który pokazał zdjęcia podobne do obecnych fizycznych biur banku, z brązowymi siedzeniami i niskie stoły.

Jeżeli posiadasz więcej informacji na ten temat, możesz napisać na adres jordipc@elpais.es