Koniec anonimowych chatbotów i deepfake’ów

Pacjent ma prawo wiedzieć, czy rozmawia z człowiekiem, czy z alogrytmem, oraz czy oglądany przez niego obraz lub nagranie jest prawdziwe. Od 2 sierpnia 2026 r. nowe obowiązki dotyczące przejrzystości systemów AI obejmują także rozwiązania wykorzystywane w ochronie zdrowia.

Coraz częściej mamy wątpliwości, czy to, co widzimy i słyszymy, jest prawdziwe, czy zostało stworzone przez sztuczną inteligencję. Nowe wymogi prawne mają ułatwiać odróżnianie treści tworzonych przez algorytmy od tych, za którymi stoi człowiek. Co te zmiany oznaczają dla lekarzy i placówek ochrony zdrowia?

Od 2 sierpnia 2026 r. dostawcy i podmioty stosujące systemy sztucznej inteligencji wykorzystywane do kontaktu z człowiekiem lub generowania treści muszą stosować zasady w zakresie transparentności wynikające z art. 50 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, czyli tzw. AI Act.

Podstawowym celem tego przepisu jest umożliwienie każdemu z nas łatwego zidentyfikowania, że wchodzimy w interakcję z AI (np. podczas rozmowy telefonicznej z call center) lub mamy do czynienia z wynikiem jej działania (np. oglądane przez nas nagranie stanowi tzw. deepfake). To temat coraz ważniejszy także w kontekście ochrony zdrowia.

Z jednej strony AI bywa narzędziem groźnej dla pacjentów manipulacji, np. wygenerowani przez nią „lekarze” promują określone postawy, nierzadko niezgodne z aktualną wiedzą medyczną. Z drugiej AI jest też coraz częściej stosowana w profesjonalnej opiece nad pacjentem.

Jak wynika z opublikowanych w sierpniu 2026 r. wyników badania Centrum e-Zdrowia, 7,3 proc. polskich placówek deklaruje wykorzystywanie AI w diagnostyce i leczeniu, 4,7 proc. w zakresie obsługi pacjentów, a 5,9 proc. w zarządzaniu wewnętrzną pracą.

Czy rozmawiam z człowiekiem

Pierwszy wymóg skierowany jest do dostawców systemów AI. Mają oni zapewnić, by AI przeznaczone do wchodzenia w bezpośrednią interakcję z ludźmi projektowano i rozwijano tak, aby zainteresowane osoby były informowane o tym, że prowadzą interakcję z systemem AI, chyba że jest to oczywiste. Chodzi o to, by np. rozmawiając lub wymieniając wiadomości tekstowe z AI, mieć pewność, że kontaktujemy się właśnie z AI, a nie z prawdziwym człowiekiem.

W kontekście sektora ochrony zdrowia oznacza to, że chatboty, voiceboty oraz inne podobne rozwiązania do automatyzacji komunikacji i obsługi pacjenta będą musiały przekazywać mu informację, że ma do czynienia z AI. Wyjątkiem są sytuacje, w których będzie to „oczywiste”, choć tu warto zachować już pewną ostrożność, wchodzimy bowiem w obszar oceny, co, kiedy i dla kogo może być oczywiste.

Dostawcy systemów AI, generujących treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu, muszą zapewnić ich oznakowanie w formacie nadającym się do odczytu maszynowego, aby były wykrywalne jako sztucznie wygenerowane lub zmanipulowane. Chodzi więc o to, by ich odbiorca (w tym inny system IT, w którym mogą być przetwarzane) mógł łatwo zidentyfikować, że ma do czynienia z syntetyczną treścią wytworzoną przez AI. W tym celu możliwe jest stosowanie np. znaków wodnych, identyfikacji metadanych, metod kryptograficznych itp.

Co jednak ważne, obowiązek ten nie ma zastosowania w zakresie, w jakim systemy AI pełnią funkcję wspomagającą w zakresie standardowej edycji lub nie zmieniają w istotny sposób danych wejściowych lub ich semantyki. Tym samym wyjątek ten można interpretować jako obejmujący np. AI wspomagające pisanie tekstu, np. przedstawiające propozycję wypełnienia dokumentacji medycznej.

Dostawcy mają czas do 2 grudnia 2026 r. na dostosowanie się do tego obowiązku. Co ważne, materiały wygenerowane i udostępnione do 2 sierpnia 2026 r. nie muszą być oznaczane wstecznie.

Z praktycznego puntu widzenia bardzo ważne jest to, że obowiązki te dotyczą dostawców systemów AI, a nie podmiotów z nich korzystających. Tym samym to na dostawcach, czyli najczęściej firmach IT, spoczywa odpowiedzialność za odpowiednie zaprojektowanie procesu interakcji z pacjentem i przekazanie mu wymaganej informacji oraz odpowiednie oznakowanie generowanych treści.

Z perspektywy placówki ochrony zdrowia ważne jest tylko zweryfikowanie, czy dostawcy wywiązują się z tego wymogu. Można też stosować odpowiednie sformułowania w specyfikacji warunków przetargów publicznych oraz klauzule umowne. Podmiot leczniczy także może być potencjalnie dostawcą systemów AI, np. jeżeli samodzielnie tworzy i oddaje do użytku takie rozwiązanie, co oznacza objęcie go przywołanymi obowiązkami. W polskich realiach będzie to jednak raczej rzadka sytuacja.

Nie tylko dostawca

Kolejne wymogi dotyczą już podmiotów stosujących systemy AI, czyli potencjalnie lekarzy prowadzących własne praktyki lub placówek ochrony zdrowia, które wdrożyły podobne rozwiązania. Jeżeli AI generuje obrazy, treści audio lub wideo stanowiące treści deepfake lub manipuluje takimi obrazami lub treściami, należy ujawnić, że zostały sztucznie wygenerowane lub zmanipulowane.

Co ważne, na gruncie AI Act deepfake oznacza wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo przypominające istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe.

Po pierwsze musimy zauważyć, że obowiązek ten dotyczy tylko obrazów, treści audio lub wideo, co w kontekście ochrony zdrowia zasadniczo zawęża jego stosowanie np. jedynie do obrazowej i dźwiękowej części dokumentacji medycznej. Po drugie, w standardowej praktyce lekarskiej raczej rzadko będzie mieć miejsce sytuacja, w której podobne treści są syntetycznie generowane lub manipulowane – należy tu odróżnić takie działania od wykorzystywania AI jedynie do interpretowania czy opisywania oryginalnych obrazów i nagrań.

Wymóg ten częściej będzie mógł znaleźć zastosowanie w działalności naukowej, informacyjnej i edukacyjnej, np. uczelni medycznych i instytutów badawczych, gdzie AI może być wykorzystywana do tworzenia syntetycznych zbiorów danych, materiałów dydaktycznych i szkoleniowych, które mogą symulować oryginalne przypadki.

Następny wymóg dotyczy systemów rozpoznawania emocji lub systemów kategoryzacji biometrycznej – wykorzystujący je podmiot powinien poinformować osoby, wobec których systemy te są stosowane, o tym fakcie. W kontekście ochrony zdrowia częściej stosowana może być pierwsza kategoria systemów, w szczególności w obszarze ochrony zdrowia psychicznego.

Ostatni wymóg dotyczy podmiotów stosujących systemy AI, które generują teksty (lub nimi manipulują) publikowane w interesie publicznym (np. na stronie internetowej, w prasie), a za takie mogą zostać uznane np. teksty edukacyjne na tematy zdrowotne. W takim przypadku należy oznaczyć, że tekst został sztucznie wygenerowany (lub zmanipulowany). Rozwiązanie to ma zapobiegać zalewaniu opinii publicznej sztucznie wytwarzanymi przekazami.

Nie ma komu karać

Złamanie przedstawionych obowiązków zagrożone jest karą pieniężną w wysokości nawet do 15 mln euro lub do 3 proc. całkowitego rocznego światowego obrotu przedsiębiorstwa z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Są to potencjalne, najwyższe wartości. Nie każde naruszenie musi oznaczać od razu karę idącą w miliony euro.

Na razie jednak nie ma powodów do niepokoju. 11 sierpnia 2026 r. weszła w życie krajowa ustawa o systemach sztucznej inteligencji, która dopiero formalnie powołuje Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, czyli organ władny do nakładania tych kar w Polsce. Zanim nowe ciało w praktyce będzie w stanie rozpocząć działalność, zapewne minie jeszcze co najmniej kilka miesięcy.

Etyka zawodowa

To nie koniec zmian wynikających z AI Act. Termin rozpoczęcia stosowania przepisów dotyczących systemów wysokiego ryzyka, czyli kluczowej z perspektywy lekarzy i systemu ochrony zdrowia grupy systemów obejmującej m.in. wyroby medyczne oparte na AI, został przesunięty na 2 sierpnia 2028 r. Do tej daty placówki ochrony zdrowia powinny m.in. wdrożyć procedury stosowania podobnych rozwiązań i przeszkolić personel.

Z perspektywy lekarza kluczowe wydaje się wynikające z ustawy o prawach pacjenta i Rzeczniku Praw Pacjenta prawo pacjenta do informacji oraz wyrażenia świadomej zgody, a także obowiązujący od 1 stycznia 2025 art. 12 Kodeksu Etyki Lekarskiej, zgodnie z którym lekarz może w postępowaniu diagnostycznym, leczniczym lub zapobiegawczym korzystać z algorytmów sztucznej inteligencji po poinformowania pacjenta, że przy stawianiu diagnozy lub w procesie terapeutycznym będzie wykorzystana sztuczna inteligencja oraz uzyskaniu jego świadomej zgody na jej zastosowanie.

Tym samym jeżeli lekarz intencjonalnie wykorzystuje systemy AI w sposób, w których algorytm AI ma kluczowy dla udzielanego świadczenia charakter, w tym samodzielnie wykonuje zadanie o charakterze klinicznym charakterystyczne dla wykonywania zawodu lekarza – w takich wypadkach poinformowanie pacjenta i uzyskanie jego zgody jest wymagane. Należy też pamiętać, że niezależnie od wyników generowanych przez AI ostateczną decyzję diagnostyczną i terapeutyczną zawsze podejmuje lekarz.

Dr Paweł Kaźmierczyk, członek Rady NIL IN, pracuje w kancelarii Rymarz Zdort Maruta

Źródło: „Gazeta Lekarska” nr 9/2026