Adwokat z Teneryfy ukarany za użycie sztucznej inteligencji

Grzywna za fałszywe orzeczenia wygenerowane przez AI

Izba Karna Sądu Najwyższego Wysp Kanaryjskich (TSJC) nałożyła grzywnę w wysokości 420 euro na adwokata za działania sprzeczne z obowiązkiem prawdomówności i zasadami dobrej wiary, polegające na nadużyciu publicznej służby sprawiedliwości. Doszło do tego, gdy w swoim wniosku apelacyjnym umieścił aż 48 fikcyjnych cytatów z orzecznictwa, wygenerowanych przez Sztuczną Inteligencję. Oprócz grzywny, Sąd postanowił również przesłać swoją decyzję oraz akta sprawy do właściwej Izby Adwokackiej, aby – jeśli będzie to zasadne – wyciągnęła konsekwencje dyscyplinarne.

Niezweryfikowane cytaty z nieistniejących wyroków

Zgodnie z postanowieniem nakładającym sankcję, adwokat podczas przygotowywania apelacji do Izby Karnej TSJC przeciwko wyrokowi Sądu Prowincjonalnego w Santa Cruz de Tenerife, posłużył się ogólną narzędziem Sztucznej Inteligencji – a więc nie rozwiązaniem zaprojektowanym specjalnie na potrzeby prawnicze. Za jego pomocą wprowadził do uzasadnienia 48 cytatów z rzekomych orzeczeń Sądu Najwyższego oraz jeden rzekomy raport Rady Generalnej Władzy Sądowniczej, które miały potwierdzać jego stanowisko w sporze. W rzeczywistości, jak zweryfikowała dokumentalistka TSJC, żadne z tych źródeł nie istniało.

szlaki na teneryfie przystanek rodzinka banner v1

Sąd zwraca uwagę, że adwokat nie poddał żadnej recenzji ani weryfikacji tego, czy cytaty odpowiadają prawdziwym orzeczeniom lub raportom. „Nie sprawdził, czy numery wyroków, daty i identyfikatory faktycznie istnieją” – podkreślono – „oraz nie zweryfikował danych wyjściowych z narzędzia AI w bazach orzecznictwa – w szczególności w Centrum Dokumentacji Sądowej (Cendoj), które jest powszechnie i bezpłatnie dostępne – aby potwierdzić choćby jedną z tych referencji, co postawiłoby go w stan alertu”.

Złamanie podstawowego obowiązku nadzoru człowieka

Zdaniem Sądu, to zaniechanie stanowi naruszenie podstawowego obowiązku nadzoru człowieka, który jest nieodzowny przy korzystaniu z narzędzi AI w praktyce zawodowej, oraz łamie standard staranności wymagany od prawnika przez Kodeks Deontologiczny. Przy wymiarze grzywny Sąd zastosował kryterium ekspiacyjne: 420 euro to połowa przybliżonego kosztu rocznej subskrypcji specjalistycznego, prawniczego narzędzia AI dostępnego na rynku. „Gdyby z takiego skorzystał – podkreśla Sąd – prawdopodobnie udałoby się uniknąć żałosnego rezultatu, który teraz rozpatrujemy”.

Wysokość grzywny ustalono na połowę tej kwoty, biorąc pod uwagę, że adwokat w odpowiedzi na zarzuty Sądu przyznał się do czynów i wyraźnie uznał swoją odpowiedzialność, okazując pozornie szczere skrucha.

AI jako asystent, a nie decydent

Sala podkreśla, że nie neguje ani nie umniejsza potencjału, jaki narzędzia sztucznej inteligencji oferują zawodom prawniczym. Przypomina jednak, że zasada nadzoru człowieka jest kręgosłupem wszystkich działań zawodowych wiążących się z użyciem tych systemów w adwokaturze. Prawnik powinien postrzegać narzędzie jako asystenckie, a nigdy decyzyjne, unikając ślepej zależności od systemu.

Spór o anonimowość i odpowiedzialność za ujawnienie

W postanowieniu, którego sprawozdawcą jest prezes TSJC Juan Luis Lorenzo Bragado, Sąd odnosi się również do zarzutów adwokata. W swoich wyjaśnieniach skarżył się on, że jego tożsamość wyszła na jaw, gdy sprawa stała się publiczna, i obwiniał o to Biuro Komunikacji Sądu Najwyższego Wysp Kanaryjskich. To właśnie ono poinformowało o sprawie komunikatem prasowym, załączając postanowienie o wszczęciu odrębnego postępowania, uprzednio zanonimizowane przy użyciu narzędzia AI homologowanego przez Radę Generalną Władzy Sądowniczej (Kendoj).

Adwokat twierdził, że w upublicznionym, pseudonimowym wyroku widniał NIG (Numer Identyfikacji Generalnej), co pozwoliło innym prawnikom i mediom – po wprowadzeniu tego numeru do bazy CENDOJ – zlokalizować wyrok pierwszej instancji, gdzie widnieją już nazwiska adwokatów i pełnomocników procesowych. Zaznaczył, że z powodu tej sytuacji stał się obiektem komentarzy i kpin w różnych środowiskach zawodowych, w tym w grupowych czatach prawników, w których uczestniczy.

Sąd wyraża ubolewanie, że cały epizod mógł negatywnie wpłynąć na wizerunek prawnika, ale czuje się w obowiązku wyraźnie stwierdzić, że Biuro Komunikacji nie popełniło żadnego nagannyego czynu. Przypomina, że upubliczniło wyrok apelacyjny po uprzednim pseudonimizacji, używając do tego narzędzia AI dostarczonego przez CGPJ. Zazwyczaj dane profesjonalistów nie są modyfikowane, ale w tym przypadku również nazwisko zostało zastąpione pseudonimem.

Fakt, że wyrok można było pośrednio zlokalizować za pomocą NIG, nie implikuje – jak wyjaśnia Sąd – żadnej nieprawidłowości ze strony Biura Komunikacji. Jest to konsekwencja samej struktury systemu: NIG jest obiektywnym identyfikatorem postępowania i po wprowadzeniu do bazy danych prowadzi do oryginalnego orzeczenia w takiej formie, w jakiej zostało przesłane przez organ sądowy do Cendoj. Zgodnie z zasadami oficjalnej publikacji orzecznictwa, nazwiska profesjonalistów nie podlegają tam anonimizacji.