Maria Dymitruk: AI z powodzeniem mogłaby zastąpić referendarzy

W swojej pracy doktorskiej zajmowała się pani dopuszczalnością wykorzystania sztucznej inteligencji w postępowaniu cywilnym. Pierwsze przymiarki do wykorzystania AI w sprawach frankowych już się odbyły. W jakich jeszcze obszarach widzi pani pole do jej zastosowania?

Zanim zaczniemy wskazywać na konkretne postępowania, w których można zastosować AI, musimy sobie najpierw odpowiedzieć na pytanie, jak oraz kiedy można zastosować AI w wymiarze sprawiedliwości. Moja praca doktorska dotyczyła tego, gdzie są granice dopuszczalności wykorzystania sztucznej inteligencji, w jakich modelach można ją stosować oraz jak te poszczególne modele się później przekładają na poprawną realizację zasad postępowania cywilnego (i ewentualnie w jakich przypadkach wykorzystanie AI wymagałoby np. obwarowania wdrożenia większymi gwarancjami procesowymi dla stron postępowania).

Trzeba pamiętać bowiem, że na piedestale stoi prawo obywatela do sądu i trzeba tak sztuczną inteligencję wprowadzać, by go nie naruszać.

Czytaj więcej

Sądy i trybunały

Cyfryzacja postępowań cywilnych. Komisja kodyfikacyjna wyznaczy kierunki

Przy komisji kodyfikacyjnej powstał zespół ds. cyfryzacji postępowania cywilnego. Czy stoimy u progu ery „sędziów robotów”?

To jakie modele pani analizowała?

Wyróżniłam dwa podstawowe. Pierwszy z nich można obrazowo określić mianem „sędziego robota”. Bardzo nie lubię tego sformułowania, ale bardzo dobrze oddaje istotę rzeczy. Jest to bowiem model, w którym oddajemy możliwość podejmowania decyzji w ręce systemu sztucznej inteligencji i to, co zostanie wygenerowane, jest wiążące dla strony. Czyli strona będzie musiała się podporządkować albo decyzję zaskarżyć.

A drugim modelem – takim, który łatwiej zaakceptować – jest semiautomatyzacja, czyli taki przypadek, w którym nie rugujemy człowieka z procesu decyzyjnego w wymiarze sprawiedliwości, tylko wykorzystujemy algorytmy do wspomagania podejmowania decyzji. Decyzję jednak ostatecznie podejmuje orzecznik.

Ten model dzielę z kolei na dwa podmodele, w zależności od tego, czy wykorzystujemy AI na początku, czy na końcu procesu decyzyjnego. W pierwszym z nich system AI funkcjonuje po to, żeby podpowiadać sędziemu czy referendarzowi sądowemu (a w mniej ważnych sprawach np. pracownikowi sekretariatu) treść decyzji etc. Ta automatycznie wygenerowana sugestia jest następnie ewaluowana przez człowieka, który wykorzystując całą swoją wiedzę i doświadczenie, ją akceptuje, modyfikuje bądź odrzuca. I to jest świetny model w teorii, ale w praktyce może działać bardzo źle.

Czytaj więcej

Rzecz o prawie

Jarosław Gwizdak: Wizyty w 23 siedzibach sądów

Chciałbym kiedyś zostać dyrektorem Muzeum Wózków Sądowych. Bo będzie to oznaczało, że papier w sądownictwie przeszedł do historii.

Dlaczego?

Ze względów psychologicznych. Jest takie zjawisko jak automation bias, który to termin nie ma dobrego polskiego odpowiednika, ale polega na nadmiernej perswazyjności systemów AI (a tak naprawdę każdego zewnętrznego źródła pomocy w naszym rozumowaniu). Biorąc pod uwagę, w jakich warunkach pracują sędziowie – liczbę spraw w referacie, pod jakimi naciskami muszą funkcjonować, jeśli chodzi o tempo rozstrzygania – istnieje ryzyko, że rola sędziego zostanie sprowadzona tylko do powielania sugestii wygenerowanej przez komputer. Wówczas ta weryfikacja przez człowieka będzie fikcją, a orzeczenie sprowadzać się będzie do powielenia automatycznie generowanych sugestii.

Jeśli się mówi o wykorzystaniu AI w sądownictwie, to często słyszy się właśnie o takim sposobie. Czy można jakoś zminimalizować to ryzyko, by sędziowie nie szli na łatwiznę?

Istnieją różne metody przeciwdziałania temu zjawisku. Przykładowo sugerowanie więcej niż jednej odpowiedzi albo sprzecznych podpowiedzi, ale koniec końców to nie pomaga. Wynika to z biologii naszego mózgu, który jak tylko może skrócić proces decyzyjny, a więc zmniejszyć ilość kalorii, którą spożytkuje, żeby do efektu dojść, to jest bardziej skłonny skrócić czas dojścia do decyzji niż podnosić jej jakość. Potwierdzają to liczne badania, w tym skupiające się na procesie podejmowania decyzji przez prawników. Taki model semiautomatyzacji, w którym na dzień dobry dostajemy podpowiedź, którą tylko musimy sprawdzić, będzie prostym pasem transmisyjnym do tego, by decyzją finalną była decyzja automatycznie generowana przez algorytm.

To jest niebezpieczne również w kontekście niewyjaśnialności zaawansowanych modeli sztucznej inteligencji, takich jak np. głębokie sieci neuronowe. Proces dojścia do rozstrzygnięcia maszyny a człowieka jest kompletnie inny. Jeżeli nie jesteśmy w stanie poznać wyjaśnienia sugestii, to jak sędzia ma kontrolować coś, czego nie rozumie? Jak też strona miałaby zaskarżyć takie orzeczenie, jeśli nie zna prawdziwych podstaw rozstrzygnięcia? Wówczas apelacja byłaby czysto fikcyjna, a strona de facto traciłaby prawo do jednej instancji.

Nie ma więc dużej różnicy – przy źle ukształtowanym wdrożeniu AI w sądownictwie – pomiędzy pełną automatyzacją a semiautomatyzacją opartą na sugestiach.

Czytaj więcej

Rzecz o prawie

Ewa Szadkowska: Pożegnajmy akta związane sznurkiem

Bardzo liczę, że przywracaniu praworządności w sądach będzie towarzyszyć ich prawdziwe unowocześnienie i cyfryzacja. Z pełnym wykorzystaniem technologii na miarę XXI w.

Wydawało mi się, że sędzia, dostając podpowiedź co do kierunku rozstrzygnięcia, z którą się zgadza, bierze na siebie ciężar jej uzasadnienia. To nim strona będzie się mogła kierować, wnosząc środek zaskarżenia.

W prawie nie ma dobrych i złych decyzji. Często nie jest tak, że na pytanie prawne istnieje jedna właściwa odpowiedź, tylko odpowiedź lepiej uargumentowana i słabiej uargumentowana. W związku z czym nawet jeżeli rozstrzygnięcie brzmi X, to jeszcze nie oznacza, że to jest dobre rozstrzygnięcie. I jak brzmi Y, to też nie oznacza, że to jest dobre. To, jak jest ono uzasadniane, jest kluczem sprawowania wymiaru sprawiedliwości. To, że ja mam podpowiedź, ją powielę i nawet dopiszę do niej jakieś uzasadnienie, może nawet jakoś tam się bronić, co nie zmienia faktu, że jest to szycie fikcji. Bo jeżeli założeniem podstawowym modelu semiautomatyzacji w podmodelu sugestii jest to, że ja mam zewaluować rozumowanie AI, a nie jestem w stanie poznać drogi dojścia do konkluzji, to nie tworzy to wystarczająco mocnej gwarancji dla stron postępowania. Są jednak podejścia AI, które są wyjaśnialne i tutaj problem jest mniejszy, więc sam wybór technologii ma duże znaczenie.

A ten drugi podmodel?

Alternatywą jest podejście, w którym wykorzystujemy sztuczną inteligencję nie na początku ludzkiego procesu decyzyjnego, tylko na końcu. To znaczy sędzia czy referendarz podjął decyzję, a następnie system sztucznej inteligencji ewaluuje jego rozumowanie, naświetlając ewentualne dowody, pominięte orzecznictwo czy zwracając uwagę na jakiś fakt zawarty w stanowisku strony. Oczywiście sędzia jest niezawisły i nie musi się zgadzać z oceną swego rozstrzygnięcia dokonaną przez sztuczną inteligencję.

Z drugiej strony trzeba sobie zdawać sprawę, że w tym modelu możemy nie być w stanie osiągnąć tego, co najczęściej jest intencją wprowadzenia AI do wymiaru sprawiedliwości, a wiec przyspieszenia postępowania. To może wręcz wydłużyć proces wydawania rozstrzygnięcia, za to może sprawić, że dane orzeczenie będzie lepszej jakości. Niemniej jednak uważam ze względów też procesowych i konstytucyjnych ten kierunek za najwłaściwszy.

Czytaj więcej

Rzecz o prawie

Rafał Krawczyk: Wizja sądu w wersji cyfrowej potrzebna od zaraz

Jedyną szansą na udrożnienie szeroko rozumianej cywilnej części sądownictwa jest pełna elektronizacja postępowań.

A co z koncepcją „sędziego robota”? Czy jest ona w ogóle możliwa na gruncie konstytucyjnym?

Konstytucja RP utożsamia podmiot decyzyjny w postępowaniu sądowym z sędzią, a ten jest człowiekiem. To sędzia jest niezwisły, a jeśli tak, to nie da się sprawować wymiaru sprawiedliwości bez udziału człowieka. Jednak o ile nie da się przeprowadzić wykładni pojęcia sędziego, który nie jest człowiekiem, to da się zdenotować sąd bez użycia elementu ludzkiego. A trzeba pamiętać, że w ramach sądownictwa nie tylko sprawuje się wymiar sprawiedliwości, ale też realizuje się inne zadania, które nawet kończą się orzeczeniem, ale nie są one sprawowaniem wymiaru sprawiedliwości. Są to tzw. zadania z zakresu ochrony prawnej i można je automatyzować bez konieczności nadawania systemowi AI statusu sędziego. Przykładowo wszystkie orzeczenia, które są wydawane przez referendarzy sądowych, nie są sprawowaniem wymiaru sprawiedliwości, w związku z czym w takich sprawach figura „sędziego robota” byłaby dopuszczalna. Oczywiście to nie jest tak, że w takich sprawach gwarancje procesowe nie funkcjonują, ale biorąc pod uwagę korzyści dla sądownictwa, w postaci przyspieszenia postępowania, i usprawnienie pewnych procedur dzięki AI, jest tu pole do kompromisu.

Sprawy rejestrowe, postępowania wieczystoksięgowe, klauzulowe etc., wszędzie tam jest to możliwe. Najłatwiej może sobie wyobrazić AI w elektronicznym postępowaniu upominawczym, gdzie w wyniku skutecznego sprzeciwu wobec nakazu zapłaty wydanego przez e-sąd sprawa się kończy, a jeżeli miałaby zacząć się na nowo – będzie rozstrzygana od początku w pierwszej instancji. Jeśli istnieją środki anulacyjne, strona będzie wiedziała, że orzeczenie nie zostało wydane przez człowieka, a także nie traci żadnej instancji i na wypadek braku zgody na treść rozstrzygnięcia można toczyć proces od początku ze wszystkimi gwarancjami procesowymi, to ja nie widzę przeszkód, by orzeczenie było wydawane przez AI. Zwłaszcza gdy w zamian będzie wiedzieć np., że dzięki temu otrzyma wyrok w miesiąc.

Czytaj więcej

Rzecz o prawie

Wątroba, Wiśniewski: Digitalizacja postępowań sądowych. Przyszłość jest dziś?

Cyfryzacja w sądach musi gwarantować obu stronom takie same prawa procesowe jak w postępowaniach tradycyjnych. Chęć usprawnienia sądownictwa nie może doprowadzić do tego, że wymogi formalne ograniczą dostęp do wymiaru sprawiedliwości.

Wtedy mielibyśmy prawdziwy e-sąd, a nie tylko z nazwy. Jednak czy nie jest tak, że wykorzystanie AI na szerszą skalę w ogóle będzie możliwe, dopiero gdy pożegnamy papier w sądach? Przecież AI możemy nakarmić tylko danymi w formie cyfrowej.