Z uwagi na specyfikę systemów SI dostrzeżono potrzebę prawnego uregulowania różnych aspektów jej funkcjonowania. Na początku 2020 r. Komisja Europejska przedstawiła Białą Księgę w sprawie sztucznej inteligencji. Europejskie podejście do doskonałości i zaufania, w której odniosła się m.in. do problemu odpowiedzialności za szkody wyrządzone przez SI. 20 października 2020 r. Parlament Europejski przyjął Rezolucję z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję (2020/2014(INL)) (dalej jako: „Rezolucja"), w której potwierdzono potrzebę przyjęcia przekrojowych ram prawnych w tym zakresie.
Specyfika systemów SI
Pojęcie systemów sztucznej inteligencji jest bardzo szerokie i obejmuje dużą grupę różnych technologii, w tym proste statystyki, uczenie się maszyn i głębokie uczenie maszynowe. Jak wynika z Rezolucji SI powinno łączyć się z terminem „zautomatyzowanego podejmowania decyzji", czyli przeniesieniem przez użytkownika w drodze korzystania z oprogramowania lub usługi podjęcia decyzji na inny podmiot.
Mimo korzyści płynących z wykorzystywania systemów SI wiążą się z nimi również poważne obawy, dotyczące w szczególności wykorzystywania ich w celu wyrządzenia poważnych szkód, w tym narażenia na niebezpieczeństwo zdrowia i życia ludzkiego, jak również bezpieczeństwa finansowego lub politycznego. Systemy SI mogłyby również posłużyć do śledzenia obywateli wbrew ich woli czy też podejmowania stronniczych decyzji dotyczących ubezpieczeń zdrowotnych oraz kredytów.
Potrzeba nowych regulacji
Od ponad 30 lat na terenie UE obowiązuje Dyrektywa Rady nr 85/374/EWG w sprawie zbliżenia przepisów ustawowych, wykonawczych i administracyjnych państw członkowskich dotyczących odpowiedzialności za produkty wadliwe, implementowana w polskim Kodeksie cywilnym. Przewiduje ona odpowiedzialność określonych podmiotów, przede wszystkim producenta, na zasadzie ryzyka za szkodę wyrządzoną przez produkt niebezpieczny.
Parlament Europejski zauważył, że z uwagi na nowe wyzwania, jakie w zakresie bezpieczeństwa i ochrony konsumentów powoduje korzystanie z systemów SI, dotychczasowe środki przewidziane w Dyrektywie 85/374 przestały być wystarczające. Szczególne trudności wiążą się z ustaleniem osoby odpowiedzialnej za działania systemów SI czy też odpowiedzialnością za cyberbezpieczeństwo produktu. W konsekwencji osoby poszkodowane nie mają możliwości skutecznego dochodzenia odszkodowania za szkodę wyrządzoną działaniem takiego systemu. Autonomia systemów SI utrudnia powiązanie ich konkretnych działań z konkretnymi decyzjami człowieka podjętymi podczas ich projektowania lub korzystania z nich. Operator systemu SI może przykładowo argumentować, że działanie systemu było poza jego kontrolą, a zatem, że nie ponosi on odpowiedzialności za wyrządzoną tym działaniem szkodę.
