Małgorzata Kozak: Nowy nadzór nad AI, ale nadal brakuje całościowego podejścia

Proponowane działania wprowadzają nowatorskie rozwiązania, mające zapewnić kontrolę nad rozwojem i wdrażaniem sztucznej inteligencji. Jednak brakuje w nich konkretnych mechanizmów, które zachęcałyby przedsiębiorców do inwestycji w tę dziedzinę.

Publikacja: 08.11.2024 12:09

Proponowane działania wprowadzają nowatorskie rozwiązania, mające zapewnić kontrolę nad rozwojem i w

Proponowane działania wprowadzają nowatorskie rozwiązania, mające zapewnić kontrolę nad rozwojem i wdrażaniem sztucznej inteligencji. Jednak brakuje w nich konkretnych mechanizmów.

Foto: Adobe Stock

Ministerstwo Cyfryzacji w połowie października opublikowało projekt ustawy, której celem jest stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce zgodnego z ramami prawnymi ustanowionymi rozporządzeniem 2024/1689 (akt o AI), które weszło w życie 1 sierpnia 2024 r.

Czytaj więcej

Maciej Gawroński: Nie mnóżmy strażników sztucznej inteligencji

Zgodnie z art. 70 ust. 1 oraz motywem 153 rozporządzenia 2024/1689, państwa członkowskie muszą ustanowić lub wyznaczyć co najmniej jeden niezależny organ nadzoru rynku jako krajowy organ odpowiedzialny za nadzór.

Nowy organ, który zajmie się sztuczną inteligencją

Po przeprowadzeniu konsultacji, Ministerstwo zaproponowało utworzenie nowej instytucji wyspecjalizowanej w nadzorowaniu sektora sztucznej inteligencji oraz wspieraniu jego rozwoju. Ta instytucja, która pełniłaby rolę nie tylko organu regulacyjnego, ale także działałaby na rzecz wzmocnienia branży AI w Polsce, miałaby funkcjonować jako „jednostka ekspercka” współpracująca z innymi organami publicznymi w obszarze AI. W projekcie nazwano ją Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej "KRIBSI" lub “Komisja”). W tym krótkim artykule chciałabym przeanalizować propozycję Ministerstwa odnosząc się również do szerszego kontekstu regulacyjnego sektora nowych technologii.

W swoim artykule podnosiłam już konieczność zapewnienia ram koordynacji regulacji i nadzoru nad nowymi technologiami jak i konieczności wzmocnienia niezależności organów regulacyjnych. Mimo nowoczesnego i specjalistycznego charakteru projektu pojawia się pytanie: czy utworzenie KRIBSI to wystarczające rozwiązanie? Wciąż brak wyraźnych wskazań, jak nowy organ będzie współpracować z już istniejącymi instytucjami regulacyjnymi, a wzmocnienie ich zasobów wydaje się kluczowe. Niezbędne są też zasoby na zwiększenie obsady kadrowej i finansowania obecnych organów.

Czytaj więcej

Firma nie ukryje stosowania AI? Związkowcy triumfują, biznes się niepokoi

W uzasadnieniu zmian podkreślono, że w organach administracji publicznej brakuje wystarczającej liczby ekspertów posiadających zaawansowaną wiedzę w obszarach takich jak technologie AI, przetwarzanie i ochrona danych, cyberbezpieczeństwo, prawa podstawowe, zagrożenia dla zdrowia i bezpieczeństwa oraz obowiązujące normy i wymagania prawne. Pytanie czy nowy organ który ma zatrudniać ponad 100 pracowników stworzy taką bazę ekspercką pozostaje otwarte.

Nowy organ ds. AI. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i jej skład

KRIBSI ma być organem nadzoru rynku w zakresie systemów sztucznej inteligencji, pełniącym również funkcję pojedynczego punktu kontaktowego zgodnie z art. 70 ust. 2 rozporządzenia 2024/1689.

Komisja będzie organem niezależnym, co oznacza, że nie będzie podlegała bezpośredniemu nadzorowi żadnego ministerstwa. Jej struktura została zaprojektowana w taki sposób, aby zapewnić różnorodne kompetencje i niezależność, porównywalnie do Komisji Nadzoru Finansowego (KNF). W jej skład wchodzi 12 osób w tym wybierany kadencyjnie Przewodniczący Komisji, dwóch Zastępców Przewodniczącego oraz dziewięciu członków reprezentujących różne instytucje państwowe. W posiedzeniach Komisji mogą również uczestniczyć przedstawiciele kluczowych organów i instytucji, a także organizacje społeczne.

Przy Komisji ma funkcjonować Społeczna Rada do spraw Sztucznej Inteligencji, pełniąca rolę organu opiniodawczo-doradczego. W skład Rady wchodzi od dziewięciu do piętnastu członków, wybieranych przez Komisję na dwuletnią kadencję. Do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji.

Kompetencje Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji

Komisja, działając w ramach swoich kompetencji, podejmuje uchwały, w tym decyzje administracyjne i postanowienia zgodnie z przepisami szczegółowymi.

Czytaj więcej

Jan Skoumal: AI zamiast ekspertów i sztuczna Szymborska. Nowa, wspaniała oferta dla młodych?

Do zadań Komisji należy kontrola przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, działania wspierające rynek wewnętrzny UE, monitorowanie i rozwój AI, przeciwdziałanie zagrożeniom bezpieczeństwa AI, opiniowanie projektów aktów prawnych, rozpatrywanie naruszeń przepisów AI, realizacja zadań nadzoru rynku, publikacje edukacyjne, współpraca międzynarodowa, gromadzenie orzecznictwa, tworzenie piaskownic regulacyjnych, prowadzenie rejestru skarg oraz wydawanie interpretacji. Komisja może również upoważniać Przewodniczącego, Zastępców oraz pracowników Biura do podejmowania działań w ramach jej kompetencji, w tym do wydawania decyzji i postanowień.

Wśród kompetencji Komisji, bardzo interesująca jest możliwość wydawania interpretacji przepisów rozporządzenia 2024/1689 oraz ustawy w indywidualnej sprawie przez Przewodniczącego Komisji, choć możliwość dokonywania wiążącej interpretacji rozporządzenia UE przez polski organ budzi wątpliwości w świetle prawa UE. Wniosek może dotyczyć istniejącego lub przyszłego stanu faktycznego, zwłaszcza w zakresie kwalifikacji systemu jako sztucznej inteligencji i oceny ryzyka. Wniosek kosztuje 150 zł zgodnie z Ordynacją podatkową. Opłaty za wydawanie interpretacji indywidualnych są przychodem Biura Komisji.

Projekt ustawy zawiera szereg rozwiązań analogicznych do tych, które obowiązują już na podstawie ustawy o ochronie konkurencji i konsumentów, pozwalając KRIBSI m.in. na kontrolę podmiotów zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. Kontrolujący mogą przeprowadzać czynności w siedzibie podmiotu lub miejscu jego działalności, wchodzić na teren i do obiektów, żądać udostępnienia dokumentów oraz zabezpieczać materiały. Mają prawo do oględzin, przetwarzania danych osobowych i opieczętowywania lokali w zakresie koniecznym do kontroli. Ochronie podlega tajemnica adwokacka i radcowska, ale wyłącznie zewnętrznego pełnomocnika. Odwołania od decyzji Komisji rozpatruje Sąd Ochrony Konkurencji i Konsumentów.

Podsumowanie. Co dalej z polską AI i nową komisją do spraw sztucznej inteligencji?

Proponowane działania wprowadzają nowatorskie rozwiązania, mające zapewnić kontrolę nad rozwojem i wdrażaniem sztucznej inteligencji. Jednak brakuje w nich konkretnych mechanizmów, które zachęcałyby przedsiębiorców do inwestycji w tę dziedzinę.

Czytaj więcej

Sztuczna inteligencja. Przyszłość, która staje się teraźniejszością

Dyskusja na temat regulacji AI powinna obejmować szeroki kontekst, traktując AI jako element całościowego porządku regulacyjnego w zakresie nowych technologii. Politycy zapowiadają wsparcie finansowe na zatrudnienie specjalistów, lecz istotne jest również wzmocnienie istniejących organów regulacyjnych – zarówno pod względem finansowym, jak i kadrowym. Ważnym aspektem jest także rola sądów, które będą odpowiedzialne za rozpatrywanie odwołań od decyzji KRIBSI. Warto zastanowić się, czy obecny model odwoławczy przed Sądem Ochrony Konkurencji i Konsumentów i następnie sądem apelacyjnym jest wystarczający w kontekście tak złożonych technologicznie spraw.

Skuteczna regulacja AI wymaga szerokiej współpracy między różnymi podmiotami, a KRIBSI powinno zostać włączone w ten ekosystem w sposób, który uprości procesy regulacyjne, zamiast je komplikować, tak by wspierać zarówno przedsiębiorców, jak i administrację publiczną.

Autor:

Dr Małgorzata Kozak, Fundacja Blue Dragon Institute, Uniwersytet w Utrechcie

Ministerstwo Cyfryzacji w połowie października opublikowało projekt ustawy, której celem jest stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce zgodnego z ramami prawnymi ustanowionymi rozporządzeniem 2024/1689 (akt o AI), które weszło w życie 1 sierpnia 2024 r.

Zgodnie z art. 70 ust. 1 oraz motywem 153 rozporządzenia 2024/1689, państwa członkowskie muszą ustanowić lub wyznaczyć co najmniej jeden niezależny organ nadzoru rynku jako krajowy organ odpowiedzialny za nadzór.

Pozostało 94% artykułu
2 / 3
artykułów
Czytaj dalej. Subskrybuj
Podatki
Skarbówka zażądała 240 tys. zł podatku od odwołanej darowizny. Jest wyrok NSA
Prawo w Polsce
Jest apel do premiera Tuska o usunięcie "pomnika rządów populistycznej władzy"
Edukacja i wychowanie
Ferie zimowe 2025 później niż zazwyczaj. Oto terminy dla wszystkich województw
Praca, Emerytury i renty
Ile trzeba zarabiać, żeby na konto trafiło 5000 zł
Materiał Promocyjny
Klimat a portfele: Czy koszty transformacji zniechęcą Europejczyków?
Prawo karne
Rząd zmniejsza liczbę więźniów. Będzie 20 tys. wakatów w celach