Dariusz Standerski, wiceminister cyfryzacji: Komisja rozpatrzy skargi na AI

Co znajdzie się w projekcie ustawy o systemach sztucznej inteligencji?

Wdraża ona europejski AI Act, ale chcemy, żeby to wdrożenie było elastyczne i żeby dotyczyło nie tylko samych reguł, ale również dawało przestrzeń rozwoju sztucznej inteligencji. Dlatego po pierwsze, ustawa powołuje Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie organem nadzoru rynku zgodnie z rozporządzeniem. Chcemy, by komisja była organem, który w sposób sprawny będzie dopuszczał systemy wysokiego ryzyka do rynku. Nie będzie ograniczać się do sztywnych regulacji ustawowych. Planujemy przyznać jej kompetencje do wydawania interpretacji generalnych i indywidualnych. Ponieważ kolejne systemy i funkcjonalności będą interpretowane w ramach rozporządzenia, nie chcemy, by każda z nich wymagała nowej ustawy. Dlatego wzorem administracji skarbowej komisja zyska możliwość wydawania interpretacji w zakresie ważnych zmian technologicznych, jeśli chodzi o AI.

Co będą zawierały te interpretacje i czy będą wiążące?

Będą one wskazywały przedsiębiorcom kierunki. Chcąc wypuścić na rynek nową ofertę i nie wiedząc, czy będzie to system wysokiego ryzyka, czy może system zakazany, firma będzie mogła zwrócić się o interpretację. Dzięki temu przed wypusz-czeniem na rynek i poniesie-niem dużej części kosztów będzie miała już taką informację. To ma dać firmom komfort rozwijania technologii, zapewnić stabilność. Możliwości będą bardzo różne – od prostego testu na stronie internetowej organu, który pozwoli sprawdzić, czy dany system wchodzi w zakres praktyk zakazanych, po interpretacje bezpośrednio od komisji, dotyczące nowych, niezna-nych dziś systemów opartych na AI. To elastyczne podejście i możliwość dopasowywania się do rozwoju technologii.

Czytaj więcej:

Raporty ekonomiczne

Firmy w Polsce nie są gotowe do wdrożeń AI. Czekają je duże wydatki

Polska ma przyspieszyć działania wspierające rozwój sztucznej inteligencji – tak przynajmniej deklaruje rząd. Na razie jednak nie jest dobrze. Potrzebne są duże pieniądze, by włączyć się do wyścigu.

Pro

Kto wejdzie w skład komisji?

Komisja będzie składać się z przewodniczącego, dwóch zastępców oraz dziewięciu członków, wśród których znajdą się: przedstawiciele ministra cyfryzacji, ministra koordynatora służb specjalnych, Komisji Nadzoru Finansowego, rzecznika praw obywatelskich, rzecznika praw dziecka, Krajowej Rady Telewizji i Telewizji oraz prezesi UOKiK, UODO i UKE. To będą członkowie komisji z prawem głosu, ale nie chcemy, żeby komisja „zamykała się” i dlatego przewidujemy, że w jej posiedzeniach mogą uczestniczyć przedstawiciele Kancelarii Prezydenta, Sejmu, Senatu, ministra obrony narodowej, ministra kultury, ministra rozwoju, Polskiego Centrum Akredytacji, Polskiego Komitetu Normalizacyjnego. Co ważne, chcemy też dopuścić przedstawicieli stron Rady Dialogu Społecznego, czyli pracodawców i pracowników, oraz rzecznika praw pacjenta, rzecznika finansowego, rzecznika małych i średnich przedsiębiorców, Państwowej Inspekcji Pracy, Urzędu Patentowego, no i samego Biura Komisji. Chcemy, żeby informacje o pracach komisji były szeroko znane, aby każdy mógł na nie zwracać uwagę. Planujemy też po- wołanie przy Komisji Rady Społecznej, która będzie gromadziła osoby z trzeciego sektora.

Czyli kogo dokładnie?

Chcemy, żeby przy Radzie Społecznej działały osoby, które są zgłoszone przez stronę samorządową Komisji Wspólnej Rządu i Samorządu, przez RPO, RPD, izby gospodarcze, związki zawodowe oraz organizacje pozarządowe. Chcemy, żeby ta Rada Społeczna mogła wspierać komisję swoimi opiniami i stanowiskami w poszczególnych obszarach działalności komisji.

Wracając do składu komisji – wskazane dziewięć instytucji będzie mieć po jednym przedstawicielu, a do tego powołany zostanie przewodniczący i dwóch następców. Kto ich mianuje?

Przewodniczącego powoła premier spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. Będzie on musiał, poza ogólnymi warunkami, posiadać szczególny dorobek i wyróżniać się wiedzą z zakresu sztucznej inteligencji lub prawa, doświadczenie zawodowe zdobyte w czasie pracy naukowej, w obszarze cyberbezpieczeństwa lub informatyki ogólnej i trzyletni staż pracy na stanowiskach kierowniczych. Nabór ma być publicznie ogłoszony, przeprowadzi go komisja kwalifikacyjna. Wszystko tu ma być jawne, publikowane w Biuletynie Informacji Publicznej. Także zastępców przewodniczącego komisji powoła premier spośród osób wskazanych przez samego przewodniczącego. Muszą one jednak spełniać takie same warunki jak przewodniczący. Chcemy też, żeby przewodniczący mógł sobie dobrać najbliższych współpracowników, żeby praca szła szybko.

Czytaj więcej

Dane osobowe

Mirosław Wróblewski, prezes UODO: Nie dla „Pay or okey” w danych osobowych

Bardzo często godzimy się na przetwarzanie naszych danych, w tym biometrycznych, pod pretekstem korzystania z określonych usług – mówi Mirosław Wróblewski, prezes Urzędu Ochrony Danych Osobowych.

Jakie kompetencje będzie miała komisja, będąc organem nadzoru?

Będzie stała na straży wykonywania przepisów ustawy o systemach sztucznej inteligencji i rozporządzenia unijnego. Będzie dopuszczać do obrotu systemy wysokiego ryzyka, dokonywać kontroli w zakresie przestrzegania przepisów przez podmioty obsługujące te systemy i nakładać kary stosownie do AI aktu. Dodatkowo będzie mogła podejmować działania na podstawie innych przepisów rozporządzenia, czyli m.in. przyjmować zgłoszenia o incydentach z udziałem systemów AI. W tym zakresie ma współpracować z właściwymi CSRiT-ami. Rozpatrzy też skargi na działalność systemów AI, bo każdy będzie mógł zgłosić skargę na działanie systemu sztucznej inteligencji, które go bezpośrednio dotyka. Jeśli ktoś, poczuje się dyskryminowany przez taki system u lekarza, w pracy, w komunikacji miejskiej, będzie mógł złożyć skargę. Komisja będzie te skargi rozpatrywać i sprawdzać, czy rzeczywiście nie doszło do złamania przepisów w tych systemach wysokiego ryzyka.

A jeśli by doszło, to będzie mogła zakazać stosowania danego systemu?

Może nałożyć karę, jeżeli doszło do naruszenia ustawy, choć system jest z nią zgodny, ale nastąpi jakiś błąd, zła wola i to nie zadziała tak jak powinno. Natomiast jeżeli okaże się, że system sam z siebie jest niezgodny z ustawą, to oczywiście wtedy komisja podejmie decyzję o jego wycofaniu z obrotu. Jeśli chodzi o procedury kontroli, to mamy dużo doświadczeń z tego, jak NIK je prowadzi. Mamy też przepisy z prawa przedsiębiorców i na ich podstawie to uregulowaliśmy, choć kontrola w oparciu o ustawę o systemach sztucznej inteligencji może być w całości prowadzona zdalnie. Bo wiemy, że dzisiaj kontroler nie musi fizycznie przyjść, zamachać legitymacją i wejść do budynku. Wszystko może odbyć się poprzez zdalne udostępnienie danych czy dostępu do serwerów i taka forma też jest przewidziana. Chcieliśmy od początku, żeby to była odrębna jednostka zajmująca się tą dziedziną, bo dodawanie kompetencji do dzisiaj i tak bardzo obciążonych organów i instytucji mijałoby się z celem. Zwłaszcza że chcemy utworzyć organ, który będzie sprawny, elastyczny i z któ- rego wyeliminujemy papier. Nie będzie w nim żadnych procedur papierowych. W ramach istniejących urzędów byłoby to zapewne niemożliwe.

Czy komisja skupi całość kompetencji w zakresie sztucznej inteligencji, czy część z nich dostaną organy wchodzące w jej skład, np. prezesi UODO, UOKiK czy UKE?

Samo rozporządzenie o sztucznej inteligencji przewiduje kompetencje dla określonych organów, np. nadzorujących rynek finansowy (KNF) chroniących dane osobowe (UODO) czy konkurencję i konsumentów (UOKiK). AI akt przewiduje też wykaz organów praw podstawowych, które będą mogły upominać się bezpośrednio w komisji o prawa wynikające, czy to z karty praw podstawowych, czy innych aktów ochrony praw człowieka. Te organy można będzie wskazać np. uchwałą Rady Ministrów. Przed nami ich wybór w listopadzie. Już wysłaliśmy do rzecznika praw obywa-telskich i rzeczniczki praw dziecka pytanie o taką ich rolę i czekamy na ich stanowisko. Będziemy też dalej rozszerzać to grono.

Czytaj więcej:

Prawo w firmie

Prawo może pomóc w rozwoju AI? Sztuczna inteligencja potrzebuje jednolitej legislacji

Biznes obawia się, że wdrożenie AI Actu utrudni rozwijanie sztucznej inteligencji i odstraszy inwestorów. Instytucje państwowe wskazują tymczasem, że jest dokładnie odwrotnie – potrzebujemy jednolitych regulacji unijnych, bo Chiny i USA już je mają.

Pro

Czy jakieś nowe uprawnienia zyska Ministerstwo Cyfryzacji?

Minister cyfryzacji będzie jednostką zajmującą się notyfikacją, wyznaczaniem standardów w zakresie sztucznej inteligencji. Będzie robić to w pełnej współpracy z Polskim Centrum Akredyta-cji. Ta jednostka sprawdziła się i chcemy, by zapewniała nam profesjonalną pomoc. Jako pełnomocnik rządu ds. cyberbezpieczeństwa minister będzie miał też kompetencje w zakresie zgłaszania incydentów. Wspominałem o wspieraniu sztucznej inteligencji – wpisaliśmy również do projektu zobowiązanie ministra cyfryzacji do publikowania co roku informacji na temat wykorzystania mocy obliczeniowych, prognozowanego ich wykorzystania w kolejnym roku oraz zużycia energii elektrycznej, które będzie wymagane do obsługi tej mocy. Dla każdego, kto myśli o inwestycjach w AI, to są kluczowe informacje.

Dlaczego państwo musi w tym aspekcie interweniować? Czy moc obliczeniowa to nie jest coś, co zapewni wolny rynek?

Państwo musi dawać informacje w tym zakresie. Dziś minister ds. energii planuje, jakie będą źródła energii i prognozowana jej produkcja. Jeżeli chcemy – a to jest nasz cel – skalować wykorzystanie systemów sztucznej inteligencji, to musimy mieć świadomość, że wymaga ona odpowiedniego zwiększenia zużycia energii elektrycznej. Jeżeli nie wskażemy ministrowi energii, że jej zużycie będzie większe, niż on zakłada, to może się okazać, że będziemy sobie radośnie zwiększać moce obliczeniowe, a zabraknie nam prądu. Więc nie chcąc do tego dopuścić, musimy zebrać te informacje. Dzisiaj nie mamy pełnej informacji ds. mocy obliczeniowych w Polsce, tylko cząstkowe. Przy odpowiedniej infrastrukturze możemy też dzielić się naszymi mocami z państwami członkowskimi UE, tylko musimy mieć to dobrze zinwentaryzowane. Moce obliczeniowe są też ważne dla prowadzenia polityk publicznych, bo wyobrażam sobie, że w przyszłości warunkiem naszego rozwoju będzie albo tworzenie kolejnych centrów danych na poziomie regionalnym, albo włączanie tych danych do chmury, tak żeby mogły z niej korzystać takie jednostki jak szpitale, szkoły, lokalne firmy. A żeby dobrze wykorzystać te dane, potrzebujemy właśnie centrów obliczeniowych. Dlatego ta kompetencja ministra cyfryzacji jest dla mnie bardzo ważna. Każda strategia wymaga też twardych informacji infrastrukturalnych. Jeżeli chcemy, żeby w przyszłości milion przedsiębiorców korzystało z systemów AI, to musimy być też na to przygotowani, żeby utrzymać to sieciowo.

Czy obywatel polski będzie mógł złożyć skargę w Komisji ds. AI nawet jeśli dany system został wprowadzony do obrotu w innym państwie członkowskim?

Każdy kraj będzie miał swój organ, ale chcemy doprowadzić do sprawnej procedury, żeby nawet skarga zgłoszona do systemu, który nie jest zarejestrowany w Polsce, mogła zostać sprawnie przekazana do odpowiedniego organu w danym państwie. Na poziomie unijnym widzimy, że tworzy się sieć takich organów w całej Unii Europejskiej, powstała Rada Sztucznej Inteligencji, więc będzie tworzona taka europejska sieć w tym zakresie.

W trakcie debaty w redakcji „Rzeczpospolitej” wspominał pan, że choć teoretycznie rozporządzenia unijne mają prowadzić do ujednolicenia prawa, to różnice w ich wdrażaniu są tak duże, że możemy właściwie mówić o oddzielnych systemach. Czy to naprawdę aż tak poważny problem?

Brak harmonizacji jest poważnym problemem dla istnienia jednolitego rynku. Z tego względu, że rozporządzenie daje nam podstawy materialne, ale każde państwo samodzielnie ustala procedury i dostosowuje przepisy do lokalnych właściwości. Uważamy, że należy to też zacząć harmonizować. Jest to jeden z naszych priorytetów w czasie prezydencji – żebyśmy mogli pracować nad wdrażaniem prawa unijnego wspólnie. Bo dzisiaj dzięki ocenom skutków regulacji wiemy w jaki sposób przepisy unijne zostały wdrożone w Austrii, w Hiszpanii, Francji czy Holandii. Ale nie wiem dlaczego jedno państwo postanowiło stworzyć nowy urząd, drugie dodać kompetencje do istniejącego urzędu, jedno państwo stosuje to w ramach prawa cywilnego, inne w ramach administracyjnego. A często nie wiemy, bo nie mamy takich przestrzeni współpracy w ramach Unii Europejskiej. Dlatego będziemy chcieli, w ramach naszej prezydencji, i przewodnictwa Radzie Sztucznej Inteligencji od 1 stycznia, żeby doprowadzić do spotkań roboczych w ramach państw członkowskich poświęconych właśnie wyzwaniom i sposobom wdrożenia. AI Akt jest najlepszą do tego okazją, bo wszystkie państwa UE będą miały ten punkt kulminacyjny wdrożenia właśnie w pierwszej połowie przyszłego roku. I dlatego odrabiamy dzisiaj tę lekcję, mamy już gotowy projekt ustawy. Do rozpoczęcia prezydencji będziemy mieli go przekonsultowanego w Polsce, dzięki czemu będziemy mogli pokazać innym państwom członkowskim – zobaczcie, my już coś zrobiliśmy, więc może usiądźmy i sprawdźmy, czy procedury, które są u nas, nie mogą być wykorzystane również w waszych państwach. Już to zaczynamy robić, bo na początku września przedstawiliśmy dobre praktyki w zakresie wdrażania AI Radzie Sztucznej Inteligencji. W tej chwili umawiamy się na spotkania robocze w zakresie usług cyfrowych z innymi państwami, między innymi z Hiszpanią, więc nawiązujemy te kontakty i mam nadzieję, że to też pomoże w harmonizacji także na poziomie proceduralnym.

Czy to uda się zrobić w ciągu tej prezydencji?

Nie mam tutaj złudzeń, że w pierwszej połowie 2025 stworzymy jednolitą procedurę dla sztucznej inteligencji, ale jeżeli uda się ustalić chociażby jeden punkt tej procedury, który będzie wspólny dla wszystkich państw Unii Europejskiej, np. jeżeli chodzi o skargi, to moim zdaniem będzie to już duże osiągnięcie. Bo gra jest o to, czy w perspektywie 5-10 lat będziemy mieli w Unii zharmonizowane wdrożenia, czy dalej będziemy męczyć się z 27 rynkami.

Jakie są inne cele na tą prezydencję w kwestii sztucznej inteligencji?

Wyraziliśmy już jasno wobec Komisji Europejskiej, że nie oczekujemy w naszej prezydencji żadnych nowych, dużych aktów prawnych, ponieważ uważamy, że w poprzedniej kadencji mieliśmy już bardzo duży pakiet prawa cyfrowego. Ale niestety nie mieliśmy spójnego systemu i teraz musimy pracować nad takim systemem. Moje oczekiwanie wobec KE jest takie, że w czasie naszej prezydencji zostanie ogłoszony pierwszy projekt strategii wykorzystania sztucznej inteligencji. Ponieważ uważam, że brakuje nam nie tylko jednolitego wdrażania, ale również dokumentów strategicznych, inwestycyjnych. Mamy regulacje, ale nie mamy wspólnych planów jeżeli chodzi o inwestycje i wykorzystanie tego co mamy. Prowadzimy już rozmowy robocze z tworzącą się nową Komisją Europejską i oczekujemy, że taka strategia inwestycyjna powstanie w czasie naszej prezydencji, że zaczniemy nad nią pracę, konsultacje, uzgodnienia i negocjacje wewnątrz Unii.

Czytaj więcej:

Sądy i Prokuratura

Logiczne konsekwencje AI. Czy prawnicy powinni bać się o swoje posady?

Systemy sztucznej inteligencji stają się coraz bardziej autonomiczne, a osiągane wyniki nie zawsze można powiązać z decyzjami człowieka.

Pro