Parlament Europejski przyjął w pierwszym czytaniu projekt rozporządzenia określanego jako Digital Omnibus on AI, którego celem jest uproszczenie stosowania przepisów AI Act. Choć na pierwszy rzut oka zmiany mogą sprawiać wrażenie zmniejszenia obowiązków administracyjnych, w praktyce przedsiębiorcy nadal będą musieli bardzo uważnie przygotować się do wdrożenia nowych regulacji. Nowelizacja nie zmienia bowiem podstawowych założeń AI Act, lecz porządkuje jego stosowanie, doprecyzowuje część przepisów i jednocześnie wprowadza nowe zakazy dotyczące wykorzystania generatywnej sztucznej inteligencji.
Jedną z najważniejszych zmian jest odejście od sztywnego obowiązku zapewnienia określonego poziomu AI literacy. Projekt zakłada bardziej elastyczne podejście, koncentrując się na wspieraniu rozwoju kompetencji osób korzystających z systemów sztucznej inteligencji. Oznacza to, że przedsiębiorcy nadal będą zobowiązani do prowadzenia działań edukacyjnych, jednak sposób realizacji tego obowiązku pozostanie znacznie bardziej dostosowany do specyfiki prowadzonej działalności.
Istotne znaczenie ma również doprecyzowanie definicji komponentu bezpieczeństwa. W praktyce oznacza to, że nie każdy system wykorzystujący sztuczną inteligencję zainstalowany w produkcie będzie automatycznie kwalifikowany jako system wysokiego ryzyka. Status taki uzyskają jedynie rozwiązania, których podstawowym celem jest zapewnienie bezpieczeństwa i ograniczenie ryzyka dla zdrowia, życia lub mienia. Dla wielu przedsiębiorców będzie to oznaczało uproszczenie procedur związanych z oceną zgodności.
Projekt przewiduje także przesunięcie terminów stosowania części przepisów dotyczących systemów wysokiego ryzyka. Rozwiązanie to ma dać przedsiębiorcom oraz organom nadzoru więcej czasu na przygotowanie odpowiednich procedur, norm technicznych i mechanizmów oceny zgodności. Jednocześnie rozszerzono część ułatwień przewidzianych dla sektora MŚP również na tzw. small mid-cap companies, dostrzegając, że również te przedsiębiorstwa często mierzą się z podobnymi wyzwaniami organizacyjnymi i finansowymi podczas wdrażania nowych obowiązków.
Najdalej idące zmiany dotyczą jednak systemów generatywnej sztucznej inteligencji. Projekt wprowadza zakaz udostępniania rozwiązań przeznaczonych do tworzenia niekonsensualnych materiałów intymnych oraz treści przedstawiających seksualne wykorzystywanie dzieci. Co szczególnie istotne, odpowiedzialność dostawców może powstać również wtedy, gdy możliwość wygenerowania takich materiałów była przewidywalna, a producent nie zastosował odpowiednich zabezpieczeń. W praktyce oznacza to konieczność wdrażania skutecznych mechanizmów filtrowania treści, ograniczeń dotyczących promptów, systemów wykrywania nadużyć oraz procedur reagowania na incydenty.
Zmiany te pokazują, że unijny ustawodawca nie odchodzi od idei ścisłego nadzoru nad sztuczną inteligencją. Wręcz przeciwnie, uproszczeniu ulegają jedynie wybrane obowiązki administracyjne, natomiast odpowiedzialność za bezpieczne wykorzystywanie AI pozostaje bardzo szeroka.
Tematyka ta od wielu miesięcy znajduje się również w centrum zainteresowania ekspertów Kancelarii Prawnej Viggen. Nasi przedstawiciele uczestniczyli w międzynarodowej konferencji naukowej na Universidad Carlos III de Madrid, poświęconej wyzwaniom związanym z cyfryzacją, sztuczną inteligencją oraz wdrażaniem Dyrektywy Platformowej. W gronie prelegentów znaleźli się prof. SGMK dr Mariusz Miąsko, Dyrektor Generalna Kancelarii Prawnej Viggen Anna Nieć-Mrzygłód oraz prof. UKEN dr hab. Łucja Kobroń-Gąsiorowska. Podczas konferencji zaprezentowali wyniki wielomiesięcznych badań dotyczących wpływu AI Act, Platform Work Directive oraz pakietu Digital Omnibus na prawo pracy i obowiązki pracodawców.
Przedstawione analizy obejmowały między innymi obowiązki związane z przygotowywaniem ocen wpływu na prawa podstawowe (FRIA), procedur Human Oversight Protocol, raportów transparentności algorytmicznej oraz nowych zasad nadzoru nad systemami wykorzystującymi sztuczną inteligencję w procesach zatrudnienia. Już dziś widać, że przedsiębiorcy będą musieli przygotować się nie tylko do zmian technologicznych, ale również do stworzenia zupełnie nowych procedur compliance oraz dokumentacji wymaganej przez prawo unijne.
Dzięki aktywnemu udziałowi w międzynarodowych projektach naukowych i konferencjach eksperci Kancelarii Prawnej Viggen na bieżąco analizują kierunek zmian europejskiego prawa i pomagają przedsiębiorcom odpowiednio wcześnie przygotować się do nowych obowiązków. Wspieramy firmy w audytach zgodności z AI Act, przygotowaniu dokumentacji, opracowywaniu procedur wewnętrznych oraz szkoleniach dla kadry zarządzającej i pracowników.
Jeżeli Państwa organizacja wykorzystuje lub planuje wdrożyć rozwiązania oparte na sztucznej inteligencji, warto już dziś przeanalizować wpływ nowych regulacji na prowadzoną działalność. Odpowiednie przygotowanie pozwala ograniczyć ryzyko prawne i uniknąć kosztownych błędów w przyszłości.
Zapraszamy do kontaktu z ekspertami Kancelarii Prawnej Viggen. Chętnie odpowiemy na pytania dotyczące AI Act, Digital Omnibus oraz innych unijnych regulacji wpływających na działalność przedsiębiorców. Zachęcamy również do regularnego odwiedzania naszej strony internetowej oraz śledzenia naszych profili w mediach społecznościowych, gdzie publikujemy komentarze do najnowszych zmian w prawie, analizy eksperckie oraz relacje z krajowych i międzynarodowych konferencji naukowych.
Zapraszamy do współpracy:
tel.: 509-982-577, 12 637-24-57,
e-mail: biuro11@viggen.pl
tel.: 519-140-984,
e-mail.: jak@viggen.pl
Przygotowała:
Monika Bednarz
Radca Prawny- p.o. kierownika działu procesowego
Kancelaria Prawna Viggen sp.j.