Komisja Europejska nasila egzekwowanie unijnych przepisów dotyczących sztucznej inteligencji, żądając od twórców najbardziej zaawansowanych modeli informacji o bezpieczeństwie i przestrzeganiu praw autorskich. Działania wpisują się w wdrażanie AI Act i mają ograniczyć ryzyko wprowadzania na rynek systemów, które nie zostały wystarczająco przetestowane.
Najważniejsze
- Komisja Europejska rozpoczęła wysyłanie pytań do ok. 30 firm AI, w tym OpenAI, Anthropic i podmiotów z Chin, dotyczących bezpieczeństwa, danych i praw autorskich.
- KE podkreśla wzrost ryzyka komercjalizacji niesprawdzonych rozwiązań AI oraz incydentów cyberbezpieczeństwa, wskazując na trudności z oceną algorytmów i konieczność zewnętrznej ewaluacji.
- AI Act nakłada na deweloperów i dostawców AI obowiązki dotyczące zarządzania ryzykiem, bezpieczeństwa i przejrzystości, mając ograniczyć europejską zależność od technologii z U.S. i Chin.
Wnioski KE do firm rozwijających modele
Jak podaje TVN24 Biznes, wiceprzewodnicząca Komisji Europejskiej Henna Virkkunen poinformowała, że w ramach egzekwowania AI Act Bruksela kieruje już pytania do firm rozwijających najbardziej zaawansowane systemy sztucznej inteligencji. Jedna grupa wniosków obejmuje kwestie bezpieczeństwa i trafia do około 10 podmiotów, natomiast druga, skierowana do około 20 firm, dotyczy praw autorskich oraz danych wykorzystanych do trenowania modeli.Virkkunen zaznacza, że globalna konkurencja w sektorze AI jest na tyle intensywna, iż rośnie ryzyko komercjalizacji produktów niewystarczająco sprawdzonych. Dodaje, że Komisja odnotowuje także incydenty, w których dostawcy usług i deweloperzy AI nie są w stanie w pełni kontrolować własnych rozwiązań.
Wiceszefowa KE potwierdza, że pytania trafiają między innymi do amerykańskich firm OpenAI i Anthropic, a także do spółek z Chin. Jak podkreśla, ocena nowoczesnych algorytmów staje się coraz trudniejsza, dlatego potrzebne są wysokie kompetencje eksperckie, odpowiednia jakość procedur oraz czas na zewnętrzną ewaluację modeli.
Znaczenie regulacji dla bezpieczeństwa i niezależności Europy
Komisja Europejska ocenia, że AI Act ma zapobiegać wprowadzaniu na rynek nieprzetestowanych i potencjalnie niebezpiecznych systemów, nawet w warunkach ostrego wyścigu technologicznego między U.S. i Chinami. Virkkunen przekonuje, że państwa, które dziś nie chcą regulować AI, mogą wrócić do tej kwestii wraz ze wzrostem ryzyka poważnych incydentów.Wśród zagrożeń wskazuje ona przyszłe ryzyka związane z bronią biologiczną lub dostępem terrorystów do zaawansowanych modeli, przy czym obecnie uwaga koncentruje się głównie na cyberbezpieczeństwie. Równolegle KE podkreśla potrzebę przyspieszenia prac nad europejskimi modelami bazowymi, aby ograniczyć zależność regionu od technologii rozwijanych w U.S. i Chinach.
AI Act stanowi pierwsze na świecie kompleksowe ramy prawne dla rozwoju, wdrażania i wykorzystywania sztucznej inteligencji. Regulacja opiera się na analizie ryzyka i nakłada na twórców oraz dostawców technologii obowiązki dotyczące zarządzania ryzykiem, przejrzystości danych, bezpieczeństwa oraz przestrzegania praw autorskich.
W naszym wcześniejszym materiale o rozwoju ElevenLabs poza Polską opisywaliśmy, jak otoczenie prawne i dostęp do kapitału wpływają na budowę globalnych spółek AI. Zwracaliśmy uwagę na bariery administracyjne dla startupów w Polsce, a także na to, że firma mimo rejestracji za granicą rozwija w kraju centrum B+R i deklaruje inwestycje w polskie przedsięwzięcia technologiczne.