Akt o Sztucznej Inteligencji (Akt o SI) to przełomowe rozporządzenie wprowadzone przez Unię Europejską w celu regulacji rozwoju i użytkowania technologii sztucznej inteligencji.
Spis treści
Czym jest Akt o Sztucznej Inteligencji UE?
Akt o SI wszedł w życie 1 sierpnia 2024 roku, a pełne zastosowanie zacznie obowiązywać od 2 sierpnia 2026 roku. Praktyki zabronione zostały zakazane od 2 lutego 2025 roku. Akt promuje innowacje, jednocześnie chroniąc zdrowie, bezpieczeństwo i prawa podstawowe.
Dotyczy zarówno dostawców, jak i użytkowników systemów SI, przy czym dostawcy mają bardziej rozbudowane obowiązki. Akt stosuje podejście oparte na ryzyku:
- Praktyki zabronione: Obejmuje manipulację behawioralną i poznawczą, scoring społeczny, scraping obrazów twarzy i biometryczną inferencję cech wrażliwych.
- Systemy SI wysokiego ryzyka: Wykorzystywane w infrastrukturze krytycznej, HR, ocenie kredytowej lub sądach. Muszą spełniać rygorystyczne wymagania, w tym zarządzanie ryzykiem, oznakowanie CE i nadzór ludzki.
- Modele SI ogólnego przeznaczenia (GPAI): Obejmuje LLM, takie jak ChatGPT. Dostawcy muszą zapewnić przejrzystość, zgodność z prawem autorskim i bezpieczeństwo cybernetyczne.
- Systemy SI o ograniczonym ryzyku: Podlegają obowiązkom przejrzystości, takim jak oznaczanie treści generowanych przez SI i deep fake.
- Minimalne lub żadne ryzyko: Obejmuje gry wideo z obsługą SI i filtry antyspamowe, które nie są regulowane przez Akt o SI.
Naruszenia Aktu o SI mogą skutkować grzywnami do 35 milionów euro lub 7% globalnych rocznych obrotów, w zależności od tego, która kwota jest wyższa.
Alfabetizacja w zakresie SI
Od 2 lutego 2025 roku dostawcy i użytkownicy muszą zapewnić odpowiednią alfabetizację w zakresie SI wśród pracowników. Szkolenie jest zalecane, ale nie obowiązkowe.
Kluczowe kwestie obejmują rolę firmy, ogólne zrozumienie SI, związane z nią ryzyka oraz dostosowane środki edukacyjne w oparciu o wiedzę techniczną i kontekst.
Implementacja w firmach
Akt o SI składa się ze 113 artykułów i 13 załączników, co wymaga starannego planowania i zasobów do wdrożenia. Firmy powinny przeprowadzać audyty w celu oceny:
- Istnienia i kategoryzacji systemów SI
- Typu operatora i zamierzonego celu
- Przetwarzanych danych i generowanych wyników
- Zgodności z praktykami zabronionymi i wymaganiami wysokiego ryzyka
- Obowiązków dotyczących przejrzystości, bezpieczeństwa cybernetycznego i nadzoru ludzkiego
Czym jest Sztuczna Inteligencja (SI)?
Sztuczna inteligencja (SI) to dziedzina informatyki, która naśladuje ludzkie zdolności poznawcze poprzez identyfikację i sortowanie danych wejściowych. Ta inteligencja może być oparta na zaprogramowanych przepływach pracy lub tworzona za pomocą uczenia maszynowego.
W uczeniu maszynowym dane treningowe są wykorzystywane do nauczania SI rozpoznawania wzorców i dokonywania przewidywań. Akt o SI definiuje system SI jako system oparty na maszynach, który działa z różnym poziomem autonomii i generuje wyniki takie jak przewidywania, treści, rekomendacje lub decyzje.
Przykłady systemów SI według Aktu o SI obejmują rozpoznawanie emocji, rozpoznawanie twarzy, selekcję kandydatów, administrację sprawiedliwości, opiekę zdrowotną (np. analiza objawów), obsługę klienta, chatboty i generatywną SI.
Generatywna SI, taka jak ChatGPT, odnosi się do systemów SI, które autonomicznie generują wyniki na podstawie danych wejściowych przy użyciu uczenia maszynowego i dużych modeli językowych (LLM). Te systemy mogą popełniać błędy i "halucynować" – wymyślając prawdopodobne, ale nieprawdziwe stwierdzenia.
Ochrona danych
Użycie systemów SI obejmujących dane osobowe musi być zgodne z RODO. Kary za naruszenia [link wewnętrzny] mogą sięgać 4% globalnych obrotów lub 20 milionów euro.
Firmy muszą zapewnić legalne przetwarzanie, respektować minimalizację danych, dokładność i poufność oraz spełniać obowiązki informacyjne.
Zautomatyzowane decyzje z efektami prawnymi muszą obejmować dyskrecję ludzką. Środki techniczne i organizacyjne (TOM), takie jak szyfrowanie i pseudonimizacja, są niezbędne.
Wymagana jest ocena wpływu na ochronę danych dla przetwarzania wysokiego ryzyka.
Ochrona tajemnic handlowych
Tajemnice handlowe muszą być chronione przed nielegalnym pozyskiwaniem i ujawnianiem. Wymagania obejmują środki poufności, ograniczenia dostępu i NDA.
Systemy SI, dane treningowe i wyniki mogą stanowić tajemnice handlowe. Firmy muszą regulować użycie danych wejściowych i przeglądać warunki stron trzecich, aby uniknąć ryzyka ujawnienia.
Jakie są implikacje praw autorskich w przypadku SI?
Problemy z prawami autorskimi pojawiają się zarówno po stronie danych wejściowych, jak i wyników systemów SI. Użycie chronionych treści do szkolenia jest poddane kontroli prawnej.
Dzieła generowane przez SI nie są objęte ochroną praw autorskich zgodnie z obowiązującym prawem, ponieważ nie są to twory ludzkie. Oznacza to, że takie wyniki są w domenie publicznej.
Kto jest odpowiedzialny za wady związane z SI?
Firmy są odpowiedzialne za wady w produktach i usługach, w tym te spowodowane przez SI.
Zreformowana dyrektywa UE o odpowiedzialności za produkty nakłada odpowiedzialność za wadliwe systemy SI i komponenty, obejmując obrażenia ciała, uszkodzenia mienia i korupcję danych.
Co powinno być przeglądane w warunkach użytkowania systemów SI?
Firmy muszą przeglądać warunki użytkowania systemów SI stron trzecich, koncentrując się na:
- Obowiązującym prawie i jurysdykcji
- Przechowywaniu i wykorzystaniu danych wejściowych do szkolenia
- Prawach do wyników
- Odszkodowaniach za roszczenia dotyczące praw autorskich
- Ograniczeniach gwarancji i odpowiedzialności
Jakie wytyczne powinny stosować firmy w zakresie użytkowania SI?
Wewnętrzne wytyczne dotyczące SI pomagają regulować użytkowanie systemów SI przez pracowników. Mogą one obejmować:
- Opisy i autoryzacje systemów SI
- Instrukcje dotyczące obsługi danych wejściowych i wyników
- Zgodność z poufnością i ochroną danych
- Środki bezpieczeństwa cybernetycznego i obowiązki dotyczące przejrzystości
Podsumowanie Aktu o SI UE
Akt o SI UE będzie w dużej mierze obowiązywał od 2 sierpnia 2026 roku i musi być wdrożony przez firmy korzystające z SI. Reguluje dostawców i użytkowników SI poprzez podejście oparte na ryzyku: im większe ryzyko szkód społecznych, tym surowsze zasady.
- Zgodność z RODO jest obowiązkowa przy przetwarzaniu danych osobowych za pomocą systemów SI.
- Systemy SI muszą być chronione przed nieautoryzowanym dostępem i atakami cybernetycznymi.
- Tajemnice handlowe muszą być chronione przy użyciu systemów SI.
- Problemy z prawami autorskimi po obu stronach danych wejściowych i wyników są poddane kontroli prawnej.
- Firmy są odpowiedzialne za wady w produktach i usługach spowodowane przez SI.
- Warunki użytkowania systemów SI stron trzecich muszą być starannie przeglądane.
- Alfabetizacja w zakresie SI wśród pracowników powinna być promowana poprzez wewnętrzne wytyczne.
Jak Trend Micro wspiera zgodność z Aktem o SI?
Zachowanie zgodności z Aktem o SI UE oznacza więcej niż tylko zrozumienie zasad – wymaga aktywnego zarządzania, monitorowania ryzyka i jasnej odpowiedzialności w całych systemach SI. Od praw autorskich i odpowiedzialności po warunki użytkowania i wytyczne wewnętrzne, organizacje muszą zapewnić, że każdy aspekt wdrażania SI jest zgodny z ewoluującymi standardami prawnymi.
Aby to wspierać, firmy mogą korzystać z zaawansowanych narzędzi, które upraszczają zgodność i zmniejszają narażenie na ryzyko cybernetyczne, korzystając z platformy zarządzania ekspozycją na ryzyko cybernetyczne Trend Micro, zaprojektowanej, aby pomóc w identyfikacji luk, zarządzaniu ryzykiem związanym z SI i utrzymaniu zaufania w operacjach cyfrowych.
Często zadawane pytania (FAQ)
Czym jest Akt o SI UE?
Akt o SI UE to rozporządzenie regulujące systemy sztucznej inteligencji w celu zapewnienia bezpieczeństwa, przejrzystości i ochrony praw podstawowych.
Kiedy wchodzi w życie Akt o SI UE?
Akt o SI UE wchodzi w życie w 2024 roku, a pełne zastosowanie przewidziane jest na 2026 rok we wszystkich państwach członkowskich UE.
Kogo dotyczy Akt o SI UE?
Akt o SI UE dotyczy dostawców, użytkowników i importerów systemów SI działających na rynku Unii Europejskiej lub go celujących.
Kiedy został uchwalony Akt o SI UE?
Akt o SI UE został uchwalony przez Parlament Europejski w 2024 roku po szeroko zakrojonych negocjacjach i konsultacjach ze stronami zainteresowanymi.
Jak zgodnie z Aktem o SI UE?
Aby być zgodnym, organizacje muszą klasyfikować systemy SI według ryzyka, zapewniać przejrzystość, przeprowadzać oceny zgodności i utrzymywać dokumentację.