Jakie są polityki firm w zakresie AI?

Etyka AI obejmuje zasady i wytyczne regulujące odpowiedzialny rozwój, wdrażanie i korzystanie z systemów AI. Dotyka kwestii takich jak dostosowanie, sprawiedliwość, odpowiedzialność, przejrzystość, prywatność, ryzyko oraz społeczny wpływ technologii AI.

Raport opublikowany przez badaczy OpenAI (arXiv:2307.03718: Regulacje dotyczące GenAI: zarządzanie nowymi zagrożeniami dla bezpieczeństwa publicznego) zwraca uwagę na szereg wyzwań związanych z regulacją modeli generatywnej AI celem ochrony użytkowników. Autorzy raportu stwierdzają, że „modele GenAI stanowią szczególne wyzwanie regulacyjne: niebezpieczne możliwości mogą pojawić się nieoczekiwanie; trudno jest skutecznie zapobiegać niewłaściwemu wykorzystaniu wdrożonego modelu; i trudno jest zapobiegać szerokiemu rozprzestrzenianiu się jego możliwości”.

W podsumowaniu raportu stwierdza się ponadto, że regulacji wymagają „co najmniej trzy bloki konstrukcyjne:

1. - procesy ustanawiania standardów dla deweloperów GenAI;
2. - wymogi dotyczące rejestracji i raportowania w celu zapewnienia organom regulacyjnym wglądu w procesy rozwoju GenAI; oraz
3. - mechanizmy zapewniające zgodność ze standardami bezpieczeństwa w zakresie opracowywania i wdrażania modeli GenAI”.

Organizacje mogą opracować skuteczne polityki dotyczące sztucznej inteligencji, stosując dwa uzupełniające się podejścia: wykorzystując swoje wewnętrzne zespoły ds. bezpieczeństwa lub współpracując z wyspecjalizowanymi firmami konsultingowymi oraz przeprowadzając oceny typu „Red Teaming”. Podczas gdy zespoły wewnętrzne lub konsultanci koncentrują się na definiowaniu i wdrażaniu podstawowych zasad, Red Teaming dostarcza kluczowych informacji poprzez identyfikację słabych punktów i potencjalnych zagrożeń, zapewniając solidność i kompleksowość zasad.

Firmy konsultingowe oferują specjalistyczną wiedzę w zakresie zarządzania sztuczną inteligencją, zgodności z przepisami i najlepszych praktyk, pomagając organizacjom w opracowywaniu polityk dotyczących kluczowych obszarów, takich jak prywatność danych, ochrona własności intelektualnej i ograniczanie ryzyka, przy jednoczesnym dostosowaniu się do standardów branżowych. Red Teaming uzupełnia to poprzez wykrywanie luk w zabezpieczeniach systemu, symulowanie rzeczywistych zagrożeń, takich jak ataki przeciwników, zatruwanie danych lub kradzież modeli, oraz dostarczanie praktycznych informacji umożliwiających udoskonalenie i wzmocnienie ram polityki. Oceny te sprawdzają również skuteczność istniejących polityk, ujawniają potencjalne scenariusze nadużyć, takie jak wdrażanie sztucznej inteligencji w ukryciu lub nieuprawniony dostęp, oraz identyfikują uprzedzenia lub kwestie etyczne w systemach sztucznej inteligencji. Dzięki połączeniu wniosków płynących zarówno z konsultacji strategicznych, jak i ocen podatności na zagrożenia, organizacje mogą ustanowić zasady dotyczące sztucznej inteligencji, które będą bezpieczne, sprawiedliwe i elastyczne, a jednocześnie będą odpowiadać ich indywidualnym potrzebom operacyjnym i strategicznym.