Jakie są zagrożenia dla bezpieczeństwa związane z AI?

Open Worldwide Application Security Project (OWASP) zidentyfikował szereg luk w zabezpieczeniach związanych z AI opartą na dużych modelach językowych (ang. Large Language Model, LLM). Są to:

• Prompt injection
• Przetwarzanie wyników bez zabezpieczenia
• Zatruwanie danych używanych do szkolenia modeli AI
• Odmowy usługi modelu
• Słabe punkty łańcucha dostaw
• Ujawnianie informacji wrażliwych
• Niezabezpieczone wtyczki
• Nadmierna sprawczość
• Nadmierne poleganie na wynikach
• Kradzież modelu

Będąc w dużej mierze zależną od dostępnych danych i informacji wprowadzanych przez użytkowników, AI jest coraz częściej celem złośliwych ataków w nadziei na złamanie zabezpieczeń cyfrowych i wyłudzenia poufnych informacji. W wynikach ankiety przeprowadzonej niedawno przez Gartner® podano pięć najczęściej wymienianych nowych zagrożeń w pierwszym kwartale 2024 roku. Zagrożenia związane z AI zajmują w nich dwa pierwsze miejsca, tj. wspomagane sztuczną inteligencją złośliwe ataki oraz dezinformacja. Jak zauważa Gartner, coraz lepsza AI może „ułatwiać phishing i inżynierię społeczną, dzięki skuteczniejszym włamaniom, większej wiarygodności i atakom wyrządzającym więcej szkód”.

O niedokładności AI mówimy wtedy, gdy podawane przez nią wyniki nie są dopasowane do celu podanego przez użytkownika. Może to być przypadkowe, np. w wyniku awarii chroniących przed tym zabezpieczeń. Może to być również celowe, w którym to przypadku złośliwe podmioty mogą starać się zachwiać stabilnością atakowanej AI lub zainstalować w jej środowisku złośliwie dopasowane modele.

Automatyzacja oszustw polega na tworzeniu treści tekstowych, dźwiękowych lub wideo, które wykorzystują procesy biznesowe, czy to poprzez phishing, włamanie na pocztę służbową (BEC), czy też audio-wizualne treści Deepfake. AI pozwala łatwo skalować automatyzację oszustw.

Systemy AI są zależne od danych. Dlatego dane wykorzystywane w systemach AI – oraz dane na żywo, z którymi modele te się stykają – muszą być zgodne ze wszystkimi przepisami dotyczącymi ochrony prywatności i uczciwego użytkowania. Stąd potrzeba proaktywnego i skutecznego zarządzania danymi, by minimalizować ryzyko.

Modele LLM są narażone na poważne luki w zabezpieczeniach, w tym wstrzyknięcie poleceń, które manipuluje zachowaniem modelu, ujawnienie poufnych informacji, które naraża dane na ryzyko, oraz nieprawidłowe przetwarzanie wyników, które umożliwia ataki na systemy niższego szczeb Inne poważne zagrożenia obejmują podatność łańcucha dostaw na zależności od podmiotów zewnętrznych, nadmierne przyznawanie niepotrzebnych uprawnień przez agencje, zatrucie danych zagrażające integralności modelu oraz wyciek komunikatów systemowych ujawniających poufne instrukcje. Ponadto słabe punkty osadzania wektorów, generowanie fałszywych informacji i ataki polegające na nieograniczonym zużyciu zagrażają bezpieczeństwu, niezawodności i dostępności aplikacji LLM.