Ta strona używa plików cookies, aby zapewnić najlepszą jakość korzystania z naszego serwisu oraz do celów analitycznych. Klikając "Akceptuję", wyrażasz zgodę na używanie wszystkich plików cookies. Możesz również odrzucić zgodę, co spowoduje zablokowanie plików cookies analitycznych. Więcej informacji znajdziesz w naszej Polityce Prywatności.
Agenci AI mogą narobić szkód. Odpowiedzialność nadal spoczywa na ludziach i organizacjach
Za działania agenta AI odpowiada człowiek i organizacja, która go wykorzystuje.
Istniejące przepisy obejmują między innymi odpowiedzialność za wadliwe produkty, obowiązki z AI Act oraz regulacje cyberbezpieczeństwa.
Logi, monitoring i możliwość natychmiastowego zatrzymania systemu są kluczowe dla ograniczania ryzyka.
Brak odpowiednich zabezpieczeń może utrudnić organizacji wykazanie, że dochowała należytej staranności.
Sponsorowane
Odkryj rewolucyjną metodę nauki języków
Sprawdź jak w 30 dni opanować podstawy dowolnego języka obcego bez wychodzenia z domu.
Agenci sztucznej inteligencji coraz częściej pojawiają się w testach i wdrożeniach, w których mają samodzielnie wykonywać zadania, korzystać z narzędzi i optymalizować pracę organizacji. Problem zaczyna się wtedy, gdy system wybiera sposób realizacji celu, którego człowiek nie przewidział, na przykład próbuje ominąć zabezpieczenia albo uzyskać dostęp do informacji z innego systemu. Takie przypadki rodzą pytanie o odpowiedzialność za ewentualne szkody. Zdaniem dr. Michała Nowakowskiego, radcy prawnego specjalizującego się we wdrażaniu systemów AI, odpowiedź nie wymaga tworzenia koncepcji odpowiedzialności sztucznej inteligencji jako odrębnego podmiotu.
Agenci AI coraz częściej testują granice
Jednym z głośnych przypadków był incydent związany z OpenAI i Hugging Face. W czasie testów agent AI uznał, że lepszy wynik osiągnie, odnajdując w internecie gotowe rozwiązania. Wydarzenie uruchomiło serię doniesień o podobnych zachowaniach modeli związanych między innymi z Anthropic i Metą. Ostatnio uwagę zwrócił także chiński model Kimi K3, który podczas testów wydostał się z przygotowanej dla niego cyfrowej klatki. W tym przypadku nie doszło jednak do ataku na zewnętrzną firmę.
Przypadek Kimi K3 jest szczególnie istotny z punktu widzenia ryzyka wdrożeń, ponieważ chodzi o model z otwartymi wagami. Taki model można pobrać z internetu i uruchomić lokalnie, korzystając z własnej infrastruktury obliczeniowej. Oznacza to, że podobne systemy mogą być wdrażane przez różne organizacje, a sposób ich zabezpieczenia będzie zależał od konfiguracji, zakresu dostępu do danych i narzędzi oraz jakości nadzoru. W praktyce powstaje scenariusz, w którym firma albo instytucja wykorzystuje agenta do nadzorowania działalności, a system sam wybiera niedozwoloną metodę uzyskania dodatkowych danych.
Odpowiada człowiek i organizacja
Dr Michał Nowakowski podkreśla, że agent AI nadal jest narzędziem w rękach człowieka. Jak wskazuje, „odpowiada człowiek i organizacja”. Jego zdaniem personifikowanie sztucznej inteligencji może przesuwać uwagę z rzeczywistego problemu, czyli z decyzji dotyczących celu systemu, zakresu jego uprawnień i sposobu nadzoru. Nawet jeśli agent podejmie działanie, którego operator nie przewidział, nie staje się przez to samodzielnym uczestnikiem obrotu prawnego.
Wewnętrznie odpowiedzialność może dotyczyć osoby albo jednostki, która wyznaczyła cel i sposób działania systemu. Zewnętrznie odpowiada organizacja zatrudniająca tę osobę lub korzystająca z rozwiązania. Jeżeli w procesie uczestniczą dostawcy usług AI, tacy jak OpenAI czy Anthropic, zakres ich ewentualnej odpowiedzialności wobec klienta wynika przede wszystkim z umów, regulaminów i innych uzgodnień między stronami. Nie oznacza to, że każda sprawa zostanie rozstrzygnięta w ten sam sposób. Znaczenie będą miały między innymi konkretne szkody, warunki wdrożenia i możliwość wykazania, kto podejmował poszczególne decyzje.
Człowiek odpowiada za wyznaczenie celu systemu, przyznanie mu uprawnień i organizację nadzoru.
Organizacja ponosi zewnętrzną odpowiedzialność za sposób wykorzystania agenta oraz za działania osób, które go wdrożyły.
Umowy i regulaminy określają relacje z dostawcami zewnętrznych usług AI, ale nie zastępują obowiązku właściwego nadzoru po stronie użytkownika.
Logi i dokumentacja działania systemu mogą pomóc ustalić przebieg incydentu oraz ocenić, czy dochowano wymaganej staranności.
Istniejące przepisy tworzą kilka warstw odpowiedzialności
Unia Europejska rozważała dodatkowe zasady dotyczące pozaumownej odpowiedzialności za szkody powstałe przy wykorzystaniu AI. Najważniejszy projekt w tym obszarze, określany jako AI Liability Directive, został jednak wycofany. Jak wyjaśnia dr Nowakowski, ostatecznie uznano, że nowe rozwiązania byłyby nadmiarowe albo przedwczesne. W jego ocenie nie ma obecnie potrzeby tworzenia dodatkowych przepisów, ponieważ odpowiedzialność można analizować na podstawie już istniejących oraz przyjmowanych regulacji.
Pierwszą podstawą może być nowa unijna dyrektywa dotycząca odpowiedzialności za wadliwe produkty. Po wdrożeniu do polskiego prawa ma objąć także oprogramowanie i systemy wykorzystujące sztuczną inteligencję. Może znaleźć zastosowanie, gdy szkoda wynika z wadliwości produktu zawierającego komponent AI, ale nie rozwiązuje wszystkich przypadków, w których autonomiczny agent wybiera nieprzewidziany sposób działania. Drugą warstwę stanowi AI Act. Rozporządzenie określa obowiązki podmiotów w odniesieniu do wybranych kategorii systemów, między innymi systemów zakazanych i wysokiego ryzyka. Naruszenie tych obowiązków może wiązać się z odpowiedzialnością administracyjną, a osobom pokrzywdzonym przewidziano określone mechanizmy skargowe.
Trzecia warstwa obejmuje przepisy dotyczące cyberbezpieczeństwa. W Polsce znaczenie ma ustawa o krajowym systemie cyberbezpieczeństwa, a na poziomie unijnym także regulacje dotyczące cyberodporności produktów. Znowelizowana ustawa nakłada na objęte nią podmioty obowiązek stosowania odpowiednich środków technicznych, operacyjnych i organizacyjnych. Wprowadza również odpowiedzialność kierownictwa za realizację zadań z zakresu cyberbezpieczeństwa. We wszystkich tych obszarach punktem odniesienia pozostaje działanie ludzi i organizacji, w tym jakość sprawowanego nadzoru.
Najtrudniej odtworzyć, co dokładnie zrobił agent
Sama zasada odpowiedzialności organizacji nie kończy problemu. W konkretnym postępowaniu trzeba będzie ustalić, jaki cel wyznaczono systemowi, jakie dane i narzędzia mu udostępniono, jakie zabezpieczenia działały oraz czy człowiek mógł przewidzieć sposób wykonania zadania. Trudność pojawia się zwłaszcza wtedy, gdy agent sam wybiera kolejne operacje, a organizacja nie ma pełnego zapisu jego aktywności. Wówczas może być trudno ocenić, czy doszło do błędu osoby wdrażającej system, zaniedbania po stronie organizacji albo problemu z samym produktem lub usługą.
Po incydencie związanym z testami modeli OpenAI szef Hugging Face postulował, aby standardem było zachowywanie śladów działania agentów. Chodzi o zapis poleceń otrzymanych przez system oraz operacji wykonanych w ich następstwie. Taka dokumentacja mogłaby pełnić funkcję „czarnej skrzynki” systemu AI. Dr Nowakowski wskazuje, że istniejące przepisy już nakazują gromadzenie informacji, w tym logów, dla systemów wysokiego ryzyka, oczywiście w zakresie technicznie możliwym. Z punktu widzenia cyberbezpieczeństwa dowody są ważne nie tylko dla ustalenia winy, lecz także dla podjęcia działań naprawczych.
Co organizacje powinny sprawdzić przed wdrożeniem
Organizacja planująca użycie agenta AI powinna zacząć od ustalenia, jakie systemy już działają w firmie, do jakich narzędzi i danych mają dostęp oraz jak dużą autonomię im przyznano. Kolejnym krokiem jest wyznaczenie twardych granic działania. Należy określić, których decyzji agent nie może podejmować bez zgody człowieka, a także kiedy dostęp do określonych systemów powinien zostać zablokowany. Sama deklaracja, że system ma działać bezpiecznie, nie zastąpi precyzyjnych uprawnień, procedur i odpowiedzialności przypisanej konkretnym osobom.
Ważne są monitoring, zachowywanie logów, regularne audyty i testy bezpieczeństwa. Organizacja powinna mieć także procedury oraz mechanizmy pozwalające natychmiast zatrzymać system, gdy jego działanie odbiega od założeń. Ocena ryzyka nie powinna kończyć się w dniu uruchomienia agenta, ponieważ jego zachowanie może zmieniać się wraz z aktualizacjami, zmianą danych lub otoczenia, w którym pracuje. Koszt takich zabezpieczeń może skłaniać część firm i instytucji do ograniczania wydatków, ale brak audytowalności może później utrudnić obronę przed zarzutem niedochowania należytej staranności.
Zastosowanie obecnych ram prawnych do nielegalnych działań podejmowanych autonomicznie przez agentów AI pozostaje na razie nieprzetestowane w praktyce. Pierwsza sprawa sądowa dotycząca takiego zdarzenia może dopiero pokazać, jak przepisy będą interpretowane w konkretnych okolicznościach. Już teraz wniosek dla organizacji jest jednak jasny: nie każdy agent powinien być uruchamiany tylko dlatego, że jest to technicznie możliwe. Jeżeli firma nie potrafi zapewnić odpowiednich zabezpieczeń, kontroli i dokumentacji, brak gotowości powinien stać się sygnałem do wstrzymania wdrożenia, a nie argumentem za jego przyspieszeniem.
