Sysdig ogłosił rozwiązanie Sysdig AI Defense, które ma zapewniać bezpieczeństwo i zarządzanie agentami sztucznej inteligencji w czasie działania. Platforma wykorzystuje obserwowalność środowiska uruchomieniowego do śledzenia czynności wykonywanych przez agentów oraz do blokowania ryzykownych operacji, zanim zostaną zakończone w systemach produkcyjnych. Firma kieruje produkt do organizacji, w których AI przestaje być wyłącznie narzędziem odpowiadającym na pytania, a zaczyna samodzielnie wykonywać zadania.
AI przechodzi od odpowiadania do działania
W ocenie Sysdig agentic AI zmienia sposób, w jaki organizacje korzystają z modeli. Wcześniejsze systemy koncentrowały się przede wszystkim na generowaniu odpowiedzi, natomiast agenci mogą między innymi tworzyć kod, modyfikować infrastrukturę i sięgać do środowisk produkcyjnych. Wykonują przy tym wiele czynności szybciej, niż zespoły są w stanie ręcznie przeanalizować każdy krok. To zwiększa znaczenie kontroli nad uprawnieniami, narzędziami oraz zasobami, z których agent może skorzystać.
Problem polega nie tylko na liczbie wykonywanych operacji. Agenci są projektowani z coraz większą autonomią, złożonością i zdolnością do realizowania wieloetapowych zadań. W miarę wzrostu złożoności rośnie też możliwość odejścia od założonego celu albo wykonania działania, którego organizacja nie przewidziała. Sysdig zwraca uwagę, że agent uruchomiony rano nie musi być tym samym procesem, który działa po południu. Jego możliwości mogą zmienić się w trakcie realizacji zadania, dlatego sama kontrola konfiguracji przed uruchomieniem może nie wystarczyć.
Widoczność działań od agenta do systemu
Sysdig AI Defense ma obserwować każdą czynność agenta, od jej źródła aż do zakończenia. Według firmy wymaga to zejścia poniżej poziomu deklaracji samego agenta. Agent może nieprawidłowo opisać wywołanie narzędzia albo przedstawić własną wersję tego, co zrobił, jednak nie może dowolnie zmienić śladów interakcji z systemem operacyjnym i światem zewnętrznym. Dlatego platforma ma porównywać opis czynności przekazany przez agenta z rzeczywistymi operacjami widocznymi w środowisku. To podejście jest przykładem runtime security
