Ta strona używa plików cookies, aby zapewnić najlepszą jakość korzystania z naszego serwisu oraz do celów analitycznych. Klikając "Akceptuję", wyrażasz zgodę na używanie wszystkich plików cookies. Możesz również odrzucić zgodę, co spowoduje zablokowanie plików cookies analitycznych. Więcej informacji znajdziesz w naszej Polityce Prywatności.
CISO w erze agentów AI ma dwa zadania: pilnować dostępu i przyspieszać obronę
Każdy agent AI powinien mieć zarządzaną tożsamość i tylko niezbędne uprawnienia.
Organizacje muszą wiedzieć, jakie agenty istnieją, kto za nie odpowiada i do jakich danych mają dostęp.
Obrona powinna łączyć sygnały z tożsamości, urządzeń, aplikacji i chmury.
Agenci mogą wspierać analityków bezpieczeństwa w badaniu i obsłudze incydentów.
Sponsorowane
Odkryj rewolucyjną metodę nauki języków
Sprawdź jak w 30 dni opanować podstawy dowolnego języka obcego bez wychodzenia z domu.
Sztuczna inteligencja zmienia nie tylko sposób, w jaki firmy tworzą produkty i automatyzują pracę. Zmienia także zakres odpowiedzialności osób kierujących bezpieczeństwem informacji. W materiale opublikowanym na blogu Microsoft Security Aarti Borkar wskazuje, że szefowie bezpieczeństwa, czyli CISO, muszą dziś jednocześnie umożliwiać bezpieczne wdrażanie innowacji oraz modernizować obronę przed atakującymi, którzy również korzystają z AI. Najważniejsze pytania dotyczą tego, jakie agenty działają w organizacji, do jakich danych mają dostęp i czy zespoły bezpieczeństwa potrafią wystarczająco szybko ocenić ich zachowanie.
Agenci AI szybko wychodzą poza projekty pilotażowe
Według raportu Work Trend Index Annual Report liczba aktywnych agentów w ekosystemie Microsoft 365 wzrosła w ciągu roku 15 razy, a w dużych przedsiębiorstwach 18 razy. Z przedstawionego opisu wynika, że pracownicy nie tylko korzystają z gotowych narzędzi, lecz także sami budują i wdrażają systemy AI. Takie agenty mogą uzyskiwać dostęp do firmowych danych, komunikować się z aplikacjami i wykonywać działania w imieniu użytkowników. Rozwój ten ma zwykle służyć zwiększeniu produktywności, ale każde dodatkowe uprawnienie tworzy także nowy obszar wymagający nadzoru.
Zmienia się również grupa osób, które tworzą rozwiązania wykorzystujące AI. Nie muszą to być wyłącznie doświadczeni programiści. Coraz więcej pracowników może projektować automatyzacje i systemy wykonujące zadania, nawet jeśli wcześniej rzadko pisało kod lub nie robiło tego wcale. Nie oznacza to braku odpowiedzialności po stronie tych osób, lecz pokazuje, jak szybko technologia rozszerzyła krąg jej twórców. Dla CISO oznacza to konieczność przeniesienia rozmowy o bezpieczeństwie na wcześniejszy etap, zanim agent otrzyma dostęp do danych lub aplikacji.
Słownik artykułu
Pojęcia, które warto znać
Krótkie objaśnienia terminów występujących w tekście. Każde hasło prowadzi do szerszej definicji i przykładów użycia.
Microsoft wskazuje, że podstawą zarządzania agentami powinna być głęboka obserwowalność, czyli wiedza o tym, jakie agenty istnieją, kto za nie odpowiada, do czego mogą sięgać i jakie działania wykonują. Bez takiego obrazu organizacja nie jest w stanie skutecznie chronić środowiska, którego elementów nie potrafi zidentyfikować. Sama lista wdrożonych systemów może być niewystarczająca. Zespół bezpieczeństwa powinien także zauważać zmiany w zachowaniu agenta, ponieważ odchylenie od dotychczasowego sposobu działania może wymagać sprawdzenia i szybkiej reakcji.
Inwentaryzować agenty oraz zapisywać ich właścicieli, zakres działania i dostępne zasoby.
Nadawać agentom własne, zarządzane tożsamości zamiast używać prywatnych lub współdzielonych danych uwierzytelniających.
Klasyfikować i chronić dane przed podłączeniem ich do agenta, a następnie kontrolować sposób ich wykorzystywania.
Monitorować zmiany zachowania oraz przygotować możliwość szybkiego ograniczenia lub wyłączenia agenta.
Tożsamość i dane nie mogą być dodatkiem
W podejściu opisanym przez Borkar dwa obszary wymagają szczególnej konsekwencji: tożsamość oraz dane. Agent powinien mieć własną, zarządzaną tożsamość, aby można było ustalić, który system wykonał konkretną operację, przeanalizować jego aktywność i w razie potrzeby odciąć mu dostęp. Korzystanie z osobistego konta pracownika albo ze wspólnych danych uwierzytelniających utrudnia przypisanie działań do właściwego systemu i zwiększa ryzyko niekontrolowanego dostępu. Każdy agent powinien otrzymywać tylko te uprawnienia, których potrzebuje do określonego zadania.
Równie ważne jest wcześniejsze ustalenie, jakie informacje agent może odczytywać i przetwarzać. Sam fakt, że system potrafi sięgnąć do danych, nie oznacza, że rozumie ich znaczenie, poufność lub kontekst biznesowy. Agent działa w granicach przyznanego dostępu, ale nie ma ludzkiego osądu ani intuicji dotyczącej tego, co w danej chwili jest właściwe. Dlatego zabezpieczenia danych powinny być gotowe przed połączeniem agenta z firmowymi zasobami. Rozmowa między twórcą rozwiązania a zespołem bezpieczeństwa powinna odbyć się na początku projektu, a nie dopiero po jego uruchomieniu.
Obrona musi łączyć informacje z wielu miejsc
Drugim zadaniem CISO jest zmiana sposobu obrony. Microsoft opisuje ten problem w kontekście wykorzystania AI przez atakujących, którzy mogą działać szybciej i na większą skalę. Skrócenie czasu dostępnego na reakcję nie oznacza jednak wyłącznie potrzeby kupowania szybszych narzędzi. Chodzi o zmianę sposobu, w jaki zespoły bezpieczeństwa przekształcają informacje w decyzje i działania. Obrona musi stale oceniać ryzyko, ustalać priorytety i reagować w tempie odpowiadającym rozwojowi zagrożenia.
Pojedynczy atak rzadko ujawnia się w jednym miejscu. Sygnały z systemów tożsamości, urządzeń końcowych, aplikacji i środowisk chmurowych powinny być analizowane razem, z uwzględnieniem wywiadu zagrożeń oraz kontekstu organizacji. Integracja pomaga zobaczyć pełny przebieg zdarzenia zamiast osobnych, pozornie niezwiązanych ostrzeżeń. Może także ułatwić ocenę, czy nietypowa aktywność agenta jest częścią problemu technicznego, błędnej konfiguracji czy incydentu bezpieczeństwa. W tym modelu zespoły nie czekają na pojedynczy sygnał rozstrzygający, lecz łączą dostępne informacje, aby szybciej zrozumieć sytuację.
Istotne miejsce zajmują również informacje o zmieniających się zagrożeniach oraz współpraca z partnerami, którzy mają szerszy obraz działań obserwowanych w wielu organizacjach i branżach. Taki kontekst może pomóc określić, które ryzyka są ważne dla konkretnego środowiska i gdzie skoncentrować ochronę. Jednocześnie zespoły bezpieczeństwa mogą wykorzystywać agentów jako wsparcie dla analityków. Według Microsoft systemy tego typu mogą pomagać w badaniu zdarzeń i reagowaniu na nie, czyli wykorzystywać podobne możliwości automatyzacji, które w rękach atakujących przyspieszają działania ofensywne.
Bezpieczeństwo ma umożliwiać rozwój, a nie go blokować
Wnioskiem z materiału nie jest postulat wstrzymania wdrożeń AI. Przeciwnie, CISO ma pomóc organizacji korzystać z nowych możliwości, ale w ramach jasno określonych zasad. Dobre zabezpieczenia powinny wskazywać zespołom, gdzie przebiegają granice bezpiecznego działania, zamiast tworzyć nieprzewidywalne bariery. W praktyce oznacza to wczesne włączenie bezpieczeństwa do projektów, stałą widoczność agentów, kontrolę ich tożsamości i dostępów oraz ochronę danych, z których korzystają. Druga część odpowiedzialności obejmuje zintegrowaną obronę, aktualny wywiad zagrożeń i narzędzia wspierające analityków w szybszym podejmowaniu decyzji.
