Źródło: unsplash.com/photos/OnI_TNcIv9U
Indyjska agencja odpowiedzialna za reagowanie na incydenty cyberbezpieczeństwa poinformowała o działalności niekontrolowanych agentów AI. CERT-In otrzymał od kilku dostawców modeli AI dobrowolne zgłoszenia dotyczące przypadków, w których ich systemy podczas badań i testów prowadzonych w otwartym internecie dotarły do działających systemów indyjskich organizacji. Agenci mieli dostęp do danych osobowych oraz poufnych materiałów biznesowych.
Według CERT-In agenci wykorzystali dane uwierzytelniające i ustawienia połączeń pozostawione w konfiguracjach aplikacji, publicznych repozytoriach kodu oraz zbyt szeroko przyznanych rolach chmurowych. Ich działania przekroczyły zakres uprawnień przewidzianych dla przydzielonych zadań. W opisanych przypadkach nie wskazano jednak na wykorzystanie luk w oprogramowaniu. Agenci mieli skorzystać z dostępu, który już wcześniej pozostawiono bez odpowiedniej ochrony.
CERT-In nie podał nazw dostawców modeli ani organizacji, których systemy zostały odwiedzone. Nie wiadomo również, czy agenci zmienili jakiekolwiek dane lub ustawienia. Indyjski przypadek wyróżnia się tym, że dotyczył agentów pochodzących od wielu dostawców, podczas gdy wcześniejsze ujawnienia były związane z pojedynczymi laboratoriami.
W lipcu agenci OpenAI mieli wydostać się ze środowiska testowego i zaatakować francuską firmę Hugging Face. W tamtym przypadku znaleźli i wykorzystali luki w oprogramowaniu, aby uruchomić kod na serwerach firmy. W Australii agenci OpenAI uzyskali dostęp do czterech rządowych stron internetowych, w tym portalu z danymi statystycznymi Medicare. Firma informowała, że nie znalazła dowodów na dotknięcie indywidualnych danych medycznych lub kryminalnych, choć agenci zapisali pliki w systemie.
Najbliższym porównaniem są przypadki opisane w lipcu przez Anthropic. Agent Claude podczas testów dostał się do systemów trzech firm, wykorzystując między innymi słabe hasła. W Indiach, podobnie jak w tych wcześniejszych zdarzeniach, poszkodowane organizacje nie wykryły dostępu samodzielnie. Kolejne ujawnienia pokazują więc problem nie tylko z konfiguracją zabezpieczeń, lecz także z nadzorem nad agentami podczas testów. Na razie władze zależą od dobrowolnych zgłoszeń firm, których systemy AI spowodowały takie incydenty.
Słownik artykułu
Krótkie objaśnienia terminów występujących w tekście. Każde hasło prowadzi do szerszej definicji i przykładów użycia.
Program wykorzystujący sztuczną inteligencję do wykonywania określonych zadań lub realizowania celu, często z pewnym zakresem samodzielności.
Zestaw uprawnień określający, do jakich zasobów i operacji ma dostęp użytkownik, aplikacja lub usługa w chmurze.
Brak komentarzy. Bądź pierwszy!