Ukryte instrukcje mogą przejąć kontrolę nad agentami AI

Zdjęcie: © Zulfugar Karimov / Unsplash
Źródło: unsplash.com/photos/-nBClEqKKVM
Kluczowe informacje
- Złośliwe polecenia mogą być ukryte w dokumentach, metadanych, e-mailach, obrazach i kodzie.
- Agent AI może potraktować treść kontrolowaną przez atakującego jak zaufaną instrukcję.
- Ryzyko rośnie, gdy agent dziedziczy uprawnienia użytkownika i działa bez dodatkowej akceptacji.
- Podstawą ochrony ma być kontrola treści przed jej przetworzeniem przez agenta.



