Słownik pojęć
zatrucie pamięci systemu AI
Definicja, znaczenie i użycie terminu w kontekście publikacji.
Modyfikacja danych przechowywanych jako pamięć systemu w taki sposób, aby wpływały na późniejsze działanie agentów lub generowane odpowiedzi.
Zatrucie pamięci systemu AI polega na dodaniu albo zmianie informacji, wzorców lub instrukcji wykorzystywanych przez system w kolejnych operacjach. Zmienione dane mogą kierować zachowaniem agentów i wpływać na przyszłe odpowiedzi. W praktyce jest to naruszenie integralności danych aplikacji, nawet jeśli sam model nie został bezpośrednio zmodyfikowany.