Słownik pojęć
odporność na prompt injection
Definicja, znaczenie i użycie terminu w kontekście publikacji.
Zdolność modelu językowego do zachowania zamierzonego sposobu działania mimo prób nakłonienia go do wykonania niepożądanych instrukcji zawartych w danych wejściowych.
Odporność na prompt injection oznacza ograniczoną podatność modelu na instrukcje, które próbują obejść jego nadrzędne zasady lub zmienić cel działania. Nie jest to cecha absolutna, ponieważ może zależeć od rodzaju ataku i warunków testu. Ocenia się ją między innymi na podstawie odsetka skutecznych ataków.