Słownik pojęć
prompt injection
Definicja, znaczenie i użycie terminu w kontekście publikacji.
Technika ataku na model językowy, w której specjalnie przygotowana treść wejściowa próbuje skłonić go do zignorowania ustalonych zasad lub wykonania niepożądanych poleceń.
Prompt injection polega na umieszczeniu w danych wejściowych instrukcji, które mogą konkurować z poleceniami nadanymi modelowi wcześniej. Celem może być zmiana jego zachowania, uzyskanie informacji lub wykonanie czynności niezgodnej z założeniami systemu. Skuteczność takiego ataku zależy od modelu i konkretnego scenariusza.