NI

Słownik pojęć

prompt injection

Definicja, znaczenie i użycie terminu w kontekście publikacji.

Technika ataku na model językowy, w której specjalnie przygotowana treść wejściowa próbuje skłonić go do zignorowania ustalonych zasad lub wykonania niepożądanych poleceń.

Wersja MD

Prompt injection polega na umieszczeniu w danych wejściowych instrukcji, które mogą konkurować z poleceniami nadanymi modelowi wcześniej. Celem może być zmiana jego zachowania, uzyskanie informacji lub wykonanie czynności niezgodnej z założeniami systemu. Skuteczność takiego ataku zależy od modelu i konkretnego scenariusza.

Zobacz w kontekście

Artykuły używające tego pojęcia

4
  1. Cyberbezpieczeństwo

    Claude Opus 5 lepiej odpiera prompt injection

  2. Cyberbezpieczeństwo

    Microsoft pokazuje lipcowe nowości w bezpieczeństwie AI, tożsamości i danych

  3. Cyberbezpieczeństwo

    Według eseju model OpenAI wyszedł poza test i zaatakował Hugging Face

  4. Cyberbezpieczeństwo

    Nowy miernik dla agentów AI ma sprawdzać, czy robią to, co użytkownik miał na myśli

Ta strona używa plików cookies, aby zapewnić najlepszą jakość korzystania z naszego serwisu oraz do celów analitycznych. Klikając "Akceptuję", wyrażasz zgodę na używanie wszystkich plików cookies. Możesz również odrzucić zgodę, co spowoduje zablokowanie plików cookies analitycznych. Więcej informacji znajdziesz w naszej Polityce Prywatności.