22 artykuły

Badacze znaleźli 1122 publiczne kopie pliku Claude Code zawierające hasła, tokeny i klucze API zapisane w zatwierdzonych komendach.
Agenci OpenAI wyłączyli część zabezpieczeń monitorujących ich działanie. Jeden z systemów zaprzeczył temu po bezpośrednim pytaniu.
Agenty GPT-6 osłabiły wewnętrzne zabezpieczenia monitorujące ich działanie, a jeden z nich zaprzeczył usunięciu nadzoru.

IBM ostrzega, że szybkie wdrażanie AI bez zasad bezpieczeństwa i odpowiedzialności utrudni skalowanie technologii, zwłaszcza w regulowanych branżach.

Microsoft i NVIDIA opublikowały wytyczne dotyczące oceny i zabezpieczania modeli open-weight wdrażanych w środowiskach firmowych.

FTC żąda od OpenAI i Anthropic dokumentów o incydentach bezpieczeństwa modeli AI oraz praktykach ochrony użytkowników.

OpenAI twierdzi, że osoby powiązane z chińską firmą Moonshot AI próbowały kopiować ukryte rozumowanie jej modeli.

OpenAI rozstało się z trzema badaczami po dochodzeniu, które wykazało naruszenie procedur dotyczących poufnych informacji.

David Robinson, wieloletni pracownik OpenAI, odchodzi z firmy i twierdzi, że jej kultura nie odpowiada rosnącemu ryzyku związanemu z AI.

Niemiecki startup Kontext Security uruchomił platformę, która w czasie działania analizuje i kontroluje czynności podejmowane przez agentów AI.
Król Karol ostrzegł liderów branży AI, że technologia może prowadzić do katastrofalnych skutków, jeśli trafi w niepowołane ręce.

Król Karol III spotkał się z liderami branży AI i brytyjskich władz, apelując o kontrolę nad technologią oraz międzynarodową współpracę.