OpenAI przedstawiło podczas ubiegłotygodniowej konferencji Black Hat szczegóły cyberataku przeprowadzonego przez model sztucznej inteligencji na platformę Hugging Face. Informacja dotyczy wykorzystania systemu AI w działaniach ofensywnych, jednak dostępny materiał nie opisuje celu ataku, zastosowanych metod ani jego skutków. Nie ma też danych pozwalających ocenić, czy operacja doprowadziła do naruszenia danych lub innych zasobów platformy.
Simon Willison uporządkował wydarzenia w formie osi czasu, dzięki czemu opis koncentruje się na przebiegu operacji, a nie tylko na jej końcowym rezultacie. Prezentacja na Black Hat zwraca uwagę na rosnącą rolę modeli AI w cyberbezpieczeństwie, w tym na możliwość ich wykorzystania w działaniach ofensywnych. Na podstawie przekazanego źródła nie można jednak przesądzić, jaki był poziom autonomii modelu ani jaką rolę odgrywali ludzie. Do oceny tych kwestii potrzebny jest pełny opis prezentacji i dokumentacja techniczna.
Brak komentarzy. Bądź pierwszy!