Źródło: unsplash.com/photos/OnI_TNcIv9U
Otwarte modele sztucznej inteligencji są coraz bliżej najlepszych rozwiązań zamkniętych pod względem zdolności do przeprowadzania złożonych ataków na sieci komputerowe. Tak wynika z badania firmy Vals, która sprawdziła, jak różne modele AI radzą sobie z wieloetapowymi zadaniami na przygotowanych sieciach firmowych. Wyniki sugerują, że przewaga modeli dostępnych wyłącznie w kontrolowanych programach może przestawać być wyraźna.
Vals przeprowadziła testy w dwóch scenariuszach. W pierwszym model otrzymywał dostęp do symulowanej sieci firmowej, która była osiągalna przez publicznie dostępny serwis internetowy. W drugim musiał najpierw naruszyć jedną sieć przedsiębiorstwa, aby uzyskać dostęp do drugiej. Zadania obejmowały kolejne etapy rozpoznania, wykorzystania słabości i osiągania wyznaczonych celów. Badanie nie odbywało się na prawdziwych firmowych infrastrukturach, lecz w kontrolowanym środowisku przygotowanym do porównania możliwości modeli.
Słownik artykułu
Krótkie objaśnienia terminów występujących w tekście. Każde hasło prowadzi do szerszej definicji i przykładów użycia.
Badanie pokazało nie tylko różnicę w skuteczności, lecz także w kosztach. Według Vals przeprowadzenie ataku z użyciem GPT-6-Sol kosztowało od 17 do 46 dolarów w opłatach zależnych od liczby tokenów. W przypadku DeepSeek koszt wynosił od 2 do 3 dolarów. Otwarte modele są zwykle tańsze w użyciu, ponieważ można uruchamiać je na własnym sprzęcie, zamiast korzystać wyłącznie z płatnej infrastruktury dostawcy. To może być istotne zarówno dla atakujących, jak i dla zespołów odpowiedzialnych za obronę sieci.
Wnioski Vals są ważne dla dyskusji o ograniczaniu dostępu do najbardziej zaawansowanych modeli. Firmy rozwijające zamknięte systemy argumentowały, że kontrolowany dostęp może dać obrońcom czas na przygotowanie się do sytuacji, w której podobne możliwości będą szeroko dostępne. Anthropic przy okazji ograniczonego udostępniania nowych modeli podkreślał, że zaufani partnerzy mają wykorzystać je do wcześniejszego wykrywania luk i wzmacniania zabezpieczeń. Jeśli modele dostępne publicznie osiągają zbliżone wyniki, skuteczność takiej bariery może być mniejsza, niż zakładano.
Nie oznacza to jednak, że każdy cyberprzestępca natychmiast wykorzystuje najbardziej zaawansowane narzędzia AI. Obserwacje aktywności grup przestępczych i wspieranych przez państwa wskazują, że napastnicy często oszczędzają zasoby i korzystają ze starszych, mniej zdolnych modeli, zarówno zamkniętych, jak i otwartych. AI już automatyzuje część zadań związanych z wyszukiwaniem luk w kodzie oraz szybkim sprawdzaniem sieci, ale eksperci nadal spierają się, czy zmienia podstawowe zasady obrony, czy przede wszystkim zwiększa skalę problemów znanych od lat.
Alex Zenla, współzałożyciel i dyrektor techniczny firmy Edera, ocenia, że otwarte modele mogą już dziś pomagać w tworzeniu zaawansowanych ataków i znajdowaniu podatności. Jednocześnie zwraca uwagę, że zamknięte laboratoria prawdopodobnie mają również niewydane modele przewyższające możliwości uwzględnione w badaniu. Oznacza to wyścig między twórcami modeli otwartych i zamkniętych. Dla firm najważniejszy wniosek jest praktyczny: planowanie obrony nie powinno opierać się na założeniu, że najbardziej skuteczne narzędzia AI pozostaną niedostępne dla większości użytkowników.
Brak komentarzy. Bądź pierwszy!