Zdjęcie: © Steve A Johnson / Unsplash
Źródło: unsplash.com/photos/_0iV9LmPDn0
Sztuczna inteligencja może skracać czas potrzebny na przygotowanie złośliwego oprogramowania, ale sama nie sprawia, że malware staje się trudniejsze do wykrycia. Do takiego wniosku doszli badacze z zespołu Unit 42 firmy Palo Alto Networks, którzy przeanalizowali 405 próbek w jakiś sposób powiązanych z AI. Wśród nich znalazły się zarówno ransomware tworzone częściowo z pomocą dużych modeli językowych, jak i zwykłe instalatory wykorzystujące nazwę popularnej aplikacji AI jako przynętę.
Badacze porównali hashe wszystkich 405 plików z kilkoma źródłami danych. Sprawdzili telemetrię endpointów, sesje sieciowe przekazywane do analizy w środowisku sandbox oraz wewnętrzne rejestry alertów generowanych wtedy, gdy próbka faktycznie została uruchomiona. Tylko 12 hashy pojawiło się na działających, chronionych endpointach. Nieco większa grupa, od 15 do 20 hashy, wystąpiła w ruchu sieciowym kierowanym do sandboxów. Oznacza to, że około 97 procent próbek nie wyszło poza sandbox, repozytorium badawcze albo wewnętrzne środowisko testowe i nie dotarło do prawdziwego celu.
Słownik artykułu
Krótkie objaśnienia terminów występujących w tekście. Każde hasło prowadzi do szerszej definicji i przykładów użycia.
Sandbox to model rozgrywki, w którym gracz otrzymuje dużą swobodę wyboru działań, kolejności zadań lub sposobu rozwijania świata gry.
Rodzaj złośliwego oprogramowania, które blokuje dostęp do danych lub systemów, często przez ich zaszyfrowanie, a następnie żąda zapłaty za przywrócenie dostępu.
Technika utrwalania obecności programu w systemie Windows poprzez zmianę sposobu obsługi określonych komponentów COM.
Próbki, które nie trafiły do produkcyjnych systemów, Unit 42 podzieliło na trzy główne grupy. Największą stanowił kod typu proof of concept, przygotowany do zademonstrowania określonej techniki. Takie programy były skonfigurowane do działania wyłącznie w lokalnych lub prywatnych sieciach, zawierały komunikaty debugowania, których raczej nie pozostawiłby rzeczywisty napastnik, i często były przesyłane tylko raz przez laboratorium badawcze albo uczelnię. Ich obecność w zbiorze nie oznaczała więc, że zostały użyte przeciwko produkcyjnej organizacji.
Drugą grupę tworzyły pliki przesyłane przez organizacje sprawdzające własne zabezpieczenia na podstawie wcześniej opisanych przypadków malware powiązanego z AI. Badacze rozpoznawali takie testy między innymi po wielokrotnym przesyłaniu tego samego pliku z jednego źródła w krótkim czasie. Trzecia grupa wykorzystywała markę AI wyłącznie jako wabik. Zwykły ładunek był przedstawiany jako instalator znanego produktu AI, choć sam nie miał funkcji związanych ze sztuczną inteligencją.
Dwanaście próbek wykrytych na działających endpointach reprezentowało pięć rodzin malware i pochodziło z aktywności obserwowanej w trzech krajach. Unit 42 nie wskazało koncentracji w konkretnej branży ani regionie. Wśród tych próbek znalazł się FunkSec, rodzina ransomware, którą wielu badaczy łączyło z wykorzystaniem pomocy dużych modeli językowych. Nazwy plików projektowych zapisane wewnątrz analizowanych próbek wskazywały, że twórca wielokrotnie zmieniał nazwę tego samego ransomware. Zdaniem Unit 42 tempo tych zmian bardziej przypominało generowanie sterowane promptami niż tradycyjny cykl tworzenia oprogramowania.
Najczęściej spotkaną pojedynczą próbką był instalator udający aplikację Recipe Lister, przeznaczoną do wyszukiwania przepisów. Plik miał podpis cyfrowy i po instalacji po cichu uruchamiał backdoor. Rozprzestrzenił się w ponad 50 organizacjach, co przełożyło się na około 6500 rekordów endpointów i około 9600 alertów. Podpis początkowo nie wzbudził podejrzeń, jednak później wykrycie ułatwiło połączenie nietypowego sygnatariusza z silnym pakowaniem zawartości pliku.
W innym przypadku Oyster, czyli backdoor, podszywał się pod instalator Dropboxa. Podpis pliku wskazywał Dropbox jako wydawcę. Unit 42 oceniło, że napastnicy coraz częściej wykorzystują narzędzia AI do generowania takiego kodu dostarczającego malware, ponieważ może to przyspieszać i obniżać koszt uzyskania początkowego dostępu do organizacji. W zbiorze znalazł się również plik wykonywalny dla Windows, który dostarczał stealera informacji Rhadamanthys i prowadził aktywną komunikację z infrastrukturą dowodzenia i kontroli. Wcześniejsze doniesienia łączyły ten łańcuch infekcji z pomocą AI.
Piąta opisana próbka udawała komponent chińskiego produktu 360 Total Security i wykorzystywała technikę COM hijacking do utrzymania obecności w systemie. Unit 42 włączyło ją do zbioru, ponieważ pojawiała się w kampaniach dostarczanych razem z przynętami wykorzystującymi marki AI. Jednocześnie zachowanie samego pliku nie zależało od AI. Ten przypadek pokazuje, że określenie malware powiązane z AI może odnosić się nie tylko do sposobu napisania kodu, lecz także do marki użytej w procesie dostarczenia.
Wszystkie próbki, które pojawiły się na chronionych endpointach, wywołały alert bezpieczeństwa. Zabezpieczenia wykorzystywały te same mechanizmy, które służą do wykrywania konwencjonalnego malware: uruchamianie plików w sandboxie, analizę zachowania, wykrywanie anomalii w podpisach cyfrowych oraz ocenę stopnia pakowania lub szyfrowania pliku. Unit 42 podało, że żadna z próbek powiązanych z AI nie wymagała wdrożenia nowej metody detekcji, aby ją rozpoznać i zablokować.
Wyniki nie oznaczają, że wykorzystanie AI przez napastników jest pozbawione znaczenia. Analiza wskazuje raczej na obecny, bardziej ograniczony charakter tej zmiany. AI może przyspieszać przygotowywanie kodu, tworzenie kolejnych wariantów oraz budowanie instalatorów służących do dostarczenia ładunku. Nie wynika z niej jednak, że takie próbki automatycznie omijają analizę zachowania, kontrolę podpisów, sandbox albo inne mechanizmy ochrony endpointów. Dla obrońców najważniejszy pozostaje więc monitoring aktywności plików i urządzeń, a także reagowanie na sygnały wskazujące na nietypowe pochodzenie lub konstrukcję programu.
Brak komentarzy. Bądź pierwszy!