Najnowszy wpis w cyklu Friday Squid Blogging na blogu Schneiera dotyczył, zgodnie z tytułem, woreczków jajowych kałamarnic. Autor tradycyjnie zostawił jednak przestrzeń na rozmowę o innych wydarzeniach związanych z bezpieczeństwem. W komentarzach z 18 i 19 września pojawiło się kilka odrębnych wątków, które wykraczają poza lekką formułę samego wpisu: ryzyko błędów generowanych przez AI w analizie wojskowej, transgraniczne gromadzenie danych użytkowników, problemy z monetyzacją skradzionych poświadczeń oraz złośliwe oprogramowanie znalezione na kartach pamięci do urządzeń komunikacyjnych.
To nie jeden incydent, lecz kilka ostrzeżeń
Źródłowy materiał nie jest jednym raportem śledczym ani komunikatem instytucji publicznej. Najważniejsze informacje zostały przywołane przez uczestników dyskusji i prowadzą do osobnych publikacji między innymi w CNN, The Guardian, Wired, Snoop.ro oraz CNX Software. Dlatego część twierdzeń należy traktować jako opis doniesień zawartych w tych materiałach, a nie jako niezależnie potwierdzone ustalenia wpisu Schneiera. Wspólnym mianownikiem jest jednak problem zaufania do systemów cyfrowych, które mogą wpływać na decyzje wojskowe, profilować ludzi, przechowywać dane przestępców albo przenosić zagrożenie wraz ze sprzętem.
AI miała wskazać nieistniejący ładunek chińskiego statku
Najpoważniejszy wątek dotyczy wykorzystania narzędzia AI do przygotowania analizy wywiadowczej. Według opisu przytoczonego w dyskusji system wskazał, że chiński statek przewozi elementy związane z bronią jądrową, choć takich materiałów nie było w manifeście ładunkowym. Narzędzie miało połączyć informacje z otwartych źródeł z tajnymi przechwyconymi danymi, a następnie wygenerować raport zawierający fałszywe ustalenie. Błąd został wykryty dopiero wtedy, gdy siły USA znajdowały się w powietrzu i przygotowywały się do wejścia na pokład jednostki. W przytoczonym materiale podkreślono, że rozpoznanie udziału AI zapobiegło sytuacji, w której taki raport mógłby zostać potraktowany jako wynik pracy człowieka lub tradycyjnego systemu analitycznego.
- System AI miał wskazać materiały, których nie było w wykazie ładunku statku.
