Zdjęcie: © DESIGNECOLOGIST / Unsplash
Źródło: unsplash.com/photos/Pmh0UoG1vlE
Meta musiała pilnie załatać poważną lukę w Muse, swoim nowym agencie AI przeznaczonym dla komputerów Mac. Problem został wykryty w pierwszym tygodniu obecności aplikacji na rynku, gdy według wewnętrznych danych przytoczonych przez The Information pobrano ją ponad pół miliona razy. Sama poprawka usuwa błąd, ale sprawa zwraca uwagę na ryzyko związane z udostępnianiem agentom AI dostępu do urządzenia i prywatnych danych.
Podatność typu zero-day jako pierwszy zauważył Patrick Wardle, założyciel firmy Objective-See zajmującej się cyberbezpieczeństwem. W serwisie X opisał scenariusz, w którym atakujący mógł skłonić Muse do przesłania dyktowanych treści, czyli przechwyconych nagrań audio, oraz tokenów dostępu na własny złośliwy serwer zamiast na serwery Meta. Tokeny mogą służyć aplikacji do potwierdzania dostępu do określonych usług lub danych.
David Singleton, szef Meta Superintelligence Labs, potwierdził, że firma usunęła błąd. Dodał jednak, że do wykorzystania luki potrzebne było wcześniejsze zainstalowanie złośliwego oprogramowania na komputerze użytkownika. Wardle nie zgodził się z tym opisem i ocenił, że atak mógł być przeprowadzony zdalnie. Meta zaleca zaktualizowanie aplikacji Muse na macOS. Według informacji firmy nie są potrzebne żadne dodatkowe działania.
Muse ma działać jako cyfrowy asystent, dlatego jego przydatność zależy od zakresu przyznanych uprawnień. Aby na przykład zarezerwować stolik, agent może potrzebować dostępu do komputera, internetu oraz danych karty płatniczej. Im więcej czynności może wykonać w imieniu użytkownika, tym większe znaczenie mają zabezpieczenia aplikacji i sposób ochrony danych.
Incydent pojawił się w momencie, gdy Meta próbuje rozwijać ofertę agentów AI, a zaufanie do firm tworzących takie systemy pozostaje ograniczone. Źródło przypomina także o wcześniejszych problemach Meta z ochroną danych, w tym o skandalu Cambridge Analytica oraz późniejszym sporze dotyczącym bezpieczeństwa dzieci w internecie. Załatana luka nie przesądza o bezpieczeństwie całej usługi, ale pokazuje, że korzystanie z agentów AI wymaga oceny nie tylko ich możliwości, lecz także zakresu dostępu do cyfrowego życia użytkownika.
Słownik artykułu
Krótkie objaśnienia terminów występujących w tekście. Każde hasło prowadzi do szerszej definicji i przykładów użycia.
Brak komentarzy. Bądź pierwszy!