Źródło: unsplash.com/photos/mT7lXZPjk7U
OpenCode, otwartoźródłowy projekt rozwijający narzędzie do programowania z pomocą sztucznej inteligencji, poinformował część użytkowników o naruszeniu bezpieczeństwa. W jego wyniku ujawnione zostały klucze API używane do łączenia konsoli OpenCode z zewnętrznymi dostawcami modeli. Niektórzy poszkodowani zgłosili później nieautoryzowane opłaty, a w kilku przypadkach także zawieszenie projektów w Google Cloud.
OpenCode jest narzędziem, które pomaga analizować kod, tworzyć funkcje i naprawiać błędy na podstawie poleceń zapisanych w języku naturalnym. Można z niego korzystać w terminalu, aplikacji desktopowej lub edytorze kodu. Konsola pozwala podłączać modele różnych firm, w tym Anthropic, OpenAI i Google, aby automatyzować część pracy programistycznej. Według maintenera projektu naruszenie dotyczyło 1,4 proc. użytkowników OpenCode Console, którzy mieli skonfigurowane zewnętrzne usługi. Projekt twierdził, że osoby, które nie otrzymały wiadomości e-mail w tej sprawie, nie znalazły się w grupie objętej incydentem.
Słownik artykułu
Krótkie objaśnienia terminów występujących w tekście. Każde hasło prowadzi do szerszej definicji i przykładów użycia.
Klucz API to poufny ciąg znaków służący do uwierzytelniania aplikacji lub użytkownika podczas korzystania z interfejsu programistycznego.
Nadużycie techniki distylacji modeli AI poprzez wykonywanie dużej liczby nieautoryzowanych zapytań do zewnętrznej usługi.
Zgłaszane opłaty były związane z wykorzystaniem przejętych kluczy do usług zewnętrznych. W przypadku Google część użytkowników przekazała, że ich projekty zostały zawieszone po wykryciu aktywności uznanej za nadużycie i powiązanej z przejętymi zasobami. Skutki finansowe różniły się zależnie od używanego dostawcy oraz zakresu dostępu przypisanego do danego klucza. OpenCode zaznaczył, że rozważa zwrot kosztów poszkodowanym, ale nie przedstawił szczegółowych zasad takiej rekompensaty.
Projekt przekazał, że współpracuje z Google, OpenAI i Anthropic przy wyjaśnianiu incydentu. Nie ujawniono jednak szczegółów dotyczących sposobu uzyskania dostępu do systemów ani pełnego zakresu działań napastników. W komunikacie do użytkowników wskazano, że nie wydaje się, aby ujawnione zostały dane poza objętymi incydentem kluczami. OpenCode nie odpowiedział dotąd na dodatkowe pytania dotyczące naruszenia.
OpenCode określił zdarzenie jako duży atak distylacyjny. Distylacja jest legalną techniką uczenia maszynowego, w której mniejszy model uczy się na podstawie odpowiedzi generowanych przez większy i bardziej zaawansowany model. Celem jest stworzenie rozwiązania tańszego i szybszego, które zachowuje część możliwości większego systemu. Technika staje się nadużyciem, gdy napastnicy wykorzystują cudze konta lub klucze do wykonywania masowych, nieautoryzowanych zapytań.
Według współzałożyciela OpenCode, Daxa Raada, systemy projektu były atakowane przez co najmniej 48 godzin z użyciem agentów AI. Dochodzenie miało zostać utrudnione, gdy modele wykorzystywane przez OpenCode odmawiały części poleceń z powodu wbudowanych zabezpieczeń. Projekt poinformował później, że do prac obronnych użył modelu cyberbezpieczeństwa Daybreak firmy OpenAI, po uzyskaniu zgody na jego zastosowanie. W efekcie sytuacja miała się ustabilizować, ale dochodzenie i współpraca z dostawcami nadal trwają.
Brak komentarzy. Bądź pierwszy!