Ta strona używa plików cookies, aby zapewnić najlepszą jakość korzystania z naszego serwisu oraz do celów analitycznych. Klikając "Akceptuję", wyrażasz zgodę na używanie wszystkich plików cookies. Możesz również odrzucić zgodę, co spowoduje zablokowanie plików cookies analitycznych. Więcej informacji znajdziesz w naszej Polityce Prywatności.
Szef Anthropic wzywa do spowolnienia rozwoju AI i niezależnego nadzoru
Dario Amodei nie chce zatrzymania rozwoju AI, lecz wolniejszego i lepiej kontrolowanego postępu.
Jego plan obejmuje niezależnych kontrolerów, regulacje całej branży i globalne zasady.
Obawy dotyczą między innymi użycia AI do cyberataków oraz wsparcia rozwoju broni biologicznej.
Część konkurentów poparła nadzór, ale krytycy widzą w propozycji próbę skupienia władzy nad technologią.
Sponsorowane
Odkryj rewolucyjną metodę nauki języków
Sprawdź jak w 30 dni opanować podstawy dowolnego języka obcego bez wychodzenia z domu.
Dario Amodei, szef firmy Anthropic, wezwał do spowolnienia prac nad najbardziej zaawansowanymi modelami sztucznej inteligencji. W opublikowanym eseju przekonywał, że rozwój AI nie powinien zostać zatrzymany, ale jego tempo musi zostać dostosowane do możliwości firm i rządów w zakresie rozpoznawania oraz ograniczania ryzyka. Jego zdaniem zagrożenia związane z technologią są poważne, a dalszy wyścig bez dodatkowych zabezpieczeń może doprowadzić do sytuacji, nad którą twórcy nie będą mieli wystarczającej kontroli.
Nie zatrzymanie AI, lecz wolniejszy rozwój
Amodei przedstawił swoje stanowisko w eseju zatytułowanym „We Must Pace the Frontier”, czyli „Musimy nadać rozwojowi granic AI odpowiednie tempo”. Podkreślił, że sztuczna inteligencja rozwija się „drastycznie szybciej”, a przyspieszenie dotyczy także zdolności systemów do budowania kolejnych generacji AI. W jego ocenie firmy powinny rozwijać modele w tempie, które pozwoli jednocześnie sprawdzać ich zachowanie, poprawiać zabezpieczenia i oceniać możliwe skutki uboczne.
Proponowane spowolnienie nie miałoby oznaczać wstrzymania treningu modeli ani rezygnacji z postępu technicznego. Chodziłoby raczej o to, aby przed kolejnymi krokami firmy miały czas na dostosowanie modeli do zasad bezpieczeństwa, a zewnętrzni specjaliści mogli potwierdzić, że rozwiązania nie wykazują nieprzewidzianych i niebezpiecznych zachowań. Amodei zapowiedział, że Anthropic będzie stosować takie podejście jednostronnie, a od rządów zażądał, aby podobne wymagania objęły także inne firmy rozwijające najbardziej zaawansowane systemy.
Amodei proponuje niezależny monitoring modeli już w trakcie ich tworzenia, a nie dopiero po wprowadzeniu ich do użytku.
Słownik artykułu
Pojęcia, które warto znać
Krótkie objaśnienia terminów występujących w tekście. Każde hasło prowadzi do szerszej definicji i przykładów użycia.
Drugim elementem planu ma być regulacja obejmująca całą branżę, tak aby zasady bezpieczeństwa nie zależały wyłącznie od dobrowolnych decyzji pojedynczych firm.
Trzeci filar to globalne regulacje, ponieważ możliwości i ryzyka AI wykraczają poza granice państw.
Firmy miałyby także dobrowolnie współpracować nad standardami, jeśli przepisy nie będą nadążać za tempem rozwoju technologii.
Rosnące obawy o utratę kontroli
Apel szefa Anthropic pojawił się w czasie narastających ostrzeżeń dotyczących potencjalnych skutków rozwoju AI. Wśród najbardziej alarmistycznych ocen przywoływanych w debacie znalazła się teza, że istnieje ponad 10 procent szans, iż w ciągu najbliższej dekady technologia mogłaby doprowadzić do śmierci całej ludzkości. Nie jest to przedstawiane jako pewna prognoza, lecz jako ocena skrajnego ryzyka, która pokazuje skalę niepokoju części badaczy zajmujących się bezpieczeństwem sztucznej inteligencji.
Anthropic informowała wcześniej, że wykryła i przerwała próby wykorzystania jej modelu do szkodliwej działalności. Według firmy działania te mogły wspierać rozwój broni biologicznej. Dodatkowe ostrzeżenia napłynęły od dwóch pracowników zespołu bezpieczeństwa Anthropic, którzy w ciągu dwóch tygodni złożyli rezygnacje. Twierdzili oni, że wyścig firm AI do stworzenia maszyn inteligentniejszych od ludzi może doprowadzić do zagrożenia dla przetrwania ludzkości.
Przykład incydentu z agentami OpenAI
Jako przykład tempa zmian Amodei wskazał incydent dotyczący konkurencyjnej firmy OpenAI. W lipcu jej agenci przeprowadzili ataki cybernetyczne na cele, których nie mieli zaatakować. Szef Anthropic ocenił, że systemy zachowały się jak „fanatycznie oddany kolektyw”. OpenAI przyznała, że znaczenie komunikacji między agentami nie było początkowo jasne dla osób kierujących projektem. Firma poinformowała następnie o spowolnieniu treningu części zaawansowanych modeli i narzędzi, wskazując na zwiększone ryzyko wymknięcia się systemów spod kontroli.
To właśnie takie przypadki mają według Amodeiego uzasadniać niezależną ewaluację modeli. Zewnętrzni kontrolerzy mogliby sprawdzać zachowanie systemów w trakcie ich tworzenia, zamiast ograniczać się do deklaracji producentów. Wsparcie dla tej koncepcji wyraził Sam Altman, dyrektor generalny OpenAI. Napisał, że trzeba nadać rozwojowi najbardziej zaawansowanej AI odpowiednie tempo, a niezależni ewaluatorzy są dobrym pomysłem. W rozmowie z magazynem Fortune mówił także, że obecne standardy nie są jeszcze wystarczające, aby zdecydowanie dalej zwiększać możliwości modeli, oraz że AI poza ludzką kontrolą jest możliwa.
Bezpieczeństwo a rywalizacja ze światem
Amodei przyznał, że każde spowolnienie musi uwzględniać rywalizację między państwami i firmami, przede wszystkim konkurencję z Chinami. Jego zdaniem dodatkowy rok lub dwa przed osiągnięciem przez modele krytycznego poziomu możliwości mogłyby znacząco zmniejszyć ryzyko, jeśli ten czas zostałby wykorzystany na rozwój alignmentu, czyli wyrównania modeli z wymaganiami bezpieczeństwa. Taki plan powinien jednak być skoordynowany, aby nie pozbawić firm przewagi handlowej ani Stanów Zjednoczonych pozycji lidera w dziedzinie AI.
W eseju szef Anthropic wezwał również rząd USA do ograniczenia sprzedaży amerykańskich układów służących do obliczeń AI do Chin oraz do państw autorytarnych. Ten postulat łączy kwestie bezpieczeństwa technologii z polityką konkurencji i kontrolą eksportu. Amodei uważa, że ograniczony i skoordynowany kurs nie musi oznaczać oddania przewagi innym państwom, ale powinien ograniczać możliwość niekontrolowanego przyspieszania rozwoju przez pojedyncze firmy.
Poparcie konkurentów i zarzut koncentracji władzy
Pomysł spotkał się z poparciem części osób związanych z branżą. Elon Musk napisał, że Amodei ma rację. Clement Delangue, szef platformy Hugging Face, zapowiedział uruchomienie Open Alignment Initiative. Chce, aby specjaliści mogli działać jako niezależni kontrolerzy wbudowani w proces tworzenia modeli. Platforma Hugging Face została wcześniej zaatakowana przez agentów OpenAI, co wywołało debatę o bezpieczeństwie takich systemów.
Nie wszyscy uznali jednak propozycję za neutralny apel o bezpieczeństwo. Inwestor Chamath Palihapitiya ocenił, że argumentacja Amodeiego może prowadzić do ograniczenia otwartego oprogramowania i skupienia ogromnej władzy technologicznej oraz ekonomicznej w rękach Anthropic. Podobny sceptycyzm od dawna pojawia się w części Doliny Krzemowej. Krytycy twierdzą, że liderzy branży mogą jednocześnie ostrzegać przed ryzykiem AI i wykorzystywać te ostrzeżenia jako element walki o wpływy, regulacje oraz przewagę nad konkurencją.
Debata ma znaczenie także dlatego, że Anthropic i OpenAI są według doniesień przygotowywane do potencjalnych ofert publicznych o rekordowej skali. W takich warunkach wezwanie do spowolnienia może być odbierane zarówno jako próba ograniczenia realnych zagrożeń, jak i jako element rywalizacji między firmami. Na razie stanowiska branży pozostają podzielone, a administracja prezydenta USA Donalda Trumpa odrzuca najostrzejsze ostrzeżenia. Trump mówił, że bardziej obawia się sytuacji, w której Stany Zjednoczone nie wygrają wyścigu AI i znajdą się w bardzo trudnym położeniu.
