Źródło: unsplash.com/photos/F2KRf_QfCqw
Rosnące obawy dotyczące bezpieczeństwa sztucznej inteligencji nie zakończyły sporu o to, jak szeroko należy udostępniać modele AI. Podczas konferencji Ai4 w Las Vegas trzy osoby należące do najbardziej uznanych badaczy tej dziedziny, Geoffrey Hinton, Fei-Fei Li i Andrew Ng, przedstawiły różne argumenty dotyczące regulacji, modeli o otwartych wagach oraz rywalizacji technologicznej między Stanami Zjednoczonymi a Chinami. Ich stanowiska nie były identyczne, ale wszyscy bronili tezy, że rozwój AI nie powinien zostać całkowicie zamknięty w kilku największych laboratoriach.
Wspólnym punktem wystąpień była obawa przed sytuacją, w której niewielka grupa firm kontroluje dostęp do najważniejszej technologii i decyduje o tempie jej rozwoju. Uczestnicy debaty odwoływali się do rynku mobilnych systemów operacyjnych, gdzie Apple i Google mają silną pozycję i wpływ na to, jakie produkty oraz usługi powstają na ich platformach. Zdaniem Andrew Ng podobny układ może pojawić się w AI. Firmy, które dysponują największym kapitałem i infrastrukturą, mają interes w ochronie przewagi konkurencyjnej, także przez wpływanie na reguły obowiązujące w całej branży. W efekcie mniejsze zespoły, naukowcy i przedsiębiorcy mogliby mieć coraz mniej możliwości samodzielnego eksperymentowania.
Geoffrey Hinton szczególnie mocno rozdzielił dwa pojęcia, które w publicznej debacie bywają traktowane jako synonimy. W przypadku oprogramowania open source udostępniany jest kod, więc wiele osób może go przeanalizować, znaleźć błędy i zmodyfikować działanie programu. Model o otwartych wagach działa inaczej. Twórcy publikują parametry wytrenowanego systemu, ale nie musi to oznaczać udostępnienia pełnego kodu, danych treningowych ani wszystkich elementów procesu jego budowy. Publiczne wagi pozwalają korzystać z dużego modelu i dostrajać go przy znacznie niższym koszcie niż samodzielne trenowanie porównywalnego systemu.
To właśnie ta różnica jest dla Hintona źródłem największego problemu. Badacz obawia się, że duże modele bazowe mogą zostać niewielkim kosztem przystosowane do działań szkodliwych, na przykład do wspierania cyberataków. Jednocześnie przyznał, że spór o to, czy otwarte wagi w ogóle powinny istnieć, został w praktyce rozstrzygnięty przez rozwój rynku. Modele tego typu już są dostępne, a więc zniknęła jedna z najważniejszych barier wejścia, jaką wcześniej stanowił koszt trenowania dużych systemów. Hinton nie uznał jednak, że sama obecność ryzyka powinna kończyć dyskusję. Jego zdaniem obawy dotyczące możliwych negatywnych skutków AI są uzasadnione, podobnie jak przekonanie, że technologia może zwiększyć produktywność oraz poprawić edukację i ochronę zdrowia.
Andrew Ng przesunął środek ciężkości debaty. Według niego pytanie nie brzmi wyłącznie, czy modele o otwartych wagach są ryzykowne, lecz także kto będzie kontrolował dostęp do AI i kto zdobędzie przewagę rynkową. Jeżeli tańszy model będzie wystarczająco użyteczny, może zyskać przewagę w adopcji, ponieważ organizacje i użytkownicy będą mieli silną motywację do ograniczania kosztów. Z tego powodu Ng opowiada się za otwartą AI rozwijaną w Stanach Zjednoczonych oraz za utrzymaniem konkurencji między wieloma dostawcami.
Badacz ostrzegł również, że modele rozwijane w Chinach mogą zyskiwać użytkowników w Azji, Afryce i innych częściach rozwijającego się świata. W takim ujęciu AI staje się nie tylko produktem, ale też narzędziem soft power. Sposób, w jaki miliardy osób uzyskują dostęp do informacji i usług opartych na sztucznej inteligencji, może wpływać na ich kontakt z ideami demokracji, wolności i praw człowieka. Ng obawia się, że amerykańskie obawy oraz działania lobbingowe ograniczą rozwój otwartych modeli w USA, podczas gdy chińskie zespoły będą w stanie budować podobne rozwiązania bardziej efektywnie kosztowo.
Fei-Fei Li zakwestionowała przedstawianie sprawy jako wyboru między pełną otwartością a pełnym zamknięciem. Jej zdaniem złożone systemy programistyczne i naukowe wymagają bardziej szczegółowego podejścia, w którym różne warstwy technologii mogą podlegać różnym zasadom. Jako przykład podała fizykę jądrową. Wyniki badań i publikacje naukowe mogą być szeroko dostępne, podczas gdy uran podlega regulacjom, a praca laboratoryjna znajduje się pomiędzy tymi skrajnościami. Analogicznie w AI można osobno rozpatrywać dostęp do wiedzy naukowej, kodu, danych, infrastruktury, modeli oraz ich parametrów.
Li wskazała także na projekty realizowane we współpracy instytucji publicznych i prywatnych, takie jak Human Genome Project. W jej ocenie wiedza powstała w ramach takiej współpracy może stać się infrastrukturą, na której budują kolejne podmioty. Zyskują na tym naukowcy, przedsiębiorcy oraz społeczeństwo, a firmy farmaceutyczne mogą rozwijać opłacalne produkty. W odniesieniu do AI oznacza to potrzebę jednoczesnego wspierania otwartości w odkryciach naukowych, edukacji i partnerstwach międzynarodowych oraz akceptowania zamkniętych systemów tam, gdzie przemawiają za tym względy biznesowe lub bezpieczeństwa. Według Li spór prowadzony na zasadzie, że można zaakceptować tylko jeden model, przesłania bardziej praktyczne rozwiązania.
Mimo różnic w ocenie otwartych modeli wszyscy trzej eksperci zgodzili się, że pewien poziom regulacji będzie potrzebny. Nie chodziło o prostą deklarację, że każdy element AI powinien zostać zamknięty albo udostępniony bez ograniczeń. Debata dotyczyła raczej tego, jak połączyć dostępność technologii z odpowiedzialnością za jej wykorzystanie. Regulacje mogą określać zasady działania firm, ograniczać wybrane zastosowania i wyznaczać standardy, których nie da się pozostawić wyłącznie decyzjom największych przedsiębiorstw.
Hinton argumentował, że rozwój AI powinien być ukierunkowany na pomoc ludziom, a regulacje mają wspierać ten cel. Jednocześnie ostrzegał przed pozostawieniem decyzji o przyszłości technologii wyłącznie liderom najpotężniejszych firm. Zestawienie stanowisk Hintona, Nga i Li pokazuje, że otwartość nie jest jednym, precyzyjnie zdefiniowanym rozwiązaniem. Może oznaczać dostęp do kodu, publiczne wagi, publikowanie wiedzy, konkurencję między dostawcami albo współpracę instytucji. Najważniejsze pytanie dotyczy więc nie tylko tego, czy AI ma być otwarta, ale także które jej warstwy powinny być dostępne, dla kogo i przy jakich zabezpieczeniach.
Brak komentarzy. Bądź pierwszy!
