Moonbounce: były pracownik Facebooka buduje moderację treści dla ery AI
Redakcja••2 min czytania•1
Zdjęcie: © Aerps.com / Unsplash
Źródło: unsplash.com/photos/wjFOjA2zXy8
Moonbounce ogłosiło rundę finansowania w wysokości 12 mln USD na rozwój swojego silnika bezpieczeństwa, który ma usprawnić moderację treści w aplikacjach napędzanych przez AI. Firma stawia na „policy as code” — zamianę statycznych polityk w wykonywalne reguły egzekwowane w czasie rzeczywistym.
Słownik artykułu
Krótkie objaśnienia terminów występujących w tekście. Każde hasło prowadzi do szerszej definicji i przykładów użycia.
Moonbounce wytrenowało własny model językowy, który analizuje dokumenty polityk klienta, ocenia treści w czasie rzeczywistym i podejmuje działania w mniej niż 300 ms. System może blokować treści natychmiast, spowalniać ich dystrybucję do ręcznego przeglądu lub wykonywać inne ustalone akcje zgodnie z preferencjami klienta.
Moonbounce koncentruje się na trzech pionach: platformach z treściami generowanymi przez użytkowników (np. aplikacje randkowe), firmach budujących AI-kompanionów oraz generatorach obrazów. Klienci to m.in. Channel AI, Civitai, Dippy AI i Moescape; firma obsługuje ponad 100 mln dziennych aktywnych użytkowników i wspiera ponad 40 mln codziennych przeglądów.
Rundę współprowadzą Amplify Partners i StepStone Group. Moonbounce założyli Brett Levenson (dawniej Facebook/Apple) i Ash Bhardwaj (infrastruktura AI w Apple); firma zatrudnia około 12 osób.
Oprócz blokowania i spowalniania dystrybucji, Moonbounce rozwija tzw. „iterative steering” — mechanizm przechwytywania rozmowy z chatbotem i modyfikowania promptów w czasie rzeczywistym, by nakierować model na bezpieczniejszą, pomocową odpowiedź w sytuacjach kryzysowych.
Firma akcentuje, że rosnące prawne i reputacyjne ryzyko związane z AI skłania firmy do korzystania z zewnętrznych rozwiązań bezpieczeństwa. Moonbounce pozycjonuje się jako warstwa pośrednia między użytkownikiem a modelem, skupiona wyłącznie na egzekwowaniu reguł w czasie wykonania.
Założyciel Brett Levenson podkreśla, że celem jest umożliwienie szerokiego dostępu do technologii zamiast zamknięcia jej w rękach jednego dużego gracza; firma rozwija produkty mające uczynić bezpieczeństwo wyróżnikiem produktu, a nie dodatkiem.
Sposób działania systemu, w którym informacje są przetwarzane i prezentowane niemal natychmiast po wystąpieniu zdarzenia.
Brak komentarzy. Bądź pierwszy!
