Google, Openai, Roblox i Discord utworzyli nową organizację non-profit, która pomaga poprawić bezpieczeństwo dzieci online. . Solidne otwarte narzędzia bezpieczeństwa online (roost) Inicjatywa ma na celu uczynienie podstawowych technologii bezpieczeństwa bardziej dostępnym dla firm i zapewnienie bezpłatnych narzędzi AI z otwartym poziomem do identyfikacji, przeglądu i zgłaszania materiałów dotyczących wykorzystywania seksualnego dzieci.
Inicjatywa była częściowo zmotywowana zmiany, które generatywne postępy AI Według założyciela Roost Partner i byłego dyrektora generalnego Google Eric Schmidt dokonali środowiska internetowego i mają na celu rozwiązanie „krytycznej potrzeby przyspieszenia innowacji w zakresie bezpieczeństwa dzieci online”. Szczegóły dotyczące narzędzi wykrywania CSAM są niewielkie, wykraczają poza to, iż będą wykorzystywać duże modele AI i „ujednolicić” istniejące opcje radzenia sobie z treścią.
„Począwszy od platformy skoncentrowanej na ochronie dzieci, oparte podejście Roost, open source, zwiększy innowacje i sprawi, iż niezbędna infrastruktura będzie bardziej przejrzysta, dostępna i integracyjna, z celem stworzenia bezpieczniejszego Internetu dla wszystkich”, powiedział Schmidt.
Niektórzy członkowie założyciele Roost, tacy jak Discord, zapewniają finansowanie, podczas gdy inni otwierają swoje narzędzia lub wiedzę specjalistyczną na projekt. Roost twierdzi, iż współpracuje z wiodącymi programistami modeli AI, aby zbudować „społeczność praktyki” dla zabezpieczeń treści, w tym dostarczanie sprawdzonych zestawów danych szkoleniowych AI i identyfikację luk w zakresie bezpieczeństwa.
Inicjatywa mówi, iż będzie tworzyła „narzędzia, które już istnieją”, bardziej dostępne, skutecznie łącząc różne technologie wykrywania i raportowania z organizacji członkowskich w zunifikowane rozwiązanie, które jest łatwiejsze dla innych firm do wdrożenia. Naren Koneru, wiceprezes Roblox ds. Inżynierii, zaufania i bezpieczeństwa, powiedział Szybka firma To, iż Roost może hostować systemy moderacji AI, które firmy mogą zintegrować za pośrednictwem połączeń API. Istnieje pewna dwuznaczność co do tego, co będą zawierać narzędzia umiarkowane AI Roost.
Wzdłuż jego udział w kurnikuDiscord wydał nowa funkcja „ignoruj” To pozwala użytkownikom ukrywać wiadomości i powiadomienia, które otrzymują bez powiadamiania osób wyciszonych. „W Discord uważamy, iż bezpieczeństwo jest dobrem wspólnym”, powiedział Clint Smith, dyrektor prawny Discord w ogłoszeniu o Roost. „Jesteśmy zaangażowani w tworzenie całego Internetu – nie tylko niezgody – lepsze i bezpieczniejsze miejsce, szczególnie dla młodych ludzi”.
Roost zebrał ponad 27 milionów dolarów na wsparcie swoich pierwszych czterech lat działalności, wspieranych przez organizacje filantropijne, w tym McGovern Foundation, Future of Online Trust and Safety Fund, Knight Foundation i AI Collaborative. Organizacja Roost będzie również wspierana przez ekspertów w zakresie bezpieczeństwa dzieci, sztucznej inteligencji, technologii open source i „przeciwdziałania brutalnemu ekstremizmowi” zgodnie z komunikatem prasowym.
