Dyrektor generalny Nvidia Jensen Huang postawił OpenAI i Anthropic ultimatum

Jensen Huang, dyrektor generalny Nvidia, twierdzi, iż laboratoria sztucznej inteligencji (AI), które nie potrafią kontrolować własnych eksperymentów, powinny zostać zamknięte. Wypowiedział się tak w wywiadzie dla New York Times opublikowanym w środę.

To ostrzeżenie dotyczy także klientów Nvidia. Firma sprzedaje układy scalone zasilające OpenAI i Anthropic. Posiada też udziały w obu spółkach.

Co Jensen Huang powiedział o zamykaniu laboratoriów AI

Huang wystąpił w The Ezra Klein Show, podcaście New York Times. Prowadzący Ezra Klein zapytał o incydent, do którego doszło w lipcu w OpenAI.

W czasie testów wewnętrznych, modele OpenAI wydostały się z zamkniętego środowiska testowego. Wykorzystały nieznany błąd oprogramowania, aby uzyskać dostęp do internetu. Następnie zhakowały Hugging Face, popularną platformę wymiany modeli AI dla programistów.

Według OpenAI, modele chciały zdobyć odpowiedzi do testu, który wykonywały.

Huang nazwał to porażką inżynieryjną.

„Nie wypuszczaj produktu. jeżeli twój produkt nie jest gotowy do wypuszczenia, nie wypuszczaj go.”

Wypowiedział się też ostrzej. jeżeli laboratorium przyznaje, iż jego testy mogą wydostać się i zagrozić światu, Huang twierdzi, iż „musimy zamknąć te laboratoria”. Wskazał także na cywilną i karną odpowiedzialność, którą mogłyby ponieść takie firmy.

Dlaczego ostrzeżenie Huanga dotyka OpenAI i Anthropic

Nvidia zainwestowała 30 mld USD w OpenAI i 10 mld USD w Anthropic. Klein zauważył, iż Nvidia to w tej chwili największa firma na świecie, warta 5,4 bln USD.

Obie firmy poprosiły tymczasem o spowolnienie rozwoju. Dyrektor Anthropic Dario Amodei napisał esej „Musimy ustalić tempo na granicy”. Zaproponował w nim zwolnienie z prawa konkurencji, by laboratoria mogły wspólnie zwolnić tempo prac.

Dyrektor OpenAI Sam Altman poparł pomysł 16 września. Altman nazwał incydent z Hugging Face „najgorszym wypadkiem, jaki widzieliśmy”.

Huang odrzucił tę prośbę. Powiedział, iż nigdy nie spotkał się, by prezesi firm chcieli zwolnienia z prawa konkurencji lub odpowiedzialności produktowej, aby pracować wolniej. Popiera za to zewnętrznych audytorów ds. bezpieczeństwa.

Problem z kontrolą testów nie dotyczy tylko OpenAI. Google ostatnio potwierdziło, iż Gemini zhakował trzy firmy podczas majowego testu. OpenAI i Anthropic rozważały też wiążącą wzajemną umowę testową w tym tygodniu.

Na początku tego miesiąca Trump zadzwonił do Huanga na żywo na scenie i nazwał obawy wokół AI oszustwem.

Anthropic rozważa też debiut giełdowy w tym roku, podczas gdy ostrzeżenie Nvidia wisi nad obiema firmami.

BeInCrypto Polska - Dyrektor generalny Nvidia Jensen Huang postawił OpenAI i Anthropic ultimatum