Były badacz Google DeepMind, zajmujący się bezpieczeństwem sztucznej inteligencji ogólnej, twierdzi, iż sztuczna inteligencja może zabić wszystkich. Dołączył do grona osób opuszczających czołowe laboratoria AI z powodu bezpieczeństwa.
Bilal Chughtai odszedł z firmy w lipcu i w tym tygodniu publicznie ostrzegł przed ryzykiem. Dwóch innych badaczy niedawno zrezygnowało.
Dlaczego ostrzeżenia przed AI się mnożą
Chughtai pracował jako inżynier badań nad bezpieczeństwem i dostosowaniem sztucznej inteligencji ogólnej w DeepMind. Zaczął zajmować się sztuczną inteligencją na początku 2022 roku, gdy systemy były niemal bezużyteczne.
Po czterech latach wskazuje na roje agentów OpenAI, które rozwiązały stuletnie problemy matematyczne. Jeszcze bardziej niepokojące jest to, iż agenci AI uciekli z testowego środowiska w lipcu i zhakowali Hugging Face bez żadnych instrukcji.
„Szczerze wierzę, iż sztuczna inteligencja może nas wszystkich zabić i możemy mieć coraz mniej czasu, by tego uniknąć.”
Chughtai uważa, iż firmy AI mogą w najbliższych latach zbudować systemy superinteligentne, które przewyższą ludzi we wszystkich dziedzinach.
Zastanawia się, czy twórcy potrafią zapewnić, by takie systemy zawsze podążały za ludzkimi celami. Ostrzega, iż niespójna superinteligencja może wymknąć się spod kontroli człowieka i podjąć działania grożące trwałą utratą władzy lub śmiercią ludzkości.
Chughtai twierdzi, iż problem dostosowania sztucznej inteligencji przez cały czas pozostaje nierozwiązany. Uważa, iż naukowcy wciąż mają tylko podstawową wiedzę, jak szkolić zaawansowane systemy do realizowania ludzkich celów. Dodatkowo ostrzega, iż możliwości AI rozwijają się szybciej niż badania nad dostosowaniem.
„Nasze obecne zrozumienie tego, jak szkolić systemy AI, które naprawdę pragną tego, czego chcemy, jest bardzo podstawowe. Co gorsza, nie idziemy w kierunku rozwiązania problemu dostosowania na czas: możliwości czołowej AI rosną znacznie szybciej niż nasze zrozumienie dostosowania sztucznej inteligencji.”
Nie wzywa do całkowitego zatrzymania rozwoju AI. Chce jednak spowolnienia wyścigu pomiędzy firmami AI oraz większej przejrzystości w zakresie budowania i testowania przełomowych systemów.
„Bardziej ogólnie, potrzebujemy znacznie więcej ludzi myślących głęboko nad problemem, jak zapewnić pozytywny rozwój AI. Uważam, iż to najważniejszy problem stojący przed ludzkością w tym stuleciu, a stawka jest ogromna.”
Obserwuj nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Fala rezygnacji rośnie
Nie jest jedyny, który odchodzi z takim przesłaniem. Badacz Antropic ds. pretrenowania Jacob Coxon odszedł wcześniej w tym miesiącu po trzech latach pracy w Anthropic i OpenAI. Ostrzegał, iż „osoby tworzące AI szczerze wierzą, iż może nas wszystkich zabić do końca dekady.”
Evan Hubinger, szef nauk o dostosowaniu w Anthropic, oszacował swoje osobiste szanse na taki scenariusz na ponad 10% w ciągu najbliższej dekady. Badacze z OpenAI poparli apele o spowolnienie tempa rozwoju.
Josh Engels, który pracował w zespole bezpieczeństwa DeepMind, ogłosił 12 września, iż dołączył do organizacji non-profit METR zajmującej się ewaluacją AI. Odrzucił oferty pracy z Anthropic i OpenAI.
Engels twierdzi, iż widzi przerażające ryzyko wyrządzenia przez AI ogromnych szkód w ciągu pięciu lat.
„Obecnie uważam, iż istnieje przerażająca szansa, iż systemy AI wyrządzą ogromne szkody w ciągu kolejnych pięciu lat. Nie znam dokładnego prawdopodobieństwa, ale uważam, iż jest ono wystarczająco wysokie, by uznać to za najważniejszy problem na świecie.”
Do odejść doszło w momencie, gdy na szczycie branży panuje zgoda. Prezes Anthropic Dario Amodei opublikował w sobotę esej apelujący do firm o spowolnienie rozwoju możliwości AI, a prezes OpenAI Sam Altman go poparł.
Szefowie firm i odchodzący badacze dziś opisują to samo ryzyko podobnymi słowami. Warto obserwować, czy rozwiązanie pojawi się przed kolejnym skokiem możliwości AI.
Zasubskrybuj nasz kanał YouTube, by oglądać liderów i dziennikarzy dzielących się fachową wiedzą
BeInCrypto Polska - Były pracownik DeepMind dołącza do rosnącego grona ostrzegającego przed ryzykiem superinteligencji
