List otwarty przeciwko rozwojowi superinteligencji połączył świat nauki, religii i show-biznesu. Wszyscy mówią jednym głosem: nie ma zgody na wyścig, który może zakończyć się tragedią dla ludzkości
W jednym z najgłośniejszych dotychczas apeli dotyczących sztucznej inteligencji, ponad 300 wpływowych postaci świata nauki, technologii, mediów i religii podpisało się pod krótkim, ale jednoznacznym listem otwartym. Wzywają oni do całkowitego zakazu rozwoju tzw. superinteligencji – systemów AI zdolnych przewyższyć człowieka w większości zadań poznawczych. Apel poparli m.in. współzałożyciel Apple’a Steve Wozniak, laureat Nagrody Nobla Geoffrey Hinton, książę Harry i księżna Meghan, miliarder Richard Branson, a także ojciec Paolo Benanti – doradca papieża ds. AI.
Twórcy i krytycy AI wspólnie żądają zatrzymania rozwoju superinteligencji
Opublikowany przez Future of Life Institute (FLI) list został zatytułowany po prostu „Statement on Superintelligence” („Oświadczenie w sprawie superinteligencji”). Jego autorzy – w zaledwie 1 zdaniowym manifeście – nie pozostawiają wątpliwości: dopóki nie będzie szerokiego konsensusu naukowego oraz poparcia społecznego, prace nad systemami, które mogłyby zdominować człowieka poznawczo, powinny zostać całkowicie wstrzymane.
Wzywamy do wprowadzenia zakazu rozwoju superinteligencji, który nie zostanie zniesiony przed osiągnięciem szerokiego konsensusu naukowego co do tego, iż będzie to odbywać się w sposób bezpieczny i kontrolowany, oraz uzyskaniem silnego poparcia społecznego.
– tak brzmi cała treść listu otwartego FLI.FLI powołuje się przy tym na swoje badania opinii publicznej w USA, z których wynika, iż zaledwie 5 proc. ankietowanych popiera szybki, nieuregulowany rozwój AI, a aż 64 proc. uważa, iż prace nad superinteligencją powinny być zawieszone do czasu zapewnienia ich bezpieczeństwa i kontroli.
Nikt, kto dziś tworzy te systemy, nie pytał ludzkości, czy to w ogóle w porządku. My zapytaliśmy. Odpowiedź była jasna: to nie do zaakceptowania
– komentuje Anthony Aguirre, współzałożyciel FLI.Sygnatariusze – reprezentujący często przeciwstawne ideologie i środowiska – argumentują, iż obecny wyścig między firmami takimi jak OpenAI, Google DeepMind czy xAI, odbywa się bez społecznego upoważnienia tych firm i może prowadzić do poważnych konsekwencji: od utraty miejsc pracy i godności, przez ryzyko destabilizacji politycznej, po zagrożenie dla samego istnienia gatunku ludzkiego.
Musimy najpierw naukowo ustalić, jak projektować systemy, które będą fundamentalnie niezdolne do skrzywdzenia człowieka – ani przez błędy, ani przez celowe wykorzystanie. Potrzebujemy też o wiele silniejszego wpływu społecznego na decyzje o kierunkach rozwoju AI
– komentuje Geoffrey Hinton, „ojciec chrzestny AI”, noblista i jeden z sygnatariuszy listu.
