To zależy od twojej definicji AGI, prawda? AGI nie jest osobliwością. Osobliwość to wykładniczy, rekurencyjny, samodoskonalący się system, który bardzo gwałtownie przyspiesza daleko poza wszystko, co mogłoby wyglądać jak ludzka inteligencja.
Dla mnie AGI to system uczenia się ogólnego przeznaczenia, który może dobrze działać we wszystkich środowiskach szkoleniowych na poziomie ludzkim. Nawiasem mówiąc, praca oparta na wiedzy obejmuje pracę fizyczną. Duża część mojego sceptycyzmu wiąże się z postępem i złożonością wykonywania zadań w robotyce. Ale tak, mogę sobie wyobrazić, iż mamy system, który może się nauczyć – bez konieczności wykonywania wielu ręcznych podpowiedzi – jak dobrze działać w bardzo szerokiej gamie środowisk. Myślę, iż niekoniecznie będzie to AGI ani nie prowadzi to do osobliwości, ale oznacza to, iż większość prac związanych z wiedzą ludzką w ciągu najbliższych pięciu–10 lat będzie prawdopodobnie wykonywana przez jeden z opracowywanych przez nas systemów sztucznej inteligencji. I myślę, iż powodem, dla którego unikam języka na temat osobliwości i sztucznej superinteligencji jest to, iż uważam, iż to bardzo różne rzeczy.
Wyzwanie związane z AGI polega na tym, iż stało się ono tak udramatyzowane, iż w pewnym sensie nie skupiamy się na konkretnych możliwościach tego, co system może zrobić. I na tym mi zależy, jeżeli chodzi o budowanie towarzyszy AI, aby byli przydatni dla ciebie jako człowieka, pracowali dla ciebie jako człowiek, byli po twojej stronie, w twoim kącie i w twoim zespole. To jest moja motywacja i to jest to, na co mam kontrolę i na co mam wpływ, aby próbować tworzyć systemy, które są odpowiedzialne i przydatne dla ludzi, zamiast realizować teoretyczne poszukiwania superinteligencji.
