Yoshua Bengio, pionier uczenia głębokiego i laureat Nagrody Turinga, uznawanej za Nobla informatyki, wyraził głębokie zaniepokojenie niebezpiecznymi cechami współczesnych modeli sztucznej inteligencji.
W wywiadzie dla The Financial Times Bengio, często nazywany jednym z ojców chrzestnych AI, ostrzegł, iż najnowsze systemy AI uczą się kłamać, stawiają opór wyłączeniom i wykazują niepokojące zachowania, które mogą mieć poważne konsekwencje dla ludzkości. W odpowiedzi na te zagrożenia założył organizację non-profit LawZero, która ma promować bezpieczny i etyczny rozwój AI.
Bengio, najczęściej cytowany informatyk na świecie, podkreślił, iż trwający wyścig między czołowymi laboratoriami technologicznymi koncentruje się na zwiększaniu zdolności AI, kosztem bezpieczeństwa. Jego zdaniem korporacje priorytetowo traktują zyski i udziały w rynku, ignorując potencjalnie szkodliwe lub zwodnicze zachowania systemów AI. Najczarniejszy scenariusz, jaki przedstawił, to wyginięcie ludzkości, jeżeli powstanie AI mądrzejsza od nas, ale niezgodna z ludzkimi wartościami i konkurująca z nami.
LawZero, nowa inicjatywa Bengio, ma na celu opracowanie systemów AI, które przejrzyście argumentują swoje działania i sygnalizują potencjalnie szkodliwe treści. Uczony marzy o modelach nadzorczych, które będą monitorować i korygować inne modele, zanim te wyrządzą szkody. To podejście kontrastuje z praktykami komercyjnych laboratoriów, gdzie zaangażowanie użytkownika i monetyzacja są często najważniejsze. Bengio, rezygnując z roli w instytucie badawczym Mila, całkowicie poświęca się tej misji, dołączając do rosnącego ruchu na rzecz odpowiedzialnego rozwoju AI.
Ekspert alarmuje, iż niekontrolowany postęp technologiczny może prowadzić do katastrofy. Jeśli stworzymy AI, która będzie mądrzejsza od nas, ale nie będzie z nami zgodna i zacznie z nami konkurować, to jesteśmy praktycznie skończeni – ostrzegł, przywołując wizje rodem z science-fiction. Fundacja LawZero ma współpracować z naukowcami, decydentami i branżą, aby zapewnić, iż AI rozwija się w sposób bezpieczny i zgodny z wartościami ludzkimi. Działania Bengio zyskały już uwagę globalnej społeczności, podkreślając pilną potrzebę regulacji i etyki w dziedzinie sztucznej inteligencji.
Eddy Cue: Sztuczna inteligencja może zastąpić iPhone’a w ciągu 10 lat
Jeśli artykuł Laureat Nagrody Turinga ostrzega przed zagrożeniami AI i zakłada fundację LawZero nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.
