Które „ludzkie”? Polemika z esejem „An Alien Mind”

Esej Jakuba Pachockiego jest bardzo ciekawy. Zwraca uwagę na rekursywne samodoskonalenie, czyli sytuację, w której sztuczna inteligencja odgrywa coraz większą rolę w tworzeniu kolejnych, lepszych systemów AI, tworząc dodatnie sprzężenie zwrotne postępu. Pisze też o coraz słabszej możliwości monitorowania łańcucha rozumowania, ponieważ werbalizowany tok myślenia modelu staje się coraz mniej wiarygodnym oknem na proces prowadzący [...]