Jednym z najpoważniejszych zagrożeń, z którym muszą się mierzyć twórcy sztucznej inteligencji, jest niepożądane działanie opracowanych przez nich modeli. Spektrum problemu jest szerokie: od opracowywania broni, po odpowiedzi przekonujące rozmówców do odebrania sobie życia.