Tysiące incydentów z najnowszymi modelami AI. Niektóre zachowania zaskoczyły twórców

Zdjęcie: Tysiące incydentów z najnowszymi modelami AI. Niektóre zachowania zaskoczyły twórców

Dziesiątki tysięcy przypadków niepokojących zachowań modeli sztucznej inteligencji trafiły pod lupę OpenAI i Anthropic – wynika z ustaleń Axios. Modele miały m.in. próbować omijać zabezpieczenia, wydostawać się ze środowisk testowych i tworzyć własne kanały komunikacji. Choć dotychczas nie wykazano, by incydenty doprowadziły do szkód w świecie rzeczywistym, ich skala rodzi pytania o to, jak daleko twórcy AI są w stanie kontrolować coraz bardziej autonomiczne systemy.