Moonshot dał się złamać. Chińska AI zaczęła mówić o broni biologicznej

Zdjęcie: Ekran smartfona ze stroną aplikacji Kimi firmy Moonshot AI w sklepie Google Play, widoczne oceny i liczba pobrań.


Dwa popularne modele chińskiej firmy Moonshot AI miały po złamaniu zabezpieczeń generować treści dotyczące broni biologicznej, cyberataków i zabójstw. Firma zajmująca się bezpieczeństwem sztucznej inteligencji przekazała informacje o luce producentowi, który prowadzi w tej chwili wewnętrzny przegląd swoich systemów. Badacze podkreślają...