Złamali filtry bezpieczeństwa w Claude. AI pomagało przy groźnych wirusach

Zdjęcie: Ikonka Claude na smartfonie z Android


Firma Anthropic powstrzymała liczne próby wykorzystania modelu Claude do badań nad bronią biologiczną. Naukowcy obeszli zabezpieczenia, aby uzyskać dostęp do analiz dotyczących niebezpiecznych patogenów. Claude ujawnia próby obejścia filtrów Anthropic zapowiedziało, iż Claude oznaczy generowane treści znakiem wodnym. Na...