Nvidia tworzy zabezpieczenia dla agentów AI

Nvidia zaprezentowała Open Agent Safety Platform, zestaw narzędzi programistycznych i sprzętowych zaprojektowanych do niezależnego kontrolowania agentów AI. Platforma ma ograniczać ryzyko, iż autonomiczny agent wydostanie się poza środowisko, w którym powinien działać, choćby jeżeli sam spróbuje ominąć istniejące zabezpieczenia. Firma rozwija wspomniane rozwiązanie w odpowiedzi na serię incydentów, w których agenci AI firm takich jak …