Accenture, KPMG, Mastercard i Adobe łączą siły z Microsoftem. Powstają otwarte standardy audytu agentów AI

itreseller.com.pl 6 godzin temu

Microsoft ogłosił ogólnobranżowy projekt AI Transparency Initiative we współpracy z ponad 40 przedsiębiorstwami, w tym firmami Accenture, Adobe, KPMG, Mastercard i Volvo Cars. Przedsięwzięcie ma na celu stworzenie otwartych standardów bezpieczeństwa, przejrzystości oraz nadzoru nad modelami i agentami sztucznej inteligencji. Zaprezentowane rozwiązanie umożliwia przedsiębiorstwom niezależną weryfikację i audytowanie działań autonomicznych agentów w ramach istniejących struktur bezpieczeństwa.

Niezależny audyt zamiast bezkrytycznego zaufania do autonomicznych agentów

Tradycyjne mechanizmy kontrolne potrafią monitorować otoczenie modeli sztucznej inteligencji, jednak nie pozwalają odtworzyć przebiegu procesów zachodzących między zapytaniem a wynikiem. Agenci łączą się z bazami danych, narzędziami i poświadczeniami infrastrukturalnymi, podejmując decyzje bez bezpośredniego udziału człowieka na każdym etapie. Stwarza to ryzyko operacyjne oraz brak możliwości rozliczenia podejmowanych działań w przypadku audytu.

W odpowiedzi na te wyzwania przedstawiciele Microsoft, Adobe i KPMG podkreślają potrzebę wprowadzenia architektury opartej na widoczności, weryfikacji i kontroli. Przeformatowanie modelu nadzoru zakłada, iż agenci nie mogą stanowić jedynego źródła prawdy o swoim zachowaniu, a zebrane dowody muszą być audytowalne przez zewnętrzne systemy bezpieczeństwa. Jak wskazał John Israel z KPMG International, zaufanie do technologii wymaga przejrzystości, możliwości wyjaśnienia decyzji i odpowiedzialnego nadzoru.

Trzy filary otwartych norm nadzoru i integracja ze środowiskiem klienta

Ramy nowego projektu opierają się na trzech głównych założeniach realizowanych we współpracy z sektorem publicznym i prywatnym. Pierwszym z nich jest rozszerzenie udziału w pracach National Institute of Standards and Technology w zakresie SI Agent Standards Initiative. Drugi element obejmuje bezpośrednią współpracę z ponad 40 organizacjami przy tworzeniu spójnych, niezależnie weryfikowalnych reguł zarządzania systemami sztucznej inteligencji, niezależnie od dostawcy modelu.

Trzeci filar zakłada bezpośrednią integrację opracowanych wytycznych z rozwiązaniami Microsoft AI, Microsoft Foundry oraz Microsoft Copilot. Otrzymane w ten sposób dane telemetryczne mogą być przekazywane do narzędzi zgodności i bezpieczeństwa dostarczanych zarówno przez Microsoft, jak i dostawców trzecich. Według Aanchal Gupty z Adobe, wspólne podejście branżowe do przejrzystości stanowi fundament bezpiecznego wdrażania innowacji w przedsiębiorstwach.

Szanse rynkowe i nowe usługi dla kanału partnerskiego

Wprowadzenie powszechnych wymagań dotyczących przejrzystości autonomicznych agentów tworzy bezpośrednie możliwości biznesowe dla resellerów, integratorów i dystrybutorów IT. Rosnąca autonomia algorytmów generuje zapotrzebowanie na zaawansowane usługi wdrożeniowe skoncentrowane wokół tożsamości agentów, parametryzacji uprawnień oraz monitorowania aktywności cyfrowej.

Klienci korporacyjni potrzebują wsparcia przy integracji nowych warstw governance z posiadanym stosem technologicznym i narzędziami bezpieczeństwa. Harpreet Sidhu z Accenture zauważył, iż otwarte podejście branżowe ułatwia nakładanie odpowiednich mechanizmów kontroli na wdrażane modele. Partnerzy IT zyskują tym samym przestrzeń do rozbudowy oferty o audyty zgodności, ciągłą weryfikację uprawnień oraz doradztwo w obszarze zarządzania ryzykiem cyfrowym.

Idź do oryginalnego materiału