Google pracuje nad narzędziami, które mają pomóc rozpoznać materiały wygenerowane przy użyciu rozwiązań AI. Użytkownicy aplikacji Zdjęcia będą mogli zobaczyć, czy określone zdjęcia lub filmy zostały edytowane przy użyciu sztucznej inteligencji, czy też nie. Wdrażanie narzędzi tego typu powoli staje się standardem i to głównie ze względu na codzienne potrzeby użytkowników.
AI kontra Al
Narzędzia bazujące na AI, które pozwalają wygenerować zdjęcia, obrazy czy wideo stają się coraz lepsze, a użytkownikom trudno jest odróżnić to co prawdziwe od tego co sztucznie wygenerowane. Manipulacje obrazami czy filmami stają się coraz trudniejsze do wykrycia gołym okiem, a to niesie za sobą poważne konsekwencje – od szerzenia dezinformacji po utratę zaufania do mediów cyfrowych. Tym samym rośnie potrzeba opracowania skutecznych metod precyzyjnej identyfikacji treści syntetycznych.
Już wcześniej Google podjęło pewne kroki w celu rozwiązania tego problemu, między innymi informując o edycji zdjęcia przez sztuczną inteligencję, a także o takich szczegółach, jak nazwa i lokalizacja pliku.
Teraz okazuje się jednak, iż w aplikacji Google Zdjęcia ma pojawić się nowa funkcja, której celem będzie jeszcze dokładniejsze oznaczanie materiałów modyfikowanych przez AI. Nowa sekcja „Jak to powstało” ma zostać dodana do widoku szczegółów. Użytkownik dowie się więc, czy określone zdjęcia lub filmy zostały edytowane przy użyciu sztucznej inteligencji, czy nie.
Powoli podobne mechanizmy stają się standardem w branży i są dostępne w coraz większej liczbie platform.
Źródło: Google PlaySzczegóły edycji w kilka sekund
Jak wynika z analizy serwisu Android Authority, funkcja wprowadziła nową sekcję do widoku szczegółów zdjęcia zatytułowaną „Jak to powstało”. Wykorzystuje ona dane uwierzytelniające treści do przechowywania historii edycji, zarówno z użyciem narzędzi AI, jak i bez nich.
W praktyce ma działać to tak, iż po przesunięciu palcem w górę po zdjęciu lub filmie użytkownik zobaczy nową sekcję i zyska możliwość sprawdzenia, czy edycje zostały wprowadzone dzięki narzędzi AI, czy też innych narzędzi. System potrafi również identyfikować różne scenariusze, na przykład użycie wielu narzędzi AI, utworzenie multimediów dzięki AI lub aparatu, a także utworzenie obrazu z połączenia wielu obrazów.
Jeżeli dany materiał został edytowany przez sztuczną inteligencję, pojawi się etykieta: „Materiały multimedialne utworzone dzięki sztucznej inteligencji”, „Edytowane dzięki narzędzi sztucznej inteligencji” i „Edytowane dzięki wielu narzędzi sztucznej inteligencji”.
W przypadku multimediów edytowanych przy użyciu AI pojawi się komunikat: „Edytowane dzięki wielu narzędzi innych niż sztuczna inteligencja” lub „Materiały multimedialne utworzone dzięki narzędzi innych niż sztuczna inteligencja”.
Natomiast w sytuacji, gdy nie użyto żadnych narzędzi do edycji, wystąpią etykiety takie jak „Materiały multimedialne zarejestrowane aparatem” lub „Materiały multimedialne zarejestrowane aparatem bez modyfikacji oprogramowania”.
Warto jeszcze dodać, iż jeżeli historia została zmodyfikowana albo jej brakuje, użytkownik zobaczy komunikat o błędzie.
Źródło: Android Authority / Zdjęcie otwierające: unsplash
