Zaledwie dzień po tym, jak Google wdrożył model do generowania zdjęć o nazwie Nano Banana 2 w Google Earth, został on wycofany. W swoim oświadczeniu gigant technologiczny przekazał, iż „silniejsze zabezpieczenia są w trakcie opracowywania”. Dodano, iż model ten był wykorzystywany do generowania fałszywych obrazów opartych na zdjęciach satelitarnych.
W momencie premiery funkcjonalność była reklamowana przez Google’a jako możliwość „spojrzenia w przeszłość”, „generowania infografik”, „tworzenia wizualizacji osiedli mieszkaniowych” czy „wyobrażenia sobie poszczególnych obiektów w dalekiej przyszłości”.
Dziennikarzom BBC Verify udało się wygenerować zdjęcia zapadliska po piramidzie w Gizie, czy zniszczonej wieży Eiffla. Te obiekty w rzeczywistości dalej są na swoich miejscach.
Wygenerowane przez dziennikarzy BBC dzięki modelu Nano Banana 2 zdjęcie zapadliska po piramidzie w Gizie. Źródło: BBCEksperci w rozmowie z BBC wprost skrytykowali tę funkcjonalność.
– Sfałszowane zdjęcie samo w sobie nie musi wyglądać przekonująco. Wystarczy, iż jest ono wygenerowane na podstawie zdjęć z mapy – skomentował Henk van Ess.
Google podało, iż wygenerowane zdjęcia dzięki niedawno temu wycofanej funkcjonalności zawierały znaki wodne, które informowały o użyciu sztucznej inteligencji.
Firma początkowo zapewniła też, iż zabezpieczenia wbudowane w model uniemożliwiłoby generowanie „szkodliwych” materiałów. Choć napisanie wprost o „szubienicach, na których mieliby zawisnąć zdrajcy” wygenerowanych tuż przy zdjęciach brytyjskiego parlamentu nie poskutkowało wygenerowaniem zdjęcia, tak uogólnienie zapytania było wystarczające, żeby ominąć blokadę.
– To jest szczególnie szkodliwe dla utrzymania zaufania wśród społeczności, ponieważ zdjęcia satelitarne są szczególnie wiarygodnym źródłem informacji – powiedział Bill Greer, analityk geoprzestrzenny i współzałożyciel usługi Common Space.
– Rządy wraz z czasem coraz bardziej ograniczają dostęp do tych danych, więc będziemy mieli do czynienia z większą ilością fałszywych obrazów, i mniejszą liczbą prawdziwych materiałów, co jeszcze bardziej pogłębi problem braku zaufania – podkreślił.
Źródła
Zdjęcie tytułowe zostało zrobione przez użytkownika o pseudonimie EEIM i jest ono dostępne na Wikimedia Commons w domenie publicznej. Treść artykułu powstała na podstawie następujących źródeł tekstowych i/lub audiowizualnych:
- Google withdraws new Earth AI tool after warnings over misinformation risks, opublikowany w serwisie bbc.com przez Merlyn Thomas i Paula Brown w dniu 31.07.2025
- Transform any place with Nano Banana in Google Earth, opublikowany w serwisie blog.google przez Bryana Horowitza w dniu 30.07.2025
