Bezprecedensowa fala filmów generowanych przez sztuczną inteligencję, fałszywych zdjęć satelitarnych i zmanipulowanych materiałów wizualnych dotyczących amerykańsko-izraelskiej kampanii wojskowej przeciwko Iranowi zgromadziła setki milionów wyświetleń na platformach mediów społecznościowych. BBC Verify poinformowało, że zagraniczne rządy, media państwowe i oportunistyczni twórcy tworzą te treści od rozpoczęcia konfliktu 28 lutego.
Zalew sfabrykowanych treści zanieczyszcza środowisko informacyjne podczas wynikającego z tego konfliktu zbrojnego w regionie. Jeden z szeroko udostępnianych filmów wygenerowanych przez sztuczną inteligencję, przedstawiających rakiety uderzające w Tel Awiw, pojawił się w ponad 300 postach i obejrzano dziesiątki milionów razy.
Kolejny fałszywy klip przedstawiający Burdż Chalifa w Dubaju pochłonięty płomieniami był szeroko rozpowszechniany, gdy mieszkańcy obawiali się ataków dronów i rakiet. Powiązany z państwem irański dziennik Tehran Times udostępnił sfabrykowane zdjęcie satelitarne, które ma przedstawiać uszkodzenia amerykańskiego obiektu radarowego w Katarze.
Narzędzie Google do wykrywania znaku wodnego SynthID potwierdziło, że obraz został utworzony lub zmieniony przy użyciu produktu Google AI. Zdjęcie pochodzi z autentycznych zdjęć satelitarnych amerykańskiej bazy morskiej w Bahrajnie, wykonanych w lutym 2025 r.
Materiał filmowy z gier wideo również został uznany za prawdziwą walkę. Gubernator Teksasu Greg Abbott ponownie opublikował klip z gry War Thunder, pisząc „Bye bye”, po czym usunął post po tym, jak w nocie społeczności oznaczono go jako materiał z gry.
Starszy dziennikarz BBC Verify, Shayan Sardarizadeh, stwierdził, że „ta wojna mogła już pobić rekord największej liczby filmów i obrazów generowanych przez sztuczną inteligencję, które stały się wirusowe podczas konfliktu”. Chatbot AI Grok wielokrotnie nie identyfikował fałszywych treści, upierając się, że wygenerowany przez sztuczną inteligencję film przedstawiający rakiety uderzające w Tel Awiw jest prawdziwy.
Na poparcie swojego fałszywego potwierdzenia Grok powołał się na doniesienia Newsweeka i Reutersa. X nie odpowiedział na prośbę BBC Verify o komentarz na temat zachowania chatbota.
4 marca szefowa produktu X, Nikita Bier, ogłosiła, że twórcy publikujący bez ujawnienia filmy wideo przedstawiające konflikty zbrojne wygenerowane przez sztuczną inteligencję zostaną zawieszeni w programie dzielenia się przychodami z twórców na 90 dni. Recydywistom grozi trwałe usunięcie.
Platforma stwierdziła, że będzie sygnalizować naruszenia za pomocą notatek społeczności i metadanych z generatywnych narzędzi sztucznej inteligencji. Bier stwierdził, że „przy dzisiejszych technologiach sztucznej inteligencji tworzenie treści, które mogą wprowadzać ludzi w błąd, jest banalne”.
Krytycy twierdzą, że oparty na zaangażowaniu model podziału przychodów X zachęca do treści budzących sensację i wprowadzających w błąd. Ekspert Mahsa Alimardani ostrzegł, że „takie fałszywe filmy podważają zaufanie opinii publicznej do zweryfikowanych informacji dostępnych w Internecie i komplikują dokumentowanie prawdziwych dowodów”.
BBC Verify to jednostka sprawdzająca fakty należąca do British Broadcasting Corporation. Śledztwo opublikowano 6 marca.
