Kedden kb. 50 mesterséges intelligencia által generált kép terjedt el a Twitteren, amik a volt amerikai elnök Donald Trump letartóztatását mutatják be. A képek sok felhasználót megzavartak, mert a készítésükhöz használt Midjourney v5 motor teljesen valósághű képet generált.
Tegnap a Midjourney v5 felhasználója, – a Bellingcat alapítója, Eliot Higgins – azt állította a Buzzfeed News-nak, hogy a képek miatt kitiltották a Midjourney-ről. A Buzzfeed arról is beszámolt, hogy a Midjourney megtiltotta hogy a „letartóztatás” szót használják képgenerálás esetén.
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
A Midjourney még nem erősítette meg ezeket a híreket, de egy Ars-teszt azt jelzi, hogy a Midjourney Donald Trump neve esetén hibaüzenetet generál. A hibaüzenet szerint a prompt azért lett blokkolva, mert „összeütközésbe kerülhet tartalmi irányelveinkkel”. Ugyanezt a hibaüzenetet kaptuk, amikor más Trump családneveket és előző elnökök nevét használtuk. Sok más híresség neve azonban továbbra is használható.
Higgins azt mondta a Buzzfeednek, hogy „Nem állt szándékomban semmi kritikát vagy ilyesmit megfogalmazni” –, mondván, hogy csak szórakozott, miközben elképzelte Trump letartóztatását. – „De aztán valahogy önálló életre kelt.”
Higgins azt mondta az Ars-nak, hogy „az igazán feltűnő” számára az volt, hogy „annyi ember nem volt tudatában a Midjourney létezésének vagy annak, hogy mire képes”. Úgy véli, hogy a képek létrehozása „pozitív hatással volt arra, hogy felhívja a figyelmet arra, hogy milyen képeket lehet most hamisítani”.
Kedden Higgins elmondta a Wirednek, hogy a Twitter-felhasználók hogyan kerülhetik el, hogy becsapják őket olyan meggyőző mesterséges intelligencia által generált képekkel, mint a hamis Trump-letartóztatási képek. Higgins azonban megjegyezte, hogy a hírességek könnyebben célpontjai lehetnek a mesterséges képek előállításának, mivel „nyilvánvaló, hogy minél híresebb egy személy, annál több képet tud a mesterséges intelligencia felhasználni” – mondta Higgins.
„Tehát a nagyon híres emberekről rendkívül élethűen tudnak képeket generálni, míg a kevésbé híres emberekről általában nincs képinformációjuk”.
A Twitteren Higgins képeit most egy közösségi megjegyzés jelzi, hogy hamisak. A Twitter irányelve kimondja, hogy a felhasználók „nem oszthatnak meg megtévesztően olyan szintetikus vagy manipulált médiát, amely valószínűleg kárt okoz”, és ezek a címkék „segítenek az embereknek megérteni azok hitelességét”, és „további kontextust biztosítanak”.
Higgins képei továbbra is elérhetőek a Twitteren, ahol néhány képet 4,9 milliószor néztek meg az írás pillanatában.
