Czy zastanawialiście się kiedyś, jak papież wyglądałby w kurtce od znanego projektanta? Jeśli tak, to sztuczna inteligencja pomoże wam zwizualizować to wyobrażenie.
Kiedy kilka tygodni temu aplikacja Midjourney wprowadziła swoją piątą wersję, obrazy wygenerowane przez sztuczną inteligencję obiegły internet. Niektóre z grafik były niepokojące – pokazywały na przykład aresztowanie byłego prezydenta USA Donalda Trumpa. Obraz został wygenerowany przez dziennikarza Eliot’a Higgins’a – założyciela portalu Bellingcat. Mimo, że twórca “zdjęcia”, podał, że obraz jest tylko zabawą z AI, obraz szybko rozprzestrzenił się bez towarzyszącego mu kontekstu
Twórca viralowego obrazu z papieżem, który przedstawia Franciszka I w kurtce od Balenciagi, 31-letni Pablo Xavier z Chicago opowiada, że zaczął tworzyć sztukę wygenerowaną przez AI po śmierci swojego brata, który zmarł kilka miesięcy temu. Próbował poradzić sobie ze stratą i z początku generował zdjęcia swojego zmarłego brata. Pewnego dnia, eksperymantując z AI,postanowił stworzyć coś innego – obraz papieża w kurtce Balenciagi. Uznał, że obraz, który wygenerował jest świetny i bez zastanowienia opublikował go na kilku grupach facebookowych, poświęconych tematowim sztuki generowanej przez AI. Był zaskoczony, gdy jego obraz szybko stał się popularny. “Zdjęcie” zostało obejrzaney ponad 26 milionów razy.
Po czym poznać, że obraz papieża jest deep fakem?
Przede wszystkim musimy przyjrzeć się szczegółom, które na pierwszy rzut oka nie są tak widoczne. To właśnie sprawiło, że obraz stał się tak szybko popularny. Wyglądał niemal jak prawdziwy.
Można jednak zauważyć pewne niepokojące detale. Po pierwsze oczy zlewają się z okularami. Kolejna nieścisłość – ręce papieża są zaciśnięte wokół powietrza. Warto tu podkreślić postęp jaki dokonało Midjourney, ponieważ jeszcze kilka miesięcy temu, kiedy pisaliśmy artykuł o sztucznie wygenerowanych obrazach z imprez, pierwszą rzucającą się w oczy cechą tych grafik, były właśnie problemy algorytmu z wygenerowaniem dłoni. Trzecim szczegółem jest brakująca część łańcucha -krzyż wisi częściowo w powietrzu.
Ale nie było to jedyne dzieło związane z popularną marką modową, które szybko zyskało popularność. Inny twórca, kryjący się pod pseudonimem demonflyingfox Youtuber, używa Midjourney oraz oprogramowania do tworzenia animacji. Jednym z jego popularniejszym filmików jest wystylizowana na Balenciagę reklama video, przedstawiająca postaci z powieści Harrego Pottera. Twórca podkreśla, że celowo stara się, żeby jego kreacje były przesadnie wystylizowane, aby nikt nie pomylił ich z prawdziwymi obrazami. Aby osiągnąć ten efekt używa starszej wersji Midjourney, która nie radzi sobie jeszcze tak dobrze z tworzeniem realistycznych obrazów. Łatwo jest więc poznać, że obraz jest wygenerowany przez komputer.
Jedyne, co możemy zrobić dziś zrobić, to przyglądać się detalom. Niestety nie ma na razie bezpłatnego i, łatwego narzędzia do wykrywania tego typu fake newsów. Narzędzie, które można znaleć na Huggingface, popularnym portalu publikującym modele uczenia maszynowego, rozpoznało, że papież w kurtce jest “fałszywy” z prawdopodobieństwem 69 procent, ale gdy dano mu wygenerowany przez AI obraz Elona Muska, narzędzie w ogóle go nie rozpoznało.
Powstają też inne narzędzia. Na przykład zespół z Nividi i Uniwersytetu w Neapolu badał metadane zaszyte w obrazach, pozwalające wykryć im pochodzenie obrazów. Ich rozwiązanie również ma swoje wady. Kiedy tylko wielkość obrazu zostanie zmniejszona i grafika traci na jakości,, trudniej jest dokonać prawidłowej oceny.
Inny zespół badaczy ogłosił, że jest w stanie wygenerować dokładną kopię obrazu, który został sztuczne wygenerowany, ale ma problemy z wygenerowaniem obrazu, który jest prawdziwą fotografią. W związku z czym jeśli model jest w stanie dokładnie odtworzyć obraz, oznacza to, że został on wygenerowany przez AI.
Pablo Xavier, po doświadczeniu z viralową grafiką papieża, wyraził swoje zdziwienie, że ludzie tak szybko uwierzyli w prawdziwość obrazu, ani przez chwilę go nie kwestionując Być może było tak dlatego, że obraz wydawał się niemal prozaiczny. Ot papież w białej kurtce. W przypadku zdjęcia Trumpa obraz był kontrowersyjny, łatwiej można było zakwestionować jego prawdziwość. Poza tym przeraziło go również to, że jego wytwór został użyty do krytyki Kościoła, co nie było jego intencją. Jak sam podkreśla, nie jest praktykującym katolikiem, ale nie życzy źle papieżowi, chciał go tylko ubrać go w śmieszną, modną kurtkę.
Cała ta historia zmusiła go do zastanowienia się nad wpływem sztucznej inteligencji na społeczeństwo oraz tym, gdzie leży granica ingerencji w wizerunek. Jak sam zauważył zabawne jest generowanie obrazów z Van Goghiem, ale uważa, że , nie należy generować obrazów z udziałem żyjących osób publicznych.