Herečka Selena Gomezová sa tento rok nezúčastnila charitatívnej akcie Met Gala. To nezabránilo jednému fanúšikovi, aby pomocou nástrojov umelej inteligencie vytvoril falošnú snímku Gomezovej v šatách, ktoré tu rok predtým predstavila iná umelkyňa. Fotografia sa na Twitteri stala virálnou a získala viac lajkov ako akýkoľvek reálny model, ktorý sa tento rok objavil na červenom koberci pred newyorským Metropolitným múzeom, uviedol módny časopis Elle.
Falošná fotografia
Twitter k príspevku pridal upozornenie, že Gomezová na akcii nebola. Napriek tomu si obrázok pozreli milióny ľudí a lajk mu dali státisíce užívateľov, čo naznačuje hlbšie problémy súvisiace s umelou inteligenciou, ako sú ťažkosti s rozpoznávaním vygenerovaného obsahu a jeho popularita napriek kontroverznému pôvodu.
SELENA GOMEZ DID A SURPRISE APPEARANCE AT THE #MetGala WTF pic.twitter.com/qnGxuUKsRK
— 𝐊𝐄𝐕 (@kevormez) May 2, 2023
Nie je to prvýkrát, čo sa ľudia nechali napáliť obrázkom vytvoreným umelou inteligenciou. V marci sa na internete šírila falošná snímka pápeža Františka v obrovskom páperovom kabáte alebo dramatické fotografie zachytávajúce zatknutie amerického exprezidenta Donalda Trumpa. Ani jedna z týchto vecí sa v skutočnosti nestala, ale obe sa na sociálnych sieťach stali virálnymi.
Pred niekoľkými dňami vyšlo najavo, že ľudskoprávna organizácia Amnesty International (AI) využívala na svoju propagáciu snímky vygenerované umelou inteligenciou. Falošné fotografie pripomínali protesty, ktoré pred dvomi rokmi zmietali Kolumbiou. Organizácia niektoré z nich po kritike zmazala s vysvetlením, že len chcela chrániť skutočných protestujúcich. Podľa kritikov ale podkopala dôveru vo vlastnú činnosť.
Šírenie sociálnymi sieťami
Na sociálnych sieťach sa tiež hojne šíri hudba generovaná umelou inteligenciou. Spočíva buď v tom, že systémy verne napodobnia vybraného umelca a nechajú ho naspievať cover verziu populárneho hitu či vytvoriť úplne novú skladbu alebo duet s ďalšími interpretmi. Fanúšikovia sú nadšení, ale umelci sa obávajú, uviedol denník The Guardian.
Minulý mesiac vydavateľstvo Universal Music Group (UMG) požiadalo streamovacie platformy, aby sa rozhodli, či chcú stáť „na strane umelcov, fanúšikov a ľudského tvorivého prejavu", alebo „na strane podvrhov, podvodov a odopierania umelcom náležitej odmeny".
Problémom vyhlásenia UMG je predpoklad, že fanúšikovia a umelci stoja na rovnakej strane tejto debaty. Popularita piesní vytvorených umelou inteligenciou, ktorú dokazuje aj viac ako deväť miliónov zhliadnutí falošného duetu rapperov Drakea a The Weeknd, to spochybňuje.
Realita v online prostredí
Situácia podľa stanice CNN ukazuje novú realitu v online prostredí: vzostup nástrojov umelej inteligencie umožnil lacnejšie a ľahšie ako kedykoľvek predtým vytvárať realistické snímky, zvukové záznamy aj videá – a tie budú zaplavovať sociálne siete stále častejšie.
Šírenie vygenerovaných snímok, zvukov či textov môže viesť k znečisteniu informačného ekosystému. Po rokoch boja s dezinformáciami užívatelia budú ešte ťažšie rozlišovať a overovať, čo je skutočné. Niektorí odborníci sa tiež obávajú, že vygenerované materiály hlbšie rozdelia spoločnosť a budú slúžiť aj na obťažovanie.
Spoločnosti zaoberajúce sa technológiami umelej inteligencie sa v súčasnosti snažia zlepšiť transparentnosť toho, kedy je obsah generovaný počítačom. Zásady pre jeho šírenie majú aj niektoré sociálne siete a pracuje sa aj na technologických riešeniach, ktoré by napríklad vygenerovaný obrázok opatrili vodoznakom.
Hrozby pre verejnú diskusiu
Podľa denníka Le Monde v poslednej dobe ubudlo napríklad falošných fotografií z francúzskych demonštrácií proti dôchodkovej reforme. To však neznamená, že boli definitívne odstránené všetky hrozby pre verejnú diskusiu, poznamenal denník.
Mnoho z nedávnych virálnych snímok generovaných umelou inteligenciou bolo vytvorených nástrojom Midjourney, ktorý umožňuje používateľom vytvárať obrázky na základe krátkych pokynov. Najnovšia verzia aplikácie je teraz dostupná iba pre vybraných užívateľov s predplatným pre mimoriadny dopyt a „zneužívaniu skúšobnej verzie", uviedla spoločnosť.
Snímky, ktoré je možné vytvárať s predplatenými verziami rôznych systémov umelej inteligencie, sú ale často vybrúsenejšie, dokonalejšie a bez hrubých chýb, ktoré kričia, že ide o falošnú fotografiu. Zatiaľ čo falošných spravodajských fotografií z francúzskych ulíc dočasne ubudlo, tie ďalšie budú pravdepodobne podarenejšie, menej odhaliteľné a oveľa klamlivejšie, dodal Le Monde.