Kongres hľadá spôsob ako riešiť hrozbu deepfake

Deepfake videá sa už dostali aj do amerického kongresu, politici sa boja ich zneužitia. Kongresman Adam Shiff varuje, že môžu mať zničujúce následky na americké prezidentské voľby v roku 2020.

Vďaka rozvoju umelej inteligencie sa v posledných rokoch stretávame aj s fenoménom takzvaných deepfake videí. Ide o videá alebo fotografie, ktoré sú vďaka čoraz sofistikovanejším algoritmom upravené a pôvodne zobrazená tvár sa zmení alebo umiestni do iného prostredia či situácie.

V Spojených štátoch sa pred pár týždňami šírilo video, na ktorom predsedníčka Snemovne reprezentantov Nancy Pelosiová pôsobí mierne indisponovane. Prvý priniesol túto správu Washington Post a video sa vzápätí rozšírilo aj na Twitter a Youtube. Na Facebooku malo video minimálne 1,4 milióna zhliadnutí.

Po zistení, že bolo upravené, sa k nemu sociálne siete postavili rozdielne. Na rozdiel od Youtube, ktorý video stiahol, Twitter a Facebook ho nechali naďalej prístupné. Facebook svoje rozhodnutie zdôvodnil tým, že nemá pravidlá, ktoré by mu prikazovali odstraňovať falošné informácie. Video iba preposlali tretej strane na preskúmanie, ktorá ho označila za falošné. Jediným výsledkom bolo, že malo horšie hodnotenie v spravodajskom vlákne. Odstránené však nebolo.

Reakcia Facebooku inšpirovala dvoch umelcov (Bill Posters, Daniel Howe) a reklamnú agentúru (Canny), aby vytvorili podobné video s Markom Zuckerbergom. Chceli ním jednak poukázať na alibistický prístup sociálnej siete a na druhej strane predstaviť verejnosti, čo dokážu digitálne technológie, ale aj aké hrozby so sebou prinášajú.

Okrem deepfake videí sa objavujú aj upravované fotografie. Na portáli Linkedin dokonca vznikol účet, ktorý pravdepodobne slúžil na špionáž. Dôkazom môže byť, že fotografiu na profile vytvorila umelá inteligencia – GAN (Generative Adversarial Network). Účet údajne patril 30-ročnej Katie Jonesovej a jeho prepojenia viedli k 52 osobám, ktoré pôsobia vo washingtonskej politike. Sú medzi nimi senátori, poradcovia či ekonomický expert Federálneho rezervného fondu.

Linkedin už medzitým profil vymazal. Jeho hovorca pre bezpečnosť Paul Rockwell vyhlásil, že falošné profily porušujú podmienky užívania a budú okamžite vymazané.

Dostávame sa do situácie, keď treba začať diskusiu medzi vládami, mimovládnymi organizáciami a vlastníkmi sociálnych sietí, aby sa nastavili pravidlá, ktoré neobmedzia slobodu slova, ale čo najúčinnejšie zabránia, aby sa internetom šírili vyslovene nebezpečné klamstvá.

Americký kongres sa týmto fenoménom začal zaoberať na podnet demokratického kongresmana Adama Schiffa. Počas panelovej diskusie mali experti z univerzít a think-tankov navrhnúť účinnú stratégiu.

Podľa časti zákonodarcov by mali kontrolu nad obsahom vykonávať sociálne siete. Odborníci odporúčali, aby bol overovaný aj zdroj odkiaľ video pochádza.

Ak by sa ukázalo, že je nejaké video falošné, mali by sociálne siete urobiť všetko pre to, aby sa ďalej nešírilo a odstrániť ho.

V kongrese sa už rokuje o čiastkových zmenách zákonov. Republikánsky senátor Ben Sasse navrhol úpravu, aby tvorcovia takýchto správ, boli stíhateľní. Demokratka Yvette Clarková zas navrhla, aby autori deepfake videa svoj výtvor označili viditeľným identifikačným prvkom.

S deepfake videami sa budeme určite stretávať aj u nás. Prvé video, na ktorom sa objavil český prezident Miloš Zeman, sa už objavilo. Je len otázkou času, kedy sa obeťou stane nejaký slovenský politik.

ŽIADNE KOMENTÁRE