Lumea roboților: YouTube va elimina conținutul creat cu AI care simulează realist violența

Creepy much? YouTube a anunțat recent că va elimina de pe platformă un anumit tip de content creat cu ajutorul AI-ului. Este vorba despre materiale în care, cu ajutorul AI-ului, copii sau adulți sunt “readuși la viață” și povestesc cu vocea lor felul în care au dispărut sau murit.

Este la modă un tip de conținut numit “true crime”. Sunt canale de YouTube și podcast-uri care vorbesc despre tot felul de crime sau răpiri celebre, analizează indiciile, ce-a făcut poliția etc.

Probabil aduc multă audiență. Și pe Netflix sunt astfel de documentare. Problema este că mai nou unii creatori de conținut de pe YouTube au început să folosească AI-ul pentru a anima victime ale acelor crime, iar AI-uri audio povestesc cu vocea acelor victime ce li s-a întâmplat, în detalii prea dure.

Nici nu contează detaliile, de fapt. Un părinte n-ar trebui să-și vadă și să-și audă copilul dispărut pe YouTube, povestind cu vocea lui cum a fost răpit sau omorât.

In recent months, content creators have used AI to narrate numerous high-profile cases, including the abduction and death of British two-year-old James Bulger, as reported by The Washington Post. There are also similar AI narrations about Madeleine McCann, a British three-year-old who disappeared from a resort, and Gabriel Fernández, an eight-year-old boy who was tortured and murdered by his mother and her boyfriend in California. (TechCrunch)

YouTube va începe să sancționeze astfel de materiale. Acum ceva vreme au modificat de fapt termenele și condițiile pentru a cere ca orice astfel de material să fie clar marcat ca fiind generat sau alterat, nu real. Acum platforma își rezervă dreptul de a elimina oricum materialele care sunt prea realiste, chiar și dacă există informare pentru modul lor de realizare.

Mă tem tot mai mult că nivelul la care vor ajunge deepfake-urile va fi o problemă tot mai mare în viitor, indiferent că vorbim de impactul emoțional sau de influența în evenimente publice precum politică, procesul electoral, scandaluri diverse și altele. Cred că vom asista la niște ani în care nu doar că fake news-ul va fi o problemă mare, dar deepfake-ul creat cu astfel de unelte va aduce o incertitudine în anumite domenii și scandaluri de tipul “nu-i adevărat, este deepfake” ca scuză pentru orice.