Video: Videoclipurile false perfecte vor fi recunoscute de inteligența artificială
2024 Autor: Richard Flannagan | [email protected]. Modificat ultima dată: 2023-12-16 00:16
În urmă cu un an, Manish Agrawala de la Stanford a contribuit la dezvoltarea tehnologiei de sincronizare a buzelor care a permis editorilor video să modifice cuvintele vorbitorilor aproape imperceptibil. Instrumentul ar putea introduce cu ușurință cuvinte pe care o persoană nu le-a rostit niciodată, chiar în mijlocul unei propoziții, sau șterge cuvintele pe care le-a spus. Totul va părea realist cu ochiul liber și chiar și pentru multe sisteme informatice.
Acest instrument a făcut mult mai ușor să remediați greșelile fără a re-filma scene întregi și a adaptat, de asemenea, emisiuni TV sau filme pentru diferite categorii de public în diferite locuri. Dar această tehnologie a creat și noi oportunități tulburătoare pentru videoclipuri false greu de găsit, cu intenția clară de a denatura adevărul. De exemplu, un videoclip republican recent a folosit o tehnică mai dură pentru un interviu cu Joe Biden.
În această vară, Agrawala și colegii de la Stanford și UC Berkeley au dezvăluit o abordare bazată pe inteligență artificială a tehnologiei de sincronizare a buzelor. Noul program detectează cu acuratețe peste 80% din falsuri, recunoscând cele mai mici discrepanțe între sunetele oamenilor și forma gurii lor.
Dar Agrawala, directorul Stanford Institute for Media Innovation și profesor de informatică la Forest Baskett, care este afiliat și la Stanford Institute for Human-Centered Artificial Intelligence, avertizează că nu există o soluție tehnică pe termen lung la falsurile profunde.
Cum funcționează falsurile
Există motive legitime pentru manipularea videoclipurilor. De exemplu, oricine filmează o emisiune TV, un film sau o reclamă fictivă poate economisi timp și bani folosind instrumente digitale pentru corectarea erorilor sau personalizarea scripturilor.
Problema apare atunci când aceste instrumente sunt utilizate în mod deliberat pentru a răspândi informații false. Și multe dintre tehnici sunt invizibile pentru spectatorul mediu.
Multe videoclipuri false profunde se bazează pe schimbarea feței, suprapunând literalmente fața unei persoane pe videoclipul altei persoane. Dar, deși instrumentele de schimbare a feței pot fi convingătoare, ele sunt relativ brute și, de obicei, lasă artefacte digitale sau vizuale pe care un computer le poate detecta.
Pe de altă parte, tehnologiile de sincronizare a buzelor sunt mai puțin vizibile și, prin urmare, mai dificil de detectat. Acestea manipulează o porțiune mult mai mică a imaginii și apoi sintetizează mișcările buzelor care se potrivesc exact cu modul în care gura unei persoane s-ar mișca de fapt dacă ar spune anumite cuvinte. Potrivit Agrawal, având în vedere suficiente mostre de imagine și voce a unei persoane, un producător fals poate face o persoană să „spună” orice.
Detectarea contrafacerilor
Preocupat de utilizarea neetică a unei astfel de tehnologii, Agrawala a lucrat cu Ohad Freed, doctorand la Stanford, pentru a dezvolta un instrument de detectare; Hani Farid, profesor la Universitatea din California, Berkeley School of Information; și Shruti Agarwal, doctorand la Berkeley.
La început, cercetătorii au experimentat cu o tehnică pur manuală în care observatorii au studiat imagini video. A funcționat bine, dar în practică a consumat multă muncă și a consumat mult timp.
Cercetătorii au testat apoi o rețea neuronală bazată pe inteligență artificială care ar fi mult mai rapidă să facă aceeași analiză după antrenamentele video cu fostul președinte Barack Obama. Rețeaua neuronală a detectat mai mult de 90 la sută din sincronizarea buzelor lui Obama, deși precizia pentru alți vorbitori a scăzut la aproximativ 81 la sută.
Un adevărat test al adevărului
Cercetătorii spun că abordarea lor este doar o parte a jocului pisică și șoarece. Pe măsură ce tehnicile de falsificare profundă se îmbunătățesc, acestea vor lăsa și mai puține chei.
În cele din urmă, spune Agrawala, adevărata problemă nu este atât combaterea videoclipurilor profund false, cât combaterea dezinformării. De fapt, remarcă el, o mare parte din dezinformare provine din denaturarea sensului a ceea ce oamenii au spus de fapt.
„Pentru a reduce dezinformarea, trebuie să îmbunătățim alfabetizarea media și să dezvoltăm sisteme de responsabilitate”, spune el. „Acest lucru poate însemna legi care interzic producerea deliberată de dezinformare și consecințele încălcării acestora, precum și mecanisme de eliminare a prejudiciului rezultat”.
Recomandat:
Cum ar arăta Marilyn Monroe, Elvis și alții la bătrânețe: inteligența artificială a îmbătrânit idoli care au plecat devreme
Marilyn Monroe se temea foarte mult de bătrânețe, dar nici moartea la 36 de ani nu a salvat-o de această perspectivă. Un jurnalist a decis, de dragul interesului, să vadă cum ar fi arătat vedetele lumii care au părăsit această lume la o vârstă fragedă dacă ar fi supraviețuit până în prezent. Folosind un program de calculator simplu, a îmbătrânit nu numai pe Marilyn, ci și pe alți actori și muzicieni iconici și a postat rezultatul experimentului său pe Instagram
Inteligența artificială a „reînviat” eroii unor picturi, desene animate și președinți celebri din bancnote
Un grafician a decis să folosească tehnologia modernă pentru a vedea cum ar putea arăta personajele unor mari pânze, precum și alți eroi desenați, dacă ar prinde brusc viață și ar lăsa imagini, ecrane de televiziune, bancnote … Numele acestui experimentator este Nathan Shipley și locuiește în San Francisco. Rezultatele muncii artistului, sau mai bine zis, inteligența artificială controlată de acesta, sunt impresionante. Mona Lisa, personaje ale desene animate populare, politice
Pictură de inteligență artificială vândută la licitație pentru prima dată
La ultima licitație a casei de licitații Christie ʼ în lista loturilor a decis să includă un tablou cu titlul „Portretul lui Edmond de Belamy”. Particularitatea sa constă în faptul că nu a fost creată de un mare artist, ci este o creație de inteligență artificială
S é Bastien Preschoux și rețeaua sa artificială
Intrând în natură, designerul grafic și artistul francez S é bastien Preschoux ia întotdeauna cu el o scindă de fir și, în timp ce ceilalți se odihnesc, el se aruncă în creativitate, creând o altă instalație din seria [hu] Man vs Machine
O ramură a Luvrului va fi construită pe insula artificială până la sfârșitul anului
Un muzeu geamăn al Luvrului francez se va deschide în capitala Emiratelor Arabe Unite, Abu Dhabi, până la sfârșitul anului 2019. În realitate, noul muzeu nu va semăna mult cu Luvrul francez și ar deveni mai degrabă o ramură a acestuia decât o copie. Proiectul a început în 2013. Costul total al proiectului este estimat la 653 milioane USD. Suprafața complexului muzeal, împreună cu toate teritoriile adiacente, va fi de 64 de mii de metri pătrați