Un mic ghid de detectare a deepfake-urilor

Pentru că acum (la ei!) totul e centrat pe AI, Microsoft vrea să ne arate că are grijă de oameni în general (că știm că pe angajați vrea să îi înlocuiască cu AI-ul cât mai repede) și a făcut o organizație denumită Coalition for Content Provenance and Authenticity (C2PA) al cărui scop este să pună bazele unor standarde prin care sursa materialelor audio/video/poze ce circulă pe internet să poată fi verificată, iar odată cu asta ne dă și un mic ghid de detectare a deepfake-urilor.

Nu cred că mai e cazul să spun ce e un deepfake: o poză (material video) manipulată cu AI în așa fel încât să dea impresia că este ceva legitim. Dacă până acum imaginile similare generate în Photoshop nu erau așa de periculoase pentru că era destul de greu de făcut la perfecție, odată cu proliferarea instrumentelor AI situația a scăpat de sub control și în contextul în care unii cred orice prostie citită pe Internet, treaba devine periculoasă.

Revenind la ideea inițială: în foarte scurt timp o să fim bombardați de conținut deepfake, fie că e imagine/sunet/poză sau text și va fi din ce în ce mai greu să ne dăm seama dacă e adevărat sau nu. De asta începe să avanseze ideea unor standarde care să certifice că anumite poze/filme au fost capturate cu anumite aparate, ceea ce ar face sura de încredere și imaginile/filmele reale. Să zicem ceva similar cu certificatele digitale asociate site-urilor sau driver-elor din Windows, băgate în conținut sub forma unor informații meta. Pentru asta Microsoft oferă Content Integrity Check și o extensie de browser cu care materialele să fie verificate și pentru început direcția principală este protejarea proceselor democratice (în special alegerile) de manipulare prin deepfake.

Sună bine ceea ce vrea să facă Microsoft, doar că atâta vreme cât există specialiști în orice și băieți precum Elon Musk care și-au luat platforme prin care să răspândească mizerii fake sub pretextul jurnalismului modern, dictat de populație și de bravii cetățeni, treaba asta e departe de a putea fi reparată.

Unele deepfake-uri sunt ușor de identificat, altele mai greu, depinde de experiența și cunoștințele fiecăruia dintre noi. De asta Microsoft ne dă și câteva sfaturi cu care să încercăm măcar să filtrăm informațiile în ideea că am putea detecta conținutul deepfake.

1. Ar fi bine să vedem de unde provine imaginea/filmul/înregistrarea audio/textul
   E primul pas: să zicem că ar fi bine să punem la îndoială orice vine de la diverși oameni/site-uri, demascați ca fiind sursă de fake-uri. Folosiți opțiunile de căutare din Visual Search ca să aveți o idee despre origine. Fără o sursă clară, fiți siguri că e vorba de un deepfake.
2. Analizați intenția…