Această mișcare vine ca răspuns la îngrijorările tot mai mari legate de potențialul utilizării conținutului generat de AI pentru a interfera cu alegerile din SUA din acest an. TikTok se afla deja printre cele 20 de companii de tehnologie care la începutul anului au semnat un acord prin care se angajau să lupte împotriva dezinformării generate de AI.

Compania etichetează deja conținutul generat de AI creat folosind instrumente integrate în aplicație, dar noua măsură va extinde etichetarea și la videoclipurile și imaginile generate în afara platformei.

 ”Avem, de asemenea, politici care interzic AI realist care nu este etichetat, aşa că dacă pe platformă apare AI realist (conţinut generat), atunci vom elimina acest conținut ca încălcare a regulilor comunităţii”, a afirmat Adam Presser, şeful pentru operaţiuni, încredere şi siguranţă la TikTok, într-un interviu.

Tehnologia "Content Credentials" a fost dezvoltată de Coalition for Content Provenance and Authenticity, un grup co-fondat de Adobe, Microsoft și alte companii, dar este deschisă și altor companii. Standardul a fost deja adoptat de creatorul ChatGPT, OpenAI.

YouTube, deținut de Google, precum și Meta Platforms, care deține Instagram și Facebook, au anunțat de asemenea că intenționează să utilizeze acreditările de conținut.

Pentru ca sistemul să funcționeze, atât producătorul instrumentului AI generativ utilizat pentru a crea conținutul, cât și platforma pe care este distribuit conținutul trebuie să fie de acord să utilizeze standardul din industrie.

De exemplu, când o persoană utilizează instrumentul Dall-E al OpenAI pentru a genera o imagine, OpenAI atașează un filigran la imaginea rezultată și adaugă date în fișier care pot indica ulterior dacă a fost modificată. Dacă acea imagine marcată este apoi încărcată pe TikTok, va fi etichetată automat ca fiind generată de AI.

TikTok, deținută de compania chineză ByteDance, are 170 de milioane de utilizatori în SUA. Recent, SUA a adoptat o lege care obligă ByteDance să cedeze TikTok sau să se confrunte cu o interdicție. TikTok și ByteDance au contestat legea în instanță, argumentând că aceasta încalcă primul amendament al Constituției.