TikTok gaat door AI gegenereerde externe content van waarschuwingslabel voorzien

TikTok gaat video's en afbeeldingen markeren die door kunstmatige intelligentie zijn gemaakt. Het sociale netwerk voegt daar een watermerk aan toe. Dat gold al voor AI-content die in TikTok werd gemaakt, maar gaat nu ook gelden voor content van buiten de app.

TikTok zegt dat het aanvankelijk watermerken wil gaan toevoegen aan afbeeldingen en video's die naar TikTok worden geüpload. In de toekomst komt dat watermerk er ook voor audiocontent. Dat watermerk blijft ook in afbeeldingen en video's staan als gebruikers die downloaden uit de app, zodat ook nieuwe gebruikers op andere sociale netwerken kunnen zien dat het gaat om kunstmatig gegenereerde content als een gebruiker dat deelt.

Dat proces gebeurt via Content Credentials, een standaard die is opgezet door de Coalition for Content Provenance and Authenticity. Deze C2PA is een samenwerkingsverband van tientallen techbedrijven, waaronder Adobe, Google, Microsoft en OpenAI. De coalitie onderhoudt de Content Credentials-standaard. Bedrijven die generatieve-AI-diensten aanbieden, zoals Adobe in Photoshop of OpenAI in ChatGPT, hebben dit standaard geïmplementeerd. Als een gebruiker vervolgens een afbeelding of video genereert, wordt er automatisch metadata aan toegevoegd, naast een watermerk.

Als TikTok vervolgens content ziet waaraan zulke metadata is toegevoegd, toont het dat label. Gebruikers kunnen daarop klikken om de metadata te zien en meer te weten te komen over waar de afbeelding vandaan komt.

TikTok is het eerste grote sociale netwerk dat de standaard op deze manier gaat implementeren. Het bedrijf waarschuwt daarom dat aanvankelijk nog niet veel content zal verschijnen waarop het watermerk te zien is, omdat ook veel generatieve-AI-diensten de standaard nog niet volledig hebben geïmplementeerd.

TikTok geeft geen expliciete reden waarom het nu begint met dergelijke content. Wel is duidelijk dat sociale media onder druk staan van beleidsmakers om harder op te treden tegen AI-content op hun platformen. Veel beleidsmakers en experts vrezen dat er nepnieuws en desinformatie worden verspreid in aanloop naar de Europese verkiezingen volgende maand en de Amerikaanse presidentsverkiezingen in november. Dat kan worden versterkt door AI.