AI versus authenticiteit: de groeiende behoefte aan herkomst in digitale inhoud

Hoe bedrijven reageren op de opkomst van AI-inhoud

Vanwege deze problemen werken grote technologiebedrijven aan manieren om de authenticiteit en herkomst van media te verbeteren. Als onderdeel van zijn jaarlijkse Build-conferentie kondigde Microsoft aan dat zijn Bing Image Creator- en Designer-tools nu nieuwe functies voor mediaherkomst zouden hebben.

Gebruikers kunnen controleren of foto’s of video’s door AI zijn gemaakt met behulp van cryptografische methoden die informatie bevatten over waar de inhoud vandaan komt.

Maar om dit systeem te laten werken, moeten verschillende platforms instemmen met de specificatie van de Coalition for Content Provenance and Authenticity (C2PA).

Evenzo heeft Meta een tool uitgebracht met de naam Meta Video Seal die onzichtbare watermerken kan toevoegen aan videoclips die door AI zijn gemaakt.

Deze open-source tool is bedoeld om zonder problemen met bestaande software te werken, waardoor het gemakkelijker wordt om inhoud te vinden die door AI is gemaakt.

Video Seal belooft bestand te zijn tegen veelvoorkomende bewerkingen zoals vervagen en bijsnijden, in tegenstelling tot oudere watermerktechnologieën die moeite hadden met videocompressie en -manipulatie.

Problemen en beperkingen

Zelfs met deze verbeteringen zijn er nog steeds problemen om veel mensen deze technologieën te laten gebruiken. Veel ontwikkelaars kunnen aarzelen om over te stappen van bestaande propriëtaire oplossingen naar open-source-opties zoals Video Seal.

Meta is van plan workshops te houden op grote AI-conferenties en een openbaar klassement te maken dat verschillende watermerkmethoden vergelijkt om meer mensen samen te laten werken.

Ook zijn de watermerkmethoden die we nu hebben niet altijd sterk of effectief genoeg als het gaat om video-inhoud.

Twee belangrijke benaderingen om door AI gegenereerde inhoud te bestrijden

In de strijd tegen door AI gegenereerde inhoud zijn twee verschillende strategieën naar voren gekomen:

1. Watermerken (preventieve aanpak):

• Werkt door onzichtbare handtekeningen toe te voegen aan inhoud op het moment van creatie
• Werkt als een digitaal certificaat dat laat zien “dit is gemaakt door AI”
• Tools zoals Meta Video Seal en de herkomstfuncties van Microsoft vertegenwoordigen deze aanpak
• Het belangrijkste voordeel is de onmiddellijke identificatie van AI-inhoud

2. Detectietools (analytische benadering):

• Analyseert bestaande inhoud om te bepalen of deze door AI is gegenereerd
• Zoekt naar patronen en kenmerken die typerend zijn voor door AI gemaakte inhoud
• Vooral handig voor inhoud die niet is gemarkeerd bij het maken
• Deze tools vormen onze tweede verdedigingslinie

Beide benaderingen zijn nodig omdat ze elkaar aanvullen: watermerken voorkomen misbruik, terwijl detectietools helpen bij het identificeren van ongemarkeerde inhoud.

Detectietools en -technologieën

AI-gegenereerde inhoud is op meer manieren te vinden dan alleen watermerktechnologieën. Nieuwe detectietools gebruiken complexe algoritmen om zowel tekst- als afbeeldingsinhoud te bekijken.

• Originaliteit, deep learning-algoritmen worden door AI gebruikt om patronen te vinden in tekst die door AI is gegenereerd.
• GPTZero kijkt naar taalstructuren en woordfrequenties om het verschil te zien tussen inhoud die door mensen is geschreven en inhoud die door machines is gemaakt.
• CopyLeaks gebruikt N-grammen en syntaxisvergelijkingen om kleine veranderingen in taal te vinden die tekenen kunnen zijn van AI-auteurschap.

Deze tools worden verondersteld gebruikers een nauwkeurige mening te geven over hoe echte inhoud is, maar hoe goed ze werken, kan sterk variëren.

Concluderend

Naarmate generatieve AI vordert, wordt het beschermen van digitale authenticiteit steeds belangrijker. Microsoft en Meta lopen voorop met baanbrekende normen voor de authenticiteit van inhoud en verificatie van de herkomst van media.

Om deepfakes effectief te bestrijden, hebben we zowel een industriebrede acceptatie van deze tools als een sterkere samenwerking tussen technologiebedrijven nodig. De toekomstige integriteit van digitale inhoud hangt af van detectietechnologieën die sneller evolueren dan door AI gegenereerde misleiding.

We hebben onlangs zelfs besproken hoe YouTube soortgelijke stappen zet door nieuwe AI-detectietools voor videomakers en merken te introduceren. Hun aanpak omvat synthetische spraakidentificatie en door AI gegenereerde gezichtsherkenningstechnologieën, wat verder aantoont hoe grote platforms werken aan het beschermen van de authenticiteit van inhoud in het AI-tijdperk.