"Is die foto echt?" - hoe bronauthenticatie onze samenleving kan beschermen in het AI-tijdperk

Verificatie als topprioriteit

Het is niet moeilijk voor te stellen dat dingen die met AI zijn gemaakt, ook door mensen met minder nobele doelen kunnen worden gebruikt. Dat zien we nu al: de toenemende aanwezigheid van AI leidt tot meer misleidende inhoud en fraude. Is die foto ‘echt’? Is de persoon die dit identiteitsbewijs vasthoudt een ‘echte’ persoon? Onszelf beschermen tegen manipulatie en fraude moet een topprioriteit zijn. We moeten kunnen bepalen of informatie die wordt gebruikt voor identificatie en authenticatie (laten we het ‘verificatie’ noemen) echt is.

Iedere dag doorlopen we één of meerdere keren een verificatieproces om toegang te krijgen. Denk maar aan je telefoongebruik, inloggen op je werk en mobiel of internetbankieren. Het is essentieel dat we kunnen vertrouwen op een solide identificatie- en authenticatieproces. Anders kan het risico op overname van onze (online) identiteit leiden tot misbruik en andere criminele activiteiten.

Van bankoverval naar online criminaliteit

Dat criminelen uit zijn op geld, is al zo oud als de wereld. De bankovervallen uit de 19e en 20e eeuw behoren echter tot het verleden en zijn vervangen door digitale en online criminaliteit. Generatieve AI en deepfakes richten nu de schade aan. Zie bijvoorbeeld het bericht van CNN op 4 februari 2024: Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’. Het huidige criminele gebruik van generatieve AI en deepfakes is nog maar het begin. We wéten dat dit ook zijn weg zal vinden naar andere delen van de samenleving.

Pogingen om identiteiten in andere sectoren te misbruiken of over te nemen, zullen ook leiden tot criminele activiteiten gericht op financiële diensten. Om nog maar te zwijgen van de mogelijke gevolgen voor vrije en democratische samenlevingen. Zie bijvoorbeeld het bericht van CNN van 23 mei 2023: ‘Verified’ Twitter accounts share fake image of ‘explosion’ near Pentagon, causing confusion.

In de tussentijd worden digitale technieken en producten (zoals de Electronic Identification and Trust Services and the 'European Digital Identity Wallet' (EUDIW) als onderdeel van eIDAS 2.0) geïmplementeerd. Daarom is een succesvolle aanpak van dit opkomende probleem nodig. Onder meer door authenticiteit van informatie, documentatie, in het algemeen content te beschermen. Daar moeten we samen aan werken. Wanneer overheid, financiële partners, grote technologiebedrijven en andere relevante partijen zich hier allemaal achter scharen en hun verantwoordelijkheid nemen, is een snelle en toch zorgvuldige oplossing mogelijk. Europa kan en moet hierin een cruciale rol spelen.

De oplossing? Bronauthenticatie

Initiatieven die een mogelijke oplossing bieden voor het geschetste probleem zijn er al. De Coalition for Content Provenance and Authenticity (C2PA) ontwikkelt bijvoorbeeld normen om de herkomst van media-inhoud en bewerkingen van digitale inhoud te verifiëren om online desinformatie tegen te gaan. Deze C2PA coalitie bestaat uit precies het brede scala aan organisaties dat nodig is, waaronder mediapartners. Inclusief de grote tech- en platformeigenaren. Deze bottom-up-benadering is zeer welkom, aangezien het belangrijk is dat een norm breed wordt gedragen en snel kan worden toegepast.

Maar wat moeten we nu precies dóen, vraag je je als lezer nu waarschijnlijk af . Het antwoord op die vraag: bronauthenticatie (‘provenance') toepassen. Met deze techniek kunnen we maker en herkomst van content verifiëren. Aan de hand van unieke kenmerken die veilig door het besturingssysteem worden verstrekt kan allereerst een camera worden geauthenticeerd, vergelijkbaar met hoe we dat nu ook kennen van websites. Vervolgens kunnen we ook de output van de camera voorzien van authenticiteitskenmerken. Met deze digitale handtekening kunnen ontvangers verifiëren dat foto's of video's echt en ongewijzigd zijn.

Dergelijke autenticatie-technieken helpen ook om man-in-the-middle- of live deepfake-manipulatie te voorkomen. Zo kan je vaststellen dat de videostream rechtstreeks van de bron komt zonder manipulatie. Dat kan overigens met aandacht voor privacy: bronauthenticatie hoeft niet traceerbaar te zijn tot persoonsniveau. Bronauthenticatie op apparaatsniveau is voldoende.

Dit soort toepassingen zijn nieuw, maar het idee zelf is niet geheel nieuw. De muziek- en filmindustrie heeft veel ervaring met digitaal rechtenbeheer voor de bescherming van intellectueel eigendom. Het duurde even voordat het van de grond kwam, maar inmiddels heeft het zijn waarde bewezen. Onze belangen zijn hierin niet commercieel en ons doel reikt verder: we willen de betrouwbaarheid en de geloofwaardigheid van de content (zoals documenten, audio, foto's en video) zélf beschermen. Zodat wanneer iemand knoeit met het document of de informatie, dit zichtbaar wordt en de gemanipuleerde content zijn waarde direct verliest.

Rat race voorkomen

Ook wetgevers hebben al bij stil gestaan bij deze uitdaging. De Europese AI-wet schrijft voor dat AI-systemen die worden gebruikt om content te creëren (waaronder deepfakes), duidelijk moeten vermelden dat inhoud kunstmatig is gegenereerd. Ook de Amerikaanse Content Origin Protection and Integrity from Edited and Deepfake Media Act schrijft voor dat alle door AI gegenereerde inhoud duidelijk moet vermelden dat deze kunstmatig is, om desinformatie te voorkomen. Deze 'COPIED’ Act is ook op een andere manier relevant. De wet heeft als doel journalisten, kunstenaars en muzikanten controle te geven over hun content. Daarom verbiedt het knoeien met of uitschakelen van ‘AI-provenance’. Een gezamenlijke aanpak gericht op bronverificatie kan dus ook een middel zijn om de originele inhoud van makers te beschermen.

Om een rat race om authentieke content te kunnen onderscheiden van misleidende of kwaadaardige content te voorkomen, stellen wij voor om generiek bronauthenticatie te implementeren voor alle contentgenererende systemen (dus niet alleen voor AI systemen). Juist omdat criminelen zich per definitie niet houden aan wet- en regelgeving. Dat vereist samenwerking tussen alle betrokken partijen. Het is goed om te zien dat de basis hiervoor is gelegd. Laten we onze krachten bundelen en gezamenlijk een begin maken met implementeren van bron authenticatie!

Position Paper NVB

Deze blog is gebaseerd op de reactie die de Nederlandse Vereniging van Banken heeft gegeven op de openbare raadpleging van de Europese Commissie, Public consultation on transparency requirements for certain AI systems. Daarnaast is er een position paper over bron authenticatie gepubliceerd.

Lees ook: