Het techbedrijf OpenAI gaat teksten uit ChatGPT voorzien van een onzichtbaar digitaal watermerk. Met deze ingreep wil de organisatie de echtheid van online content beter controleerbaar maken. De nieuwe technologie wordt als eerste uitgerold voor gebruikers binnen de Europese Unie.
Herkenning via woordkeuze
Het zogenaamde watermerk is voor het menselijk oog volledig onzichtbaar. Er verschijnt dus geen stempel of logo op het scherm. In plaats daarvan past het AI-model de woordkeuzes op een specifieke, wiskundige manier aan. Een speciale detector kan deze patronen vervolgens herkennen. Voorlopig hebben alleen geselecteerde onderzoekers en expertorganisaties toegang tot deze controlesoftware.
Volgens de makers is het systeem robuust, maar kent het ook nog beperkingen. Bij zeer korte teksten of documenten die achteraf flink zijn bewerkt, heeft de software moeite om de herkomst betrouwbaar vast te stellen.
Europese regels voor AI
Met de introductie van het watermerk loopt het bedrijf vooruit op strenge Europese wetgeving rondom kunstmatige intelligentie. Deze regels verplichten techbedrijven om transparant te zijn over de content die hun systemen genereren. Concurrent Anthropic, de maker van chatbot Claude, voerde om diezelfde reden al eerder een wereldwijd herkenningsteken in.
Tech-expert Bert Hubert ziet de stap vooral als een strategische zet. Bedrijven willen niet achterblijven bij de concurrentie. Volgens Hubert hoeven consumenten niet bang te zijn dat ze straks geen AI-hulpmiddelen meer mogen gebruiken. De wetgeving eist vooral duidelijkheid in situaties waarin misleiding op de loer ligt.
Wapen tegen online fraude
De technologie komt op een moment dat de discussie over nepnieuws en online oplichting hoog oplaait. Het herkennen van computergestuurde teksten kan een belangrijk wapen worden in de strijd tegen criminaliteit.
Hubert legt uit dat de innovatie met name bij fraudezaken grote diensten kan bewijzen. Denk hierbij aan geraffineerde phishingmails die uit naam van een energiebedrijf of bank worden verstuurd. Als een mailsysteem dankzij het ingebouwde kenmerk direct kan waarschuwen dat een bericht automatisch is gegenereerd, voorkomt dat een hoop ellende. De lat voor digitale oplichters komt hiermee een flink stuk hoger te liggen.