OpenAI heeft nieuwe tools ontwikkeld om onderzoekers te helpen de authenticiteit van online content te bestuderen. Daarnaast sluit OpenAI zich aan bij de Coalition for Content Provenance and Authenticity (C2PA) Steering Committee.
Oppassen geblazen... altijd je huiswerk even in Notepad plakken en dan pas opslaan en inleveren ;)
De bullet-points
Onderzoek naar tekstoplossingen:
Prioriteit ligt bij audiovisuele content vanwege de hogere risico's.
Uitgebreid onderzoek naar tekstauthenticiteit met oplossingen zoals classifiers, watermerken en metadata.
Watermerken zijn nauwkeurig maar kunnen worden omzeild; metadata biedt een meer robuuste oplossing zonder valse positieven.
Uitbreiding beeldherkenningstools:
Integratie van C2PA-metadata in DALL-E 3 bewerkte afbeeldingen om transparantie te waarborgen.
Elke wijziging in een afbeelding wordt geregistreerd, waardoor de hele geschiedenis van de afbeelding zichtbaar blijft.
Bijdrage aan authenticiteitsnormen:
OpenAI ondersteunt de ontwikkeling van gemeenschappelijke standaarden zoals C2PA, die helpen verduidelijken hoe digitale content is gemaakt en waar het vandaan komt. Dit helpt vertrouwen op te bouwen in een tijd waarin gegenereerde audiovisuele content steeds gebruikelijker wordt.
Nieuwe tools om content te identificeren:
OpenAI ontwikkelt tamper-resistente watermerken en detectieclassifiers om de integriteit van digitale content te verbeteren. Een nieuwe classifier voor het detecteren van DALL-E 3 beelden wordt nu getest door geselecteerde onderzoeksgroepen.
De toekomst van contentauthenticatie:
Effectieve contentauthenticatie vereist samenwerking tussen platforms, contentmakers en gebruikers. OpenAI zet zich in om samen met andere onderzoekslabs en AI-bedrijven de transparantie van online content te bevorderen.
Comments