Google zoekt authenticiteit in het tijdperk van kunstmatige intelligentie met zijn nieuwe inhoudsclassificatiesysteem

Op dinsdag, Google Aangekondigde plannen Het implementeren van contentauthenticatietechnologie in zijn producten om gebruikers te helpen onderscheid te maken tussen door mensen gegenereerde afbeeldingen en door AI gegenereerde afbeeldingen. De komende maanden zal de technologiegigant de Content Provenance and Authenticity Alliance (C2PA)-standaard, een systeem dat is ontworpen om de oorsprong en bewerkte geschiedenis van digitale inhoud te volgen, integreren in zijn zoekdiensten, advertenties en mogelijk YouTube. Het is echter een open vraag of een technologische oplossing dit probleem kan oplossen Een oud maatschappelijk vraagstuk Van vertrouwen in opgenomen media geproduceerd door vreemden.

A groep In 2019 heeft een groep technologiebedrijven het C2PA-systeem gecreëerd in een poging misleidende en nep-synthetische media online te bestrijden. Naarmate door AI gegenereerde inhoud steeds wijdverbreider en realistischer wordt, maken experts zich zorgen dat het voor gebruikers moeilijk kan zijn om de authenticiteit van de beelden die ze tegenkomen te bepalen. De C2PA-standaard creëert een digitaal spoor van inhoud, ondersteund door online ondertekeningsautoriteiten, dat beschrijvende informatie bevat over waar afbeeldingen vandaan komen en hoe ze zijn aangepast.

Google zal deze C2PA-standaard integreren in zijn zoekresultaten, waardoor gebruikers kunnen zien of een afbeelding is gemaakt of bewerkt met behulp van AI-tools. De functie Over deze afbeelding in Google Zoeken, Lens en Circle to Search geeft deze informatie weer wanneer deze beschikbaar is.

In een blogpost erkende Lori Richardson, vice-president van vertrouwen en beveiliging bij Google, de complexiteit van het identificeren van de bron van inhoud op verschillende platforms. “Het sourcen en refereren van content blijft een complexe uitdaging, met een reeks overwegingen op basis van het product of de dienst. Hoewel we erkennen dat er geen wondermiddel bestaat voor alle online content, is samenwerken met anderen in de branche van cruciaal belang voor het creëren van duurzame en interoperabele oplossingen. ”, zei ze.

Het bedrijf is van plan de nieuwste technische C2PA-standaarden te gebruiken, Versie 2.1waarvan wordt gezegd dat het verbeterde beveiliging biedt tegen manipulatie-aanvallen. Het gebruik ervan zal verder reiken dan alleen zoeken, aangezien Google van plan is C2PA-metagegevens in zijn advertentiesystemen te integreren als een middel om ‘belangrijk beleid af te dwingen’. Mogelijk ziet YouTube in de toekomst ook C2PA-informatie opgenomen voor met camera’s vastgelegde inhoud.

Google zegt dat het nieuwe initiatief in lijn is met zijn andere inspanningen op het gebied van AI-transparantie, waaronder de ontwikkeling van… Samengestelde IDeen ingebouwde watermerktechnologie gemaakt door Google DeepMind.

De effectiviteit van C2PA op grote schaal is nog steeds slechts een droom

Ondanks dat de geschiedenis al minstens vijf jaar teruggaat, is de weg naar bruikbare contentbrontechnologie zoals C2PA buitengewoon lastig. De technologie is volledig vrijwillig en belangrijke authenticatie-metagegevens kunnen eenvoudig uit afbeeldingen worden verwijderd zodra ze zijn toegevoegd.

Door AI aangedreven beeldgeneratoren zullen de standaard moeten ondersteunen van het opnemen van C2PA-informatie in elk gegenereerd bestand, wat waarschijnlijk open source beeldsynthesemodellen zoals Flux zou verhinderen. Dus misschien zullen in de praktijk ‘meer authentieke’ door camera’s geschreven media worden gelabeld met C2PA in vergelijking met door AI gegenereerde beelden.

Bovendien vereist het onderhouden van metadata een complete toolchain die C2PA bij elke stap ondersteunt, inclusief de bron en alle software die wordt gebruikt om de afbeeldingen te bewerken of te retoucheren. Momenteel ondersteunen slechts enkele camerafabrikanten, zoals Leica, de C2PA-standaard. Nikon en Canon hebben beloofd het over te nemen, maar The Verge Rapporten Er bestaat nog steeds onzekerheid over de vraag of Apple en Google C2PA-ondersteuning op hun smartphones zullen implementeren.

Adobe’s Photoshop en Lightroom kunnen C2PA-gegevens toevoegen en onderhouden, maar veel andere populaire bewerkingstools bieden deze mogelijkheid nog niet. Er is alleen een incompatibele afbeeldingseditor in de serie nodig om het volledige voordeel van C2PA te benutten. Het algemene gebrek aan uniforme weergaven van C2PA-gegevens op onlineplatforms vormt een ander obstakel om de standaard bruikbaar te maken voor gewone gebruikers.

Voorlopig kan C2PA worden beschouwd als een technische oplossing voor de huidige vertrouwensproblemen met betrekking tot nepafbeeldingen. In die zin kan C2PA een van de vele instrumenten worden die worden gebruikt om de authenticiteit van inhoud te verifiëren door te bepalen of informatie afkomstig is van een betrouwbare bron – als C2PA-metadata behouden blijft – maar het is onwaarschijnlijk dat het een volledige oplossing zal zijn voor de desinformatie die wordt gegenereerd door kunstmatige intelligentie. alleen.