De face-changing tool van Google Pixel leidt tot controverse over AI-manipulatie

De camera liegt nooit. Alleen gebeurt het natuurlijk wel, en het lijkt elke dag vaker te gebeuren.

In het tijdperk van smartphones zijn snelle digitale aanpassingen om afbeeldingen te verbeteren gemeengoed geworden, van het verbeteren van kleuren tot het aanpassen van lichtniveaus.

Nu draagt ​​een nieuwe generatie smartphonetools, aangedreven door kunstmatige intelligentie (AI), bij aan het debat over wat het betekent om de realiteit te fotograferen.

De nieuwste smartphones van Google die vorige week zijn uitgebracht, de Pixel 8 en Pixel 8 Pro, gaan een stapje verder dan de toestellen van andere bedrijven. Ze gebruiken kunstmatige intelligentie om de uitdrukkingen van mensen op foto’s te helpen veranderen.

Het is een ervaring die we allemaal hebben gehad: er is één persoon in een groepsfoto die wegkijkt van de camera of niet glimlacht. Google-telefoons kunnen nu door uw foto’s zoeken om eerdere uitdrukkingen te combineren en matchen, waarbij machine learning wordt gebruikt om een ​​smiley te tekenen van een andere afbeelding ervan op een foto. Google noemt het Best Take.

Met de apparaten kunnen gebruikers ook ongewenste elementen in een afbeelding – van mensen tot gebouwen – wissen, verplaatsen en vergroten of verkleinen, waardoor de resterende ruimte wordt ‘gevuld’ met een zogenaamde Magic Editor. Dit maakt gebruik van wat bekend staat als deep learning, een krachtig algoritme voor kunstmatige intelligentie dat bepaalt welke texturen een leemte moeten opvullen door de omringende pixels te analyseren die het kan zien, met behulp van kennis die het heeft verkregen uit miljoenen andere afbeeldingen.

De foto’s hoeven niet op het apparaat te worden gemaakt. Met de Pixel 8 Pro kun je een zogenaamde Magic Editor of Best Take toepassen op alle foto’s in je Google Foto’s-bibliotheek.

Voor sommige waarnemers roept dit nieuwe vragen op over de manier waarop de beelden worden gemaakt.

Andrew Pearsall, een professionele fotograaf en hoofddocent journalistiek aan de Universiteit van Zuid-Wales, is het ermee eens dat het manipuleren van kunstmatige intelligentie risico’s met zich meebrengt.

“Eenvoudige manipulatie, zelfs om esthetische redenen, kan ons op een duister pad leiden”, zei hij.

Hij zei dat de risico’s groter zijn voor degenen die AI in een professionele context gebruiken, maar dat er implicaties zijn waar iedereen rekening mee moet houden.

“Je moet heel voorzichtig zijn met de vraag: ‘Wanneer ga je over de grens?'”

“Het is heel verontrustend nu je een foto kunt maken en meteen iets van je telefoon kunt verwijderen. Ik denk dat we in een soort nepwereld terechtkomen.”

Isaac Reynolds van Google, die leiding geeft aan het team dat camerasystemen op de smartphones van het bedrijf ontwikkelt, zei tegen de BBC dat het bedrijf ethische overwegingen met betrekking tot zijn consumententechnologie serieus neemt.

Hij wees er snel op dat functies als Best Take niets “nep” waren.

Camera- en softwarekwaliteit zijn van cruciaal belang voor een bedrijf dat concurreert met Samsung, Apple en anderen, en deze AI-functies worden gezien als een uniek verkoopargument.

Alle recensenten die hun zorgen over de technologie uitten, prezen de beeldkwaliteit van het camerasysteem.

“Je kunt eindelijk die foto maken waarop iedereen eruitziet zoals jij wilt dat ze eruit zien, en dat is iets wat je al een tijdje niet meer hebt kunnen doen op een smartphonecamera, of op welke camera dan ook,” zei Reynolds.

‘Als er een kopie is [of the photo you’ve taken] Waar deze persoon lacht, zal ik je laten zien. “Maar als er geen versie is waarin ze glimlachen, dan zul je die ook niet zien”, legde hij uit.

Voor de heer Reynolds wordt het uiteindelijke beeld ‘een weergave van het moment’. Met andere woorden: dat specifieke moment is misschien niet gebeurd, maar het is het beeld dat je wilde laten gebeuren dat is ontstaan ​​uit meerdere echte momenten.

Professor Rafal Mantioc, een expert op het gebied van graphics en displays aan de Universiteit van Cambridge, zei dat het belangrijk is om te onthouden dat het gebruik van kunstmatige intelligentie in smartphones niet bedoeld is om afbeeldingen er echt uit te laten zien.

‘Mensen willen de werkelijkheid niet vastleggen’, zei hij. “Ze willen mooie foto’s maken. De hele beeldverwerkingspijplijn in smartphones is gericht op het produceren van mooie foto’s – geen echte foto’s.”

De fysieke beperkingen van smartphones zorgen ervoor dat ze afhankelijk zijn van machinaal leren om informatie ‘in te vullen’ die niet in beeld is.

Dit helpt het zoomen te verbeteren, foto’s bij weinig licht te verbeteren en, in het geval van de Magic Editor-functie van Google, elementen toe te voegen aan foto’s die er nooit waren of elementen uit andere foto’s uit te wisselen, zoals het vervangen van een frons door een glimlach.

Beeldmanipulatie is niets nieuws, het is zo oud als de kunstvorm zelf. Maar dankzij AI is het nog nooit zo eenvoudig geweest om echt op te schalen.

Eerder dit jaar Er is kritiek op Samsung Voor de manier waarop het deep learning-algoritmen gebruikte om de kwaliteit te verbeteren van foto’s die met zijn smartphones van de maan zijn gemaakt. Uit tests bleek dat, hoe slecht de foto die u in eerste instantie maakte ook was, deze u altijd een bruikbare foto opleverde.

Met andere woorden: uw foto van de maan was niet noodzakelijkerwijs een foto van de maan waar u naar keek.

Het bedrijf erkende de kritiek en zei dat het eraan werkte “elke mogelijke verwarring te verminderen die zou kunnen optreden tussen het maken van een foto van de echte maan en een foto van de maan.”

Over de nieuwe technologie van Google zegt Reynolds dat het bedrijf metadata aan zijn foto’s toevoegt (de digitale vingerafdruk van de afbeelding) met behulp van een industriestandaard om aan te geven wanneer AI is gebruikt.

“Het is een vraag waar we intern over praten. En we hebben er uitgebreid over gesproken. Omdat we hier al jaren aan werken. Het is een gesprek en we luisteren naar wat onze gebruikers zeggen”, zegt hij. .

Google heeft er duidelijk vertrouwen in dat gebruikers het daarmee eens zullen zijn, aangezien de kunstmatige intelligentie-functies in zijn nieuwe telefoons de kern vormen van zijn advertentiecampagne.

Is er een grens die Google niet zal overschrijden als het gaat om beeldmanipulatie?

Reynolds zei dat het debat over het gebruik van kunstmatige intelligentie zo genuanceerd is dat je niet zomaar een lijn in het zand kunt aanwijzen en zeggen dat deze te ver weg is.

“Hoe dieper je dieper ingaat op het bouwen van functies, je begint te beseffen dat het lettertype een te grote vereenvoudiging is van wat uiteindelijk een zeer moeilijke beslissing per functie zal worden”, zegt hij.

Hoewel deze nieuwe technologieën ethische overwegingen oproepen over wat realiteit is en wat niet, zei professor Mantioc dat we ook rekening moeten houden met de beperkingen die aan onze ogen worden opgelegd.

“Het feit dat we scherpe kleurenbeelden zien, komt doordat onze hersenen informatie kunnen reconstrueren en zelfs ontbrekende informatie kunnen afleiden”, zegt hij.

“Je zou dus kunnen klagen dat camera’s nepdingen doen, maar het menselijk brein doet eigenlijk hetzelfde op een andere manier.”