Het maken van foto’s in Google’s Pixel Studio kan gemakkelijk uit de hand lopen

Pixel Studio, een app die sms-berichten omzet in afbeeldingen, is een van de nieuwe AI-aangedreven functies die in de Pixel 9-serie zijn gelanceerd. Het is misschien een leuk gadget, maar in onze ervaring kan het gemakkelijk ontsporen.

Pixel Studio is een app gewijd aan het maken van afbeeldingen met tekstprompts. De app werkt volgens hetzelfde idee als Gemini en ImageFX, waardoor gebruikers een tekstprompt kunnen invoeren en in ruil daarvoor een afbeelding kunnen krijgen. Maar zoals bij elke respectabele beeldgenerator moeten er grenzen zijn.

In een verklaring aan 9 tot 5 GooglenGoogle legt uit dat er limieten gelden voor zowel Pixel Studio als Magic Editor om “misbruik te voorkomen” en tegelijkertijd de “intentie van gebruikersclaims” te respecteren, zelfs als ze de opdracht krijgen inhoud te maken die “aanstootgevend kan zijn” als de gebruiker dit rechtstreeks aan de app vraagt om dat te doen.

Pixel Studio en Magic Editor zijn twee handige tools waarmee je je creativiteit de vrije loop kunt laten bij het maken van tekst naar afbeeldingen en geavanceerde fotobewerking op Pixel 9-apparaten. We hebben onze generatieve AI-tools ontworpen om de bedoeling van gebruikersprompts te respecteren. Dit betekent dat ze inhoud kunnen genereren die aanstootgevend kunnen zijn wanneer de gebruiker daarom vraagt. Er is echter niets toegestaan. Wij beschikken over duidelijke instrumenten Beleid En Servicevoorwaarden Met betrekking tot de soorten inhoud die we wel of niet toestaan, en het bouwen van veiligheidsmaatregelen om misbruik te voorkomen. Af en toe kunnen claims de vangrails van deze instrumenten uitdagen, en we blijven ons inzetten voor het voortdurend verbeteren en verbeteren van onze beveiligingen.

Dit is vergelijkbaar met wat er gebeurt op Gemini, dat bescherming biedt tegen aanstootgevende of verdeeldheid zaaiende inhoud. Google is bijvoorbeeld bekritiseerd vanwege de onnauwkeurige weergave van mensen in een historische context, waardoor Google de mogelijkheid om afbeeldingen van mensen te maken “tijdelijk” heeft uitgeschakeld, zoals het de afgelopen maanden heeft gedaan.

Net als Gemini kan Pixel Studio geen foto’s van mensen maken, maar we ontdekten dat de app dat wel kan snel Ze worden gemakkelijk van het spoor gegooid.

Vóór het huidige embargo op de Pixel 9-recensie ontdekten we dat Pixel Studio afbeeldingen kon maken van stripfiguren die Duitse militaire uniformen uit de Tweede Wereldoorlog droegen, in sommige gevallen met nazi-symbolen. Nog een verontrustend en verontrustend voorbeeld dat we zagen (van mensen bij Digitale trends Eén persoon (die deze problemen voor het eerst ontdekte) zag een personage een school neerschieten omringd door dode kinderen, wat Google Models überhaupt niet had kunnen genereren.

Aangezien deze resultaten in eerste instantie werden weergegeven, lijkt het erop dat de aanwijzingen die zijn gebruikt om ze te maken door Google zijn geblokkeerd op onze Pixel 9 Pro XL, maar Digitale trends Ze zeggen dat ze er nog wel een paar kunnen gebruiken.

Dit alles betekent dat barrières in Pixel Studio effectief zullen veranderen in een eindeloos veegspel. Ergens, op de een of andere manier, zal er een bericht binnensluipen en iets creëren dat een app niet zou moeten kunnen doen als het dezelfde barrières gebruikt als Gemini – we hebben het nagevraagd bij Google en het bedrijf zegt dat “alle” tekst-naar-afbeelding-tools “soortgelijke delen hebben” richtlijnen Voor verboden gebruik”, linkend naar Beleid op het gebied van kunstmatige intelligentie.

Realistisch gezien zijn dit soort dingen onvermijdelijk bij het genereren van AI-beelden. Het is een probleem waar bijna alle AI-beeldgeneratoren tot op zekere hoogte moeite mee zullen hebben. Zoals Abner Lee eerder vandaag uitlegde in zijn Pixel 9 Pro-recensie:

Wat Pixel Studio betreft, denk ik over het algemeen dat het maken van afbeeldingen een hellend vlak is waarbij de minpunten zwaarder wegen dan de positieve punten. Je kunt hem zeker twijfelachtige inhoud laten produceren en ik denk niet dat enige vorm van vangrails dat kan voorkomen.

Meer over Google Pixel 9:

Volg Ben: Twitter/X, DradenEn Instagram