Google legt meer beperkingen op aan zijn AI-overzichtsfunctie nadat het mensen had gevraagd lijm op pizza te smeren

Liz Read, hoofd van de zoekmachine Google, gaf toe dat de zoekmachine van het bedrijf een aantal “vreemde, onnauwkeurige of nutteloze overzichten van AI” had geretourneerd nadat deze publiekelijk in de VS was uitgerold. De directeur plaatste een uitleg van de meer bizarre AI-gegenereerde reacties van Google in een bestand BlogpostHet kondigde ook aan dat het bedrijf veiligheidsmaatregelen heeft geïmplementeerd die ervoor zullen zorgen dat de nieuwe functie nauwkeurigere en minder meme-waardige resultaten oplevert.

Reid verdedigde Google en wees erop dat enkele van de meer flagrante reacties op het AI-overzicht dat circuleert, zoals beweringen dat het veilig is om honden in auto’s achter te laten, nep zijn. Virale screenshot met het antwoord op de vraag “Hoeveel stenen moet ik eten?” Klopt, maar ze zei dat Google met een antwoord kwam omdat een site satirische inhoud over het onderwerp publiceerde. “Voordat deze screenshots viraal gingen, stelde vrijwel niemand deze vraag aan Google”, legde ze uit, dus werd de AI van het bedrijf aan deze site gekoppeld.

De vice-president van Google bevestigde ook dat AI Overview mensen vroeg om lijm te gebruiken om kaas aan pizza te laten plakken op basis van inhoud afkomstig van een forum. Ze zei dat forums doorgaans ‘echte, duidelijke informatie’ bieden, maar ook kunnen leiden tot ‘minder dan nuttig advies’. De andere antwoorden die rond het AI-overzicht circuleren, heeft de CEO echter niet vermeld Washington Post Volgens rapporten vertelde de technologie gebruikers ook dat Barack Obama een moslim was en dat mensen veel urine moesten drinken om van nierstenen af ​​te komen.

Reed zei dat het bedrijf de functie uitgebreid heeft getest voordat hij werd gelanceerd, maar “er gaat niets boven miljoenen mensen die deze functie gebruiken voor zoveel nieuwe zoekopdrachten.” Het lijkt erop dat Google patronen heeft kunnen identificeren waarin zijn AI-technologie de zaken niet goed kon krijgen door te kijken naar voorbeelden van zijn reacties van de afgelopen twee weken. Vervolgens voerde het beveiligingsmaatregelen in op basis van de feedback, te beginnen met het aanpassen van de AI om humor en satirische inhoud beter te kunnen detecteren. Het heeft ook zijn systemen bijgewerkt om de toevoeging van door gebruikers gegenereerde reacties in Overzichten, zoals sociale media en forumposts, te beperken, waardoor mensen misleidend of zelfs schadelijk advies kunnen krijgen. Bovendien voegde het “ook triggerbeperkingen toe voor zoekopdrachten waarbij AI-overzichten niet nuttig bleken” en stopte het met het weergeven van door AI gegenereerde antwoorden voor sommige gezondheidsonderwerpen.