Google heeft donderdag aangekondigd dat het zijn door AI gegenereerde samenvattingen van zoekresultaten zal verbeteren en vernieuwen, door een blogpost te publiceren waarin wordt uitgelegd waarom de functie bizarre en onnauwkeurige antwoorden oplevert waarbij mensen stenen eten of lijm aan pizzasaus toevoegen. Het bedrijf zal het aantal zoekopdrachten verminderen dat een door AI geschreven samenvatting oplevert.
Google heeft verschillende beperkingen toegevoegd aan de soorten zoekopdrachten die AI Overview-resultaten zouden genereren, zei zoekchef Liz Reid, evenals “beperkte opname van satirische en humoristische inhoud.” Het bedrijf treedt ook hard op tegen wat het beschrijft als een klein aantal AI-recensies die in strijd zijn met zijn inhoudsbeleid, wat naar eigen zeggen voorkwam bij minder dan 1 op de 7 miljoen unieke zoekopdrachten waarin de functie verscheen.
De functie AI Overzichten, die Google deze maand in de VS uitbracht, leverde al snel virale voorbeelden op van de tool die informatie verkeerd interpreteerde en satirische bronnen zoals Onion-posts of Reddit-grappen leek te gebruiken om reacties te genereren. De AI-fouten van Google werden vervolgens een meme, met nep-screenshots van absurde en duistere reacties die op grote schaal circuleerden op sociale-mediaplatforms, naast de daadwerkelijke mislukkingen van de tool.
Google prees zijn AI-overzichtsfunctie aan als een van de pijlers van het bredere streven van het bedrijf om generatieve AI in zijn kerndiensten op te nemen, maar door de uitrol ervan werd het bedrijf opnieuw in publieke verlegenheid gebracht na de aankondiging van een nieuw AI-product. Google kreeg eerder dit jaar te maken met publieke reacties en spot nadat zijn tool voor het genereren van AI-afbeeldingen per ongeluk mensen van kleur in a-historische situaties had geplaatst, waaronder het maken van afbeeldingen van zwarte mensen als Duitse soldaten in de Tweede Wereldoorlog.
De blog van Google gaf een kort overzicht van wat er mis ging met AI-recensies en verdedigde dit, waarbij Reid betoogde dat veel onwaarheden over echte AI-recensies het resultaat zijn van informatielacunes als gevolg van zeldzame of ongebruikelijke zoekopdrachten. Reid beweerde ook dat er opzettelijke pogingen waren gedaan om het spel te manipuleren om onjuiste antwoorden te geven.
“Er gaat niets boven het feit dat miljoenen mensen deze functie gebruiken met veel nieuwe zoekopdrachten”, zei Reid in de post. “We hebben ook zinloze nieuwe zoekopdrachten gezien, schijnbaar gericht op het opleveren van de verkeerde resultaten.”
Veel van de virale berichten waren inderdaad afkomstig van bizarre zoekopdrachten zoals ‘hoeveel stenen moet ik eten’ – die een resultaat opleverden op basis van een Onion-artikel met de titel Geologen raden aan om minstens één klein steen per dag te eten – maar andere leken afkomstig te zijn van redelijkere berichten. . vragen. Een expert op het gebied van kunstmatige intelligentie deelde een afbeelding van een AI-overzicht waarin werd beweerd dat Barack Obama de eerste islamitische Amerikaanse president was, een veel voorkomende rechtse complottheorie.
“Door naar voorbeelden van de afgelopen weken te kijken, konden we patronen identificeren waarin we faalden, en hebben we meer dan een dozijn technische verbeteringen aan onze systemen aangebracht”, aldus Reid.
Hoewel de blog van Google problemen met AI-beoordelingen beschrijft als meestal een reeks randgevallen, hebben verschillende AI-experts opgemerkt dat de problemen wijzen op bredere problemen rond het vermogen van AI om de juistheid van feiten te beoordelen en problemen rond het automatiseren van de toegang tot informatie.
Google beweerde in zijn post dat “gebruikersfeedback laat zien” dat mensen gelukkiger zijn met hun zoekresultaten vanwege AI-previews, maar de bredere implicaties van zijn AI-tools en wijzigingen in de zoekfuncties zijn nog steeds onduidelijk. Website-eigenaren zijn bang dat AI-verwerking rampzalig zal zijn voor online media, omdat ze verkeer en advertentie-inkomsten van websites wegnemen, terwijl sommige onderzoekers zich zorgen maken dat Google nog meer controle zal krijgen over wat het publiek online ziet.