Vorige week begon Meta met het testen van zijn AI-chatbot in India via WhatsApp, Instagram en Messenger. Maar nu de algemene verkiezingen in India vandaag beginnen, blokkeert het bedrijf al bepaalde vragen in zijn chatbot.
Meta heeft bevestigd dat het bepaalde trefwoorden beperkt in relatie tot AI-keuzes in de testfase. Er wordt ook gezegd dat het werkt aan het verbeteren van het AI-responssysteem.
“Dit is een nieuwe technologie en geeft misschien niet altijd het antwoord dat we bedoelen, wat hetzelfde is voor alle generatieve AI-systemen. Sinds de lancering hebben we voortdurend updates en verbeteringen aan onze modellen uitgebracht, en we blijven eraan werken om deze te verbeteren”, vertelde een woordvoerder van het bedrijf aan TechCrunch.
Deze stap maakt de socialemediagigant tot het nieuwste grote technologiebedrijf dat proactief de reikwijdte van zijn generatieve AI-diensten beperkt terwijl het zich voorbereidt op een hele reeks keuzes.
Een van de grootste zorgen van critici was dat genAI gebruikers misleidende of regelrecht valse informatie zou kunnen bieden, wat een illegale en ongewenste rol zou spelen in het democratische proces.
Vorige maand begon Google verkiezingsgerelateerde vragen te blokkeren in zijn Gemini-chatbotervaring in India en andere markten waar dit jaar verkiezingen worden gehouden.
De aanpak van Meta volgt op een grotere druk die het bedrijf heeft aangekondigd over wat het wel en niet toestaat op zijn platform voorafgaand aan de verkiezingen. Het heeft beloofd politieke advertenties te blokkeren in de week voorafgaand aan verkiezingen in welk land dan ook, en werkt eraan om te identificeren en te detecteren wanneer afbeeldingen in advertenties of andere inhoud door AI worden gegenereerd.
Meta’s afhandeling van genAI-query’s lijkt gebaseerd te zijn op een blokkeringslijst. Wanneer u Meta AI vraagt naar bepaalde politici, kandidaten, ambtsdragers en bepaalde andere termen, wordt u doorverwezen naar de website van de Verkiezingscommissie.
“Deze kwestie kan betrekking hebben op een politiek figuur tijdens algemene verkiezingen. Zie de link https://elections24.eci.gov.in”, luidde het antwoord.
Afbeeldingscredits: Schermafbeelding van TechCrunch
Het is veelzeggend dat het bedrijf de antwoorden op vragen met partijnamen niet strikt blokkeert. Als de zoekopdracht echter namen van kandidaten of andere termen bevat, ziet u mogelijk het hierboven aangehaalde sjabloonantwoord.
Maar net als andere AI-aangedreven systemen kent Meta AI enkele inconsistenties. Toen TechCrunch bijvoorbeeld om informatie vroeg over de “Indi Alliance” – een meerpartijenpolitieke alliantie die strijdt tegen de zittende Bharatiya Janata Partij (BJP) – antwoordde het met informatie die de naam van de politicus bevatte. Toen we echter in een aparte vraag naar die politicus vroegen, reageerde de chatbot niet met enige informatie.
Afbeeldingscredits: Schermafbeelding van TechCrunch
Deze week introduceerde het bedrijf de nieuwe Meta AI-chatbot, aangedreven door Llama-3, in meer dan een dozijn landen, waaronder de VS, maar India ontbrak op de lijst. Meta zei dat de chatbot zich voorlopig in de testfase in het land bevindt.
“We blijven leren van onze gebruikerstests in India. Zoals we doen met veel van onze AI-producten en -functies, testen we ze publiekelijk in verschillende fasen en in een beperkte capaciteit”, vertelde een woordvoerder van het bedrijf aan TechCrunch in een verklaring.
Momenteel blokkeert Meta AI geen verkiezingsvragen voor VS-gerelateerde termen zoals ‘Vertel me over Joe Biden’. We vroegen Matt of het bedrijf van plan is deze vragen te beperken tot de Amerikaanse verkiezingen of andere markten. We zullen het verhaal bijwerken als we van u horen.
Als u uw ervaring met Meta AI wilt bespreken, kunt u contact opnemen met Ivan Mehta op im@ivanmehta.com via e-mail en via deze link op Signal.