Deze bezorgdheid maakt deel uit van de reden waarom OpenAI in januari zei dat het mensen zou verbieden zijn technologie te gebruiken om chatbots te maken die zich voordoen als politieke kandidaten of valse informatie over stemmen geven. Het bedrijf zei ook dat het mensen niet zal toestaan apps te maken voor politieke campagnes of lobbyen.
Hoewel Kennedy’s chatbotpagina niet het onderliggende model onthult dat eraan ten grondslag ligt, koppelt de broncode van de site de bot aan LiveChatAI, een bedrijf dat reclame maakt voor zijn mogelijkheid om bedrijven te voorzien van chatbots voor klantenondersteuning met GPT-4 en GPT-3.5. De website van LiveChatAI beschrijft zijn bots als “profiteren van ChatGPT”.
Op de vraag welk taalmodel de Kennedy-campagnebot aandrijft, zei Emre Elbeyoglu, medeoprichter van LiveChatAI, donderdag in een verklaring per e-mail dat het platform “een reeks technologieën zoals Llama en Mistral gebruikt” naast GPT-3.5 en GPT-4. “We kunnen de details van het gebruik van welke klant dan ook niet bevestigen of ontkennen vanwege onze toewijding aan de vertrouwelijkheid van de klant”, aldus Elbeyoglu.
OpenAI-woordvoerder Niko Felix vertelde donderdag aan WIRED dat het bedrijf “geen enkele indicatie” heeft dat een chatbot voor de Kennedy-campagne rechtstreeks op zijn diensten wordt gebouwd, maar suggereerde dat LiveChatAI mogelijk een van zijn modellen gebruikt via de diensten van Microsoft. Vanaf 2019 heeft Microsoft naar verluidt meer dan $ 13 miljard in OpenAI geïnvesteerd. OpenAI ChatGPT-modellen zijn sindsdien geïntegreerd in de Bing-zoekmachine van Microsoft en de Office 365 Copilot van het bedrijf.
Vrijdag bevestigde een Microsoft-woordvoerder dat Kennedy’s chatbot “de mogelijkheden van de Microsoft Azure OpenAI-service benut.” Microsoft zei dat zijn klanten niet gebonden zijn aan de servicevoorwaarden van OpenAI en dat Kennedy’s chatbot het beleid van Microsoft niet heeft geschonden.
“Onze beperkte tests van deze chatbot tonen aan dat hij in staat is reacties te genereren die de beoogde context weerspiegelen, met passende waarschuwingen om verkeerde informatie te voorkomen”, aldus de woordvoerder. “Als we problemen tegenkomen, werken we samen met klanten om deze te begrijpen en hen te begeleiden naar gebruik dat consistent is met deze principes. In sommige scenario’s zou dit ertoe kunnen leiden dat we de toegang van een klant tot onze technologie beëindigen.”
OpenAI reageerde niet onmiddellijk op een verzoek om commentaar van WIRED over de vraag of de bot de regels overtrad. Eerder dit jaar blokkeerde het bedrijf de ontwikkelaar van Dean.bot, een chatbot gebouwd op OpenAI-modellen die de Democratische presidentskandidaat Dean Phillips nabootste en antwoorden gaf op vragen van kiezers.
Vanaf zondagmiddag laat was de chatbotservice niet meer beschikbaar. Hoewel de pagina beschikbaar blijft op de Kennedy-campagnesite, wordt in het ingebedde chatbotvenster nu een rood uitroeptekenpictogram weergegeven met de tekst ‘Chatbot niet gevonden’. WIRED nam contact op met Microsoft, OpenAI, LiveChatAI en de Kennedy-campagne voor commentaar op de schijnbare verwijdering van de chatbot, maar kreeg niet onmiddellijk antwoord.
Gezien de neiging van chatbots tot hallucinaties en hikken, is het gebruik ervan in een politieke context controversieel. Momenteel is OpenAI de enige grote modeltaal die het gebruik ervan in campagnes expliciet verbiedt; Meta, Microsoft, Google en Mistral hebben gebruiksvoorwaarden, maar houden zich niet rechtstreeks met de politiek bezig. En aangezien een campagne via een derde partij schijnbaar zonder gevolgen toegang kan krijgen tot GPT-3.5 en GPT-4, zijn er nauwelijks beperkingen.
“OpenAI kan zeggen dat ze aan de ene kant geen selectief gebruik van hun tools of campagnegebruik van hun tools toestaan”, aldus Woolley. “Maar aan de andere kant maakt het deze tools ook behoorlijk vrij beschikbaar. Gezien het gedistribueerde karakter van deze technologie moeten we ons afvragen hoe OpenAI zijn eigen beleid daadwerkelijk zal afdwingen.”