In eerste instantie was John Pasmore enthousiast over ChatGPT.
De oprichter van de serie is in ieder geval sinds 2008 actief in de kunstmatige intelligentie-ruimte. Hij herinnerde zich de tijd dat experts zeiden dat het tientallen jaren zou duren voordat de wereld zoiets als ChatGPT zou zien. Snel vooruit: die dag is gekomen.
Maar er is een addertje onder het gras.
ChatGPT, een van ‘s werelds krachtigste AI-tools, worstelt met culturele nuances. Dat is behoorlijk gênant voor een zwarte persoon als Pasmore. In feite heeft dit toezicht veel zwarte mensen woedend gemaakt, die er al niet in zijn geslaagd zichzelf goed te zien in de algoritmen die worden aangeprezen om ooit de wereld te redden. De huidige ChatGPT biedt antwoorden die te algemeen zijn voor specifieke vragen met betrekking tot specifieke gemeenschappen, omdat de training eurocentrisch en westers van aard lijkt. Dit is niet uniek – de meeste AI-modellen zijn niet gebouwd met gekleurde mensen in gedachten. Maar veel zwarte oprichters zijn vastbesloten om niet achter te blijven.
Het afgelopen jaar zijn er een aantal chatbots en versies van ChatGPT in zwarte handen ontstaan die zich specifiek richten op zwarte en bruine gemeenschappen, terwijl zwarte oprichters als Pasmore proberen te profiteren van de culturele achteruitgang van OpenAI.
“Als je een model over het algemeen vraagt wie enkele van de belangrijkste kunstenaars in onze cultuur zijn, krijg je Leonardo da Vinci en Michelangelo”, vertelde Pasmore aan ChatGPT. “Hij zal niets zeggen over India of China, Afrika of zelfs Afro-Amerikanen, omdat hij een vooroordeel heeft dat zich richt op het Europese traject van de geschiedenis.”
Daarom lanceerde Pasmore Latimer.AI, een taalmodel voor het bieden van antwoorden die zijn afgestemd op de ervaringen van zwarte en bruine mensen. Erin Reddick lanceerde ChatBlackGPT, een chatbot die zich ook richtte op zwarte en bruine gemeenschappen. Wereldwijd is er Spark Plug uit Canada, wat in wezen ChatGPT is voor zwarte en bruine studenten. Afrika ziet ook grote innovaties op dit gebied, waarbij taalmodellen opkomen om tegemoet te komen aan de meer dan 2.000 talen en dialecten die op het continent worden gesproken en die westerse AI-modellen nog steeds negeren.
“Wij zijn de beheerders van onze eigen verhalen en ervaringen”, vertelde Spark Plug-oprichter Tamar Huggins aan TechCrunch. “We moeten systemen en infrastructuur creëren die we bezitten en controleren, om ervoor te zorgen dat onze gegevens van ons blijven.”
Gepersonaliseerde kunstmatige intelligentie is hier
Gegeneraliseerde AI-modellen kunnen de Afrikaans-Amerikaanse ervaring niet gemakkelijk vastleggen, omdat veel aspecten van die cultuur niet online zijn. De huidige algoritmen zoeken naar bronnen op internet, maar veel tradities en dialecten binnen de Afrikaans-Amerikaanse cultuur worden mondeling of uit de eerste hand doorgegeven, waardoor er een kloof ontstaat in wat een AI-model over de gemeenschap zal begrijpen versus de nuances van wat er feitelijk aan de hand is.
Dit is een van de redenen waarom Pasmore bij het bouwen van Latimer.AI bronnen als Amsterdam News, een van de oudste zwarte kranten in de VS, probeerde te gebruiken, waarbij de nadruk lag op nauwkeurigheid in plaats van training op door gebruikers gegenereerde gegevens die vanaf internet werden overgedragen. Daarbij begon hij verschillen te zien tussen zijn model en het ChatGPT-model.
Hij herinnerde zich dat mensen ChatGPT ooit vroegen naar de Underground Railroad, de doorgang die zwarte Amerikanen tot slaaf maakte en naar de noordelijke staten reisde om aan de slavernij te ontsnappen. Het model van ChatGPT zou verwijzen naar weggelopen slaven, terwijl Latimer.AI de bewoording aanpaste en verwees naar “tot slaaf gemaakte mensen” of “mensen die vrijheid zoeken”, meer in lijn met wat meer sociaal afgestemd is geworden bij het bespreken van voorheen tot slaaf gemaakte mensen.
“Je hebt enkele subtiele verschillen in de taal die het model gebruikt vanwege de trainingsgegevens, en het model zelf denkt alleen aan zwarte en bruine mensen”, zei Pasmore.
Ondertussen bevindt Erin Reddick’s ChatBlackGPT zich nog steeds in de bètamodus met plannen voor lancering op 16 juni. Haar product werkt zoals het klinkt: een chatbot waar je vragen kunt stellen en antwoorden op maat kunt krijgen over de zwarte cultuur. “De kern van wat we doen is echt gemeenschapsgedreven”, zei ze.
Ze is bezig met het bouwen van de tool en vraagt gebruikers hoe ze willen dat de tool eruit ziet en hoe ze willen dat deze werkt. Het werkt ook samen met onderwijsinstellingen zoals historisch zwarte hogescholen en universiteiten (HBCU’s) om met studenten samen te werken bij het lesgeven en helpen bij het trainen van het algoritme. Ze zei dat ze “een goed afgeronde leermogelijkheid wil creëren voor zwarte en bruine mensen, zodat ze een veilige ruimte hebben om AI te verkennen.”
“Het algoritme geeft prioriteit aan zwarte informatiebronnen, zodat het kan spreken met een hoeveelheid kennis die directer gerelateerd is dan je gemiddelde ervaring”, vertelde ze aan TechCrunch, eraan toevoegend dat, net als het product van Pasmore, technisch gezien iedereen het kan gebruiken.
Tamar Huggins creëerde een kaars om een meer op maat gemaakte ervaring te bieden aan de zwarte en bruine gemeenschappen. Het platform vertaalt educatief materiaal in African American Vernacular English (AAVE), een etnolect dat geassocieerd wordt met zwarte Amerikaanse gemeenschappen. Dat dialect wordt traditioneel mondeling en uit de eerste hand overgedragen, in plaats van bestudeerd en opgeschreven zoals standaard Engels, wat betekent dat de nauwkeurigheid van een AI-model (of een persoon) die het alleen via internet leert, in nauwkeurigheid zal fluctueren. Het nauwkeurig vastleggen van AAVE is belangrijk, niet alleen zodat de chatbot er gebruik van zal maken, maar ook zodat studenten gemakkelijker queries kunnen schrijven waarin de AI de resultaten zal retourneren die ze nodig hebben.
“Door inhoud te creëren die resoneert met zwarte studenten, zorgen we ervoor dat zij zichzelf zien in het onderwijs, wat cruciaal is voor een hoge betrokkenheid en academisch succes”, aldus Huggins. “Als Big Tech de kans krijgt, zal het vrijwel altijd winst boven mensen stellen. Dus creëerden we onze eigen baan binnen de AI-ruimte.”
Huggins trainde haar algoritme op de geschriften van zwarte auteurs uit de Harlem Renaissance, zwarte auteurs in het onderwijs en zelfs de toespraak van haar tienerdochter om de essentie van AAVE vast te leggen. Huggins werkt ook samen met docenten, taalkundigen en culturele experts om de resultaten van Spark Plug te beoordelen en te valideren. Haar product is ook niet gebouwd op ChatGPT. Het is een eigen model, wat betekent dat gebruikers controle hebben over hun gegevens.
Pasmore heeft ook plannen om een apart basismodel te bouwen voor zijn Latimer.AI. Hij werkt momenteel aan het uitbreiden van zijn bedrijf naar scholen, vooral HBCU’s, omdat steeds meer studenten elke dag naar ChatGPT kijken om hun werk gedaan te krijgen.
“Dit is een betere AI-metgezel voor veel banen die verantwoordelijk zijn voor zwarte en bruine kinderen”, zei hij.
Het verenigen van de diaspora
Afrika ziet zichzelf verwaarloosd in de huidige AI-beweging. Volgens het AI Index Report uit 2023 is bijvoorbeeld slechts 0,77% van de AI-tijdschriften ter wereld afkomstig uit Afrika bezuiden de Sahara, vergeleken met Oost-Azië en Noord-Amerika met respectievelijk 47,1% en 11,6%, vergeleken met Noord-Amerika ongeveer 17% van de wereldbevolking, vergeleken met slechts 7% van Noord-Amerika. Als het tijd is om informatie en experts op het gebied van AI te verzamelen, is de kans dat onderzoek uit de regio ten zuiden van de Sahara zal worden gebruikt vrij klein, wat de ontwikkeling van mondiale AI-instrumenten zou kunnen beïnvloeden.
Terwijl Afrika veel ontwikkeling ziet in het creëren van meer inclusieve taalmodellen die de zwarte diaspora beter dienen, kunnen de huidige AI-modellen van ChatGPT tot Gemini de meer dan 2.000 talen die in heel Afrika worden gesproken niet volledig ondersteunen.
Yinka Iyinolakan heeft CDIAL.AI gemaakt om dit op te lossen. CDIAL.AI is een chatbot die bijna alle Afrikaanse talen en dialecten kan spreken en begrijpen, met een bijzondere focus op spraakpatronen in plaats van op tekst.
Iyinolakan vertelde TechCrunch dat hij hetzelfde sentiment herhaalde als veel zwarte Amerikanen: dat fundamentele AI-modellen voornamelijk worden herschreven op basis van internetgegevens en vanuit de meest gesproken talen. Net als de cultuur van Afro-Amerikaanse afstammelingen ontbreken veel Afrikaanse talen en tradities op internet, omdat het een cultuur is die historisch gezien mondeling wordt gecommuniceerd in plaats van schriftelijk. Dit betekent dat AI-modellen niet genoeg informatie over Afrikaanse culturen hebben om zichzelf te trainen, waardoor er een kenniskloof ontstaat.
Voor CDIAL.AI schakelde Iyinolakan meer dan 1.200 moedertaalsprekers en taalkundigen uit heel Afrika in om kennis en inzichten te verzamelen en zo te bouwen aan wat hij ‘het eerste meertalige stemmodel ter wereld van een grote taal’ noemt. Het bedrijf is van plan de komende twaalf maanden uit te breiden met nog meer talen en een model te bouwen dat tekst, stemmen en afbeeldingen ondersteunt.
Hij is hier niet alleen. Google heeft het Keniaanse bedrijf Jacaranda Health onlangs een subsidie van 1,4 miljoen dollar gegeven om zijn machine learning-diensten zo te bouwen dat deze in meer Afrikaanse talen kunnen werken, en Intron Health heeft onlangs enkele miljoenen dollars opgehaald om zijn klinische spraakherkenning te vergroten voor meer dan 200 accenten die in heel Afrika worden gesproken.
“Silicon Valley wil geloven dat dit het alles-en-alles is voor kunstmatige intelligentie”, zei Ijinolakan. “Maar om kunstmatige intelligentie, die alle bedrijven als hun poolster hebben, te ‘krijgen’, moeten ze een derde van de kennis in de wereld erbij betrekken.”
Voortgang
De overname van AI-chatbots is niet de enige innovatie die de zwarte oprichters proberen aan te pakken.
Steve Jones en DeSean Brown startten pocstock om afbeeldingen van gekleurde mensen te maken na tientallen jaren van ondervertegenwoordiging van minderheden in afbeeldingen. Dit is een van de redenen waarom de hedendaagse modellen voornamelijk afbeeldingen van blanke mannen uitspugen wanneer gebruikers hen vragen afbeeldingen te maken van allerlei soorten, van doktoren tot popzangers.
“Alle platforms en tools moeten worden getraind op basis van volledige, raciaal inclusieve en cultureel nauwkeurige gegevens, anders zullen we dat doen [perpetuate] kwesties van vooringenomenheid waarmee onze bredere samenleving momenteel wordt geconfronteerd”, vertelde Jones aan TechCrunch. Om dit aan te pakken heeft Pocstock de afgelopen vijf jaar diversiteitsgegevens verzameld en zijn eigen visuele tagging-systeem gecreëerd dat bijdraagt aan de database die bedrijven gebruiken om hun AI-modellen te trainen om meer inclusieve beelden te produceren.
Er zijn echter enkele verbeteringen gaande. Jones zei dat hij heeft gemerkt dat de grotere op AI gerichte beeldverwerkingsbedrijven vooruitgang boeken bij het vergroten van de diversiteit van hun inhoud. Pasmore ziet ook een mooiere toekomst in het verschiet en zegt dat gepersonaliseerde AI sowieso de toekomst is en dat hoe meer AI-modellen met hun gebruikers communiceren, hoe beter ze de wensen en behoeften van een bepaalde persoon zullen begrijpen, “wat volgens mij veel vooroordelen elimineert. .”
Er kan in de toekomst ruimte zijn voor meer culturele AI-modellen, vooral naarmate er meer alternatieven in zwarte handen opduiken. De wereld is immers enorm groot en genuanceerder; het heeft geen zin om te proberen haar in één zwarte doos te vangen.
“Ik hoop dat meer grondleggers van kleur zo vroeg mogelijk in deze volgende economische bloei betrokken zullen raken bij het ontwikkelen van hun eigen AI-platforms of het creëren van nieuwe AI-gerelateerde bedrijven”, aldus Jones. “AI zal biljonairs creëren, en ik zou graag zien dat mensen van kleur de positie van producenten innemen, en niet alleen van consumenten.”
Dit artikel is bijgewerkt om dit weer te geven Candle gebruikt haar eigen basismodellen en beschrijving rond Latimer.AI. Ook bijgewerkt dat DeSean Brown hielp bij het vinden van Pocstock.