Dit gastartikel is overgenomen uit dat van de auteur een nieuw boek Van pessimisme naar belofte: lessen uit het mondiale Zuiden over het ontwerpen van inclusieve technologieuitgegeven door MIT Press.
Wat hebben AI-aangedreven neushoornhalsbanden in Zuid-Afrika, drones om ongedierte op boerderijen in Punjab te detecteren en draagbare gezondheidsapparatuur op het platteland van Malawi met elkaar gemeen?
Al deze initiatieven maken deel uit van de AI for Good-beweging, die AI-technologieën op één lijn brengt met de Sustainable Development Goals van de Verenigde Naties om oplossingen te vinden voor mondiale uitdagingen zoals armoede, gezondheidszorg, onderwijs en ecologische duurzaamheid.
MIT-pers
De honger naar op AI gebaseerde oplossingen is begrijpelijk. In 2023 doodden stropers in Zuid-Afrika 499 neushoorns, een stijging van ruim 10 procent ten opzichte van 2022. Verschillende boeren in Punjab verloren ongeveer 90 procent van hun katoenopbrengst aan de roze bol; als de plaag op tijd was ontdekt, hadden ze hun gewassen kunnen redden. Op het gebied van de gezondheidszorg blijven zij, ondanks tientallen jaren van inspanningen om het aantal gezondheidswerkers op het platteland te vergroten, naar de steden migreren.
Wat maakt AI eigenlijk ‘goed’? Waarom moeten we AI-toepassingen in het Mondiale Zuiden inzetten met moraliteit en liefdadigheid? En zal de nobele intentie ertoe leiden dat AI-tools voor het grootste deel van de wereld werken?
Veranderde realiteit
Feit is dat het mondiale zuiden van enkele decennia geleden niet bestaat.
Tegenwoordig zijn de landen in het Mondiale Zuiden zelfverzekerder, ondernemender en nemen zij het voortouw bij het pionieren van lokaal geschikte AI-instrumenten die voor hun bevolking werken. Startups begrijpen dat het succes van een nieuwe technologie afhangt van het gebruik van lokale kennis voor zinvolle adoptie en schaalvergroting.
De oude formule ‘innoveer in het Westen en verspreid je naar de rest’ strookt niet met deze nieuwe realiteit. Terwijl het Westen zijn oude missionaire ijver behoudt, blijft de Zuid-Zuid-samenwerking groeien, waarbij nieuwe technologie wordt gedeeld en AI-beheer wordt opgebouwd. Bovendien zijn sommige technologie-altruïsme-initiatieven onder de loep genomen omdat ze hun activiteiten op het gebied van data-extractie vertroebelen, waardoor ze meer transactioneel dan liefdadig zijn geworden.
De markt voor technologisch altruïsme
In augustus is het AI-wetgevingskader van de Europese Unie, de AI Act, in werking getreden. De maatregelen zijn bedoeld om burgers en belanghebbenden te helpen deze instrumenten te optimaliseren en tegelijkertijd de risico’s te beperken. Er wordt in hun documenten weinig melding gemaakt van AI voor het goede; het is gewoon de standaard. Maar terwijl we van het mondiale noorden naar het zuiden gaan, komt moraliteit naar voren.
Technologisch altruïsme onderstreept deze verschuiving. Veel AI-for-good-initiatieven worden gefinancierd door technologiefilantropen in samenwerking met mondiale hulporganisaties. Goed doen komt tot uiting in het testen van technologische oplossingen, met Global South als levend laboratorium. Het is een doorlopende grap onder ontwikkelaars dat hun vakgebied lijdt aan ‘pilotitis’, een acuut syndroom van pilotprojecten die nooit groeien. Het Mondiale Zuiden wordt doorgaans gezien als de ontvanger, de markt, de gebruiker van technologische oplossingen.
Koop AI-halsbanden voor neushoorns. Het Conservation Collar-initiatief in Zuid-Afrika detecteert bijvoorbeeld abnormaal gedrag en deze signalen worden naar een AI-systeem gestuurd dat de kans op risico berekent. Als wordt vastgesteld dat een dier in direct gevaar verkeert, kunnen rangers hypothetisch onmiddellijk optreden om de stroperij te stoppen. Maar toen mijn team de realiteit ter plaatse onderzocht, ontdekten we dat rangers met veel obstakels te maken krijgen voor snelle actie, waaronder onverharde wegen, oude voertuigen en lange afstanden. Veel rangers waren al maanden niet betaald en hun motivatie was laag. En als klap op de vuurpijl werden ze geconfronteerd met een gewapende militie die de neushoornhandel ter waarde van meerdere miljarden dollars beschermde.
In Punjab kunnen drones met computervisie boeren helpen ongedierte op te sporen voordat ze gewassen vernietigen. De Global Alliance for Climate Smart Agriculture financiert projecten die veel van dit soort door AI ondersteunde technologieën omvatten, aangezien boeren omgaan met de grillen van de klimaatcrisis. Openbaarmaking is echter slechts een onderdeel van een groter probleem. Boeren worstelen met lage kwaliteit en onbetaalbare pesticiden, geldschieters, kwetsbaarheden veroorzaakt door monocultuur en waterschaarste. Landbouwvernieuwers klagen dat er maar weinig early adopters zijn van hun technologie, hoe goed hun instrumenten ook zijn. Jongeren in het mondiale zuiden zien hun toekomst immers niet langer in de landbouw.
Ondertussen hebben we filantropische organisaties zoals de Bill & Melinda Gates Foundation grote AI-uitdagingen zien lanceren om de lasten voor de Afrikaanse gezondheidszorgsystemen te helpen verlichten. Dit heeft geresulteerd in winnaars zoals IntelSurv in Malawi, een intelligent datafeedbacksysteem voor ziektesurveillance dat gegevens berekent van slimme draagbare apparaten. Maar zelfs nu er elk jaar honderden patenten voor dergelijke apparaten worden aangevraagd, zijn ze nog niet in staat om op consistente wijze gegevens van hoge kwaliteit vast te leggen. In plaatsen als Malawi kunnen deze apparaten de enige bron van trainingsgegevens voor AI in de gezondheidszorg worden, waardoor fouten in hun gezondheidszorgsysteem worden vergroot
Feit is dat we de problemen met kunstmatige intelligentie niet echt kunnen oplossen zonder sociale hervormingen te begeleiden. Het aanleggen van goede wegen of het op tijd betalen van je rangers is geen innovatie, het is gezond verstand. Op dezelfde manier hebben mensen, of het nu in de gezondheidszorg of de landbouwsector is, sociale prikkels nodig om deze technologieën te adopteren. Anders zullen deze AI-instrumenten in het wild blijven en niet worden gedomesticeerd.
Gegevens zijn valuta
Technologisch altruïsme wordt steeds verdachter nu AI-bedrijven nu met een acuut datatekort worden geconfronteerd. Ze zijn op zoek naar gegevens in het mondiale zuiden, waar de meeste gebruikers van de technologie wonen. Neem bijvoorbeeld het geval van Worldcoin, mede opgericht door Sam Altman, CEO van OpenAI. Het is van plan ‘het grootste netwerk ter wereld te worden dat de privacy van de menselijke identiteit en financiële netwerken beschermt en iedereen eigenaarschap geeft’. Worldcoin begon in 2019 als een non-profitorganisatie met het verzamelen van biometrische gegevens, voornamelijk in de landen van het Zuiden, via zijn ‘orb’-apparaat en in ruil voor cryptocurrency. Tegenwoordig is het een entiteit met winstoogmerk en wordt er door veel landen onderzoek naar gedaan vanwege twijfelachtige methoden voor gegevensverzameling.
De Duitse non-profitorganisatie Heinrich-Böll-Stiftung rapporteerde onlangs over de agressieve groei van digitale landbouwplatforms in heel Afrika die boeren precisielandbouw en hogere opbrengsten beloven door middel van AI-ondersteunde toepassingen. Deze toepassingen bieden bedrijven echter vaak gratis toegang tot zaad-, bodem-, gewas-, kunstmest- en weergegevensgegevens van de boerderijen waar ze worden gebruikt. Bedrijven kunnen AI-analyses gebruiken om deze informatie te bewapenen, bijvoorbeeld door discriminerende landbouwverzekeringspolissen of microgerichte advertenties voor zaden en meststoffen te creëren. Op dezelfde manier rapporteerde het Center for Digital Health van Brown University in de gezondheidszorgsector over de verkoop van persoonlijke gezondheidsgegevens aan externe adverteerders zonder toestemming van de gebruiker.
Het probleem is dat, in tegenstelling tot particuliere bedrijven die gedwongen worden de wet te gehoorzamen, altruïstische initiatieven er vaak in slagen de regelgeving te omzeilen vanwege hun ‘liefdadige’ bedoelingen. Bijna tien jaar geleden lanceerde Facebook Free Basics, dat toegang bood tot beperkte internetdiensten in het mondiale zuiden, in strijd met de principes van netneutraliteit. Toen India Free Basics in 2015 blokkeerde, was Mark Zuckerberg geschokt en merkte op: “Wie kan hier tegen zijn?”
Vandaag vragen wij ons af: wie mag er aan boord komen?
Van paternalisme naar partnerschap
Volgens één schatting zal het mondiale zuiden vanaf 2024 80 procent van de mondiale economische groei bijdragen. Bijna 90 procent van de jonge wereldbevolking woont in deze regio’s. En het is een cruciale ruimte voor innovatie geworden. In 2018 kwam China op de ranglijst van de mondiale innovatie-index terecht als een van de twintig meest innovatieve landen ter wereld. De Indiase overheid heeft haar ‘technology stack’, de grootste open, interoperabele en publieke digitale infrastructuur ter wereld, ingezet. Dankzij deze reeks kunnen ondernemers hun producten en diensten ontwikkelen buiten het duopolie van Apple en Google dat de concurrentie en keuze beperkt.
Ondanks dat het Mondiale Zuiden zijn innovatieve kracht demonstreert, blijft het etiket van de imitator kleverig. Deze perceptie vertaalt zich vaak in het feit dat westerse organisaties de landen van het Zuiden als begunstigden behandelen in plaats van als partners en leiders in mondiale innovatie.
Het is tijd om te stoppen met het onderschatten van het Mondiale Zuiden. In plaats daarvan zouden westerse organisaties hun energie moeten richten op het onderzoeken hoe diverse consumenten kunnen helpen de kansen, waarborgen en digitale toekomst voor het grootste deel van de wereld te heroverwegen. Inclusie is geen altruïstische daad. Het is een essentieel element bij het creëren van oplossingen voor de kwalijke problemen waarmee de mensheid vandaag de dag wordt geconfronteerd.
Bij het ontwerpen van nieuwe technologie moeten we afstand nemen van moreel gedreven ontwerp met grootse visies op goed doen. In plaats daarvan moeten we streven naar een ontwerp dat zich richt op de relaties tussen mensen, contexten en beleid.
Ontwerpers, ontwikkelaars en financiers kunnen profiteren van wat gebruikers en ondernemers in het Mondiale Zuiden te zeggen hebben over AI-interventie in hun leven. En beleidsmakers moeten de term ‘AI for Good’ begraven.
De media moeten stoppen met debatteren over de vraag of technologie alleen de problemen van de wereld kan oplossen. De echte contextuele intelligentie die we nodig hebben zal niet van AI komen, maar van mensen.