Het gebruik van technologie loopt vaak mis, merkt Parsons op, “omdat we te veel gefocust zijn op onze eigen ideeën over wat er goed uitziet, of op een bepaald publiek in plaats van op een breder publiek.” Het kan lijken op een app-ontwikkelaar die alleen bouwt voor een denkbeeldige klant die zijn geografie, opleiding en rijkdom deelt, of op een productteam dat niet nadenkt over de schade die een kwaadwillende actor aan zijn ecosysteem kan toebrengen. “We denken dat mensen mijn product gaan gebruiken op de manier waarop ik wil dat ze mijn product gebruiken, om het probleem op te lossen dat ik wil dat ze oplossen op de manier waarop ik wil dat ze het oplossen”, zegt Parsons. “Maar dat gebeurt niet als dingen in de echte wereld uitkomen.”
AI brengt uiteraard bepaalde sociale en ethische uitdagingen met zich mee. Sommige van de unieke uitdagingen van de technologie zijn inherent aan de manier waarop AI werkt: de statistische in plaats van deterministische aard, de identificatie en bestendiging van patronen uit gegevens uit het verleden (waardoor bestaande vooroordelen worden versterkt) en het gebrek aan bewustzijn van wat het niet weet. (resulterend in hallucinaties). En sommige van de uitdagingen komen voort uit wat makers en gebruikers van AI zelf niet weten: de ongeteste hoeveelheid gegevens die ten grondslag liggen aan AI-modellen, de beperkte verklaarbaarheid van AI-output, en het vermogen van de technologie om gebruikers te misleiden om deze als redelijke menselijke intelligentie te behandelen.
Parsons is echter van mening dat kunstmatige intelligentie de verantwoordelijke technologie niet zozeer heeft veranderd, maar dat sommige van de problemen ervan onder de aandacht zijn gebracht. De concepten van intellectueel eigendom zijn bijvoorbeeld al honderden jaren oud, maar de opkomst van grootschalige taalmodellen (LLM) heeft nieuwe vragen opgeroepen over wat redelijk gebruik inhoudt als een machine kan worden getraind om de stem van een schrijver of de stem van een schrijver te imiteren. stijl van een kunstenaar. “Het is geen verantwoorde technologie als je inbreuk maakt op iemands intellectuele eigendom, maar erover nadenken was een stuk eenvoudiger voordat we de LLM hadden”, zegt ze.
De principes die gedurende vele decennia van verantwoord technologisch werk zijn ontwikkeld, blijven tijdens deze transitie nog steeds relevant. Transparantie, privacy en veiligheid, doordachte regelgeving, aandacht voor sociale en ecologische gevolgen, en het mogelijk maken van bredere participatie door initiatieven op het gebied van diversiteit en toegankelijkheid blijven de sleutel om technologie te laten werken voor het menselijk welzijn.
Uit het rapport uit 2023 van MIT Technology Review Insights met Thoughtworks, ‘The State of Responsible Technology’, blijkt dat leidinggevenden deze overwegingen serieus nemen. Drieënzeventig procent van de ondervraagde bedrijfsleiders was het er bijvoorbeeld mee eens dat het verantwoorde gebruik van technologie net zo belangrijk zal worden als zakelijke en financiële overwegingen bij het nemen van technologische beslissingen.
Dit AI-moment kan echter een unieke kans bieden om barrières te overwinnen die voorheen verantwoord technologiewerk in de weg stonden. Het gebrek aan bewustzijn bij het senior management (door 52% van de ondervraagden genoemd als de belangrijkste belemmering voor het adopteren van verantwoorde praktijken) is vandaag de dag zeker minder zorgwekkend: slimme leidinggevenden worden snel vloeiend in deze nieuwe technologie en worden voortdurend herinnerd aan de mogelijke gevolgen, mislukkingen en gevolgen ervan. maatschappelijke schade.
Andere genoemde hindernissen waren de weerstand van de organisatie tegen verandering (46%) en de interne concurrentieprioriteiten (46%). Organisaties die zich opnieuw hebben gefocust op een duidelijke AI-strategie en het potentieel ervan begrijpen om de industrie te veranderen, kunnen deze traagheid en besluiteloosheid wellicht ook overwinnen. Op dit unieke moment van ontwrichting, waarin AI zowel de instrumenten als de motivatie biedt om veel van de manieren waarop we werken en leven opnieuw te ontwerpen, kunnen we de principes van verantwoorde technologie in die transitie integreren – als we dat willen.
Parsons van haar kant is zeer optimistisch over het vermogen van mensen om AI voor altijd te benutten en de beperkingen ervan te omzeilen met op gezond verstand gebaseerde richtlijnen en goed ontworpen processen met menselijke waarborgen. “Als technologen zijn we zo gefocust op het probleem dat we proberen op te lossen en hoe we het proberen op te lossen”, zegt ze. “Alle verantwoorde technologie is eigenlijk omhoog kijken, rondkijken en zien wie er nog meer bij mij in de wereld zou kunnen zijn.”
Bezoek haar voor meer informatie over de analyse en aanbevelingen van Thoughworks over verantwoorde technologie Kijkglas 2024.
Deze inhoud is geproduceerd door Insights, de aangepaste inhoudsafdeling van MIT Technology Review. Het is niet geschreven door de redactie van MIT Technology Review.