Vicepresident Harris kijkt toe terwijl president Biden op 30 oktober een uitvoeringsbesluit over kunstmatige intelligentie tekent. Donderdag heeft de regering-Biden nieuwe regels uitgevaardigd over hoe overheidsinstanties AI kunnen implementeren.
Brendan Smialowski/AFP via Getty Images
Onderschrift verbergen
Schakel bijschriften in
Brendan Smialowski/AFP via Getty Images
Vicepresident Harris kijkt toe terwijl president Biden op 30 oktober een uitvoeringsbesluit over kunstmatige intelligentie tekent. Donderdag heeft de regering-Biden nieuwe regels uitgevaardigd over hoe overheidsinstanties AI kunnen implementeren.
Brendan Smialowski/AFP via Getty Images
De regering-Biden heeft in een memo van het Office of Management and Budget nieuwe richtlijnen aangekondigd aan federale agentschappen over hoe ze wel en niet kunstmatige intelligentie kunnen gebruiken.
Dit is een belangrijke stap voorwaarts in het streven naar een veilig gebruik van AI, een probleem dat ook door particuliere bedrijven en andere landen wordt aangepakt.
Een concept van de richtlijn werd afgelopen najaar vrijgegeven voorafgaand aan het bezoek van vice-president Harris aan de eerste Global AI Summit in het Verenigd Koninkrijk. Het ontwerp werd opengesteld voor publiek commentaar voordat het donderdag in zijn definitieve vorm werd vrijgegeven.
Harris zei dat de richtlijnen ‘bindend’ waren en benadrukte de noodzaak van richtlijnen die het mondiale publieke belang voorop stellen.
‘President Biden en ik willen dat dit binnenlandse beleid als model dient voor mondiale actie’, zei Harris woensdag in een telefoongesprek met verslaggevers. “We roepen alle landen op om ons voorbeeld te volgen en het publieke belang voorop te stellen als het gaat om het gebruik van AI door de overheid.”
De richtlijnen van de agentschappen streven naar een evenwicht tussen het beheersen van de risico’s op het gebied van kunstmatige intelligentie en het aanmoedigen van innovatie
Het vereist ook dat elke organisatie een Chief Artificial Intelligence Officer aanstelt, een senior rol die toezicht houdt op de implementatie van AI. En het schetst hoe de overheid probeert het personeelsbestand dat zich richt op AI te stimuleren, onder meer door deze zomer minstens honderd professionals in het veld aan te nemen.
“Het publiek verdient het vertrouwen dat de federale overheid technologie op verantwoorde wijze zal gebruiken”, zegt Shalanda Young, directeur van het Office of Management and Budget (OMB).
Agentschappen hebben tot 1 december de tijd om AI-waarborgen te implementeren
De richtlijnen van de agentschappen zeggen dat elke AI-technologie die zij gebruiken vóór 1 december over passende waarborgen moet beschikken Als ze deze bescherming niet kunnen bieden, moeten ze stoppen met het gebruik van de technologie, tenzij ze kunnen bewijzen dat het noodzakelijk is om deze te gebruiken. Organisatie werk.
Vereiste waarborgen zijn onder meer het beoordelen, testen en monitoren van de effecten van AI-technologie – maar de details van het proces zijn in deze richtlijnen nog steeds onduidelijk.
Alex Reeve Givens, president en CEO van het Center for Democracy and Technology, vertelde NPR dat hij nog steeds vragen heeft over wat de testvereisten zijn en wie binnen de overheid de autoriteit heeft om de technologie groen licht te geven.
“Ik zie dit als de eerste stap. Wat er daarna gaat gebeuren zijn zeer gedetailleerde praktijkrichtlijnen en verwachtingen over hoe effectieve auditing eruit ziet”, aldus Reeve Givens. “Er is nog veel werk aan de winkel.”
Een van de volgende stappen van Reeve Givens is de leidraad die de regering zal vrijgeven over het aanbestedingsproces en wat de vereisten zullen zijn voor bedrijven die AI-technologie van de overheid willen kopen.
“Het is echt het keerpunt waarop veel beslissingen en normen kunnen worden genomen en veel tests kunnen worden gedaan voordat de overheid überhaupt dollars aan het systeem uitgeeft”, zei hij.
Transparantie van de agentschappen zal een beter toezicht mogelijk maken
Reeve Givens zei dat een deel van de richtlijnen van OMB over transparantie bijzonder opmerkelijk is.
Onder de nieuwe richtlijnen moeten bureaus elk jaar online delen hoe zij AI gebruiken en welke risico’s daaraan verbonden zijn, en moet de inventarisatie toegankelijk zijn. Reeve Givens zegt dat die voorziening “sleutel” is.
“Dan kunnen we vragen: ‘Wat heb je getest? Hoe zag het eruit?’ Deze gebruiksscenario’s hebben misschien meer ogen en meer publieke controle, maar het geeft ons de aanknopingspunten om dat publieke gesprek te kunnen beginnen”, zei hij.
Het ministerie van Defensie en de inlichtingendiensten zijn echter vrijgesteld van het delen van hun gebruik van AI.
De richtlijnen zouden een ‘katalysator’ kunnen zijn voor verder gebruik van AI
De OMB-richtlijnen zijn ook bedoeld om innovatie door middel van AI aan te moedigen. Professor Ifeoma Ajunwa, hoogleraar rechten aan de Emory University, vertelde NPR dat de richtlijnen een signaal naar bedrijven sturen dat het oké is om AI-technologie te gebruiken.
“Ik denk dat het een katalysator zal zijn voor bedrijven die misschien een beetje bang of terughoudend zijn geweest over het gebruik van AI-technologie”, zei hij.
“Ik wil niet dat agentschappen het als carte blanche beschouwen om AI-technologie op alle gebieden te gebruiken”, voegde Ajunwa eraan toe. “Maar ik wil dat ze dit zien als een opening, als een katalysator die ze kunnen gebruiken wanneer het gepast is en wanneer er veiligheidshekken worden geplaatst.”
Verschillende overheidsinstanties maken al gebruik van kunstmatige intelligentie, maar de memo van de regering-Biden schetste andere manieren waarop de technologie invloed zou kunnen hebben – van het voorspellen van extreme weersomstandigheden tot het volgen van de verspreiding van ziekten en het gebruik van opioïden.