Ongeveer zestig landen, waaronder de Verenigde Staten, hebben dinsdag een ‘actieplan’ ondertekend om het verantwoorde gebruik van kunstmatige intelligentie op het slagveld te reguleren.
Ongeveer dertig landen die een regeringsvertegenwoordiger naar de Zuid-Koreaanse top stuurden, waaronder China, steunden het document echter niet.
Waar gaan de richtlijnen over?
De richtlijnen stellen dat alle toepassingen van AI op militair gebied ‘ethisch en mensgericht’ zullen zijn.
Het document onderzoekt welke risicobeoordelingen er moeten worden gemaakt en het belang van menselijke controle.
“Er is behoefte aan passende menselijke betrokkenheid bij de ontwikkeling, toepassing en gebruik van AI in het militaire domein, inclusief passende maatregelen met betrekking tot menselijk oordeel en controle over het gebruik van geweld”, aldus het rapport.
De Nederlandse regering zei dat de focus van de top lag op een reeks actiegerichte richtlijnen, waaronder discussies over ontwikkelingen in de echte wereld, zoals de AI-drones die door Oekraïne zijn geïntroduceerd.
In de details die aan het laatste document zijn toegevoegd, is de noodzaak opgenomen om het gebruik van AI voor de proliferatie van massavernietigingswapens door entiteiten, waaronder terroristische groeperingen, te voorkomen.
Oekraïne was een van de landen die de overeenkomst ondertekenden, evenals prominente NAVO-leden Frankrijk, Duitsland en het Verenigd Koninkrijk.
Vanwege de invasie van Oekraïne werd Rusland niet uitgenodigd voor de top en is het dus geen ondertekenaar.
De Responsible AI in the Military Domain (REAIM) Summit in Seoul is de tweede in zijn soort, nadat deze vorig jaar in Den Haag werd gehouden.
Op die bijeenkomst onderschreven ongeveer zestig landen, waaronder China, een bescheiden ‘oproep tot actie’ zonder een wettelijke verplichting om enige actie te ondernemen.
Hoe realistisch is een bredere overeenkomst?
“We zetten verdere concrete stappen”, zegt minister van Defensie Ruben Brekelmans tegen persbureau Reuters. “Vorig jaar… ging het meer om het creëren van een gemeenschappelijk begrip, nu gaan we meer richting actie.”
“We moeten ook realistisch zijn dat we nooit de hele wereld aan boord zullen hebben”, zei Brekelmans, in reactie op het aantal staten dat niet heeft getekend.
“Hoe gaan we om met het feit dat niet iedereen zich aan de regels houdt? … Dat is een ingewikkeld dilemma dat we ook op tafel moeten leggen”, voegde hij eraan toe.
“Nog geen principes en nog geen akkoord”, postte Brekelmans later op X, het platform dat voorheen bekend stond als Twitter. “Dit is nodig voor een verantwoord gebruik van kunstmatige intelligentie. En voor de omgang met landen die de regels overtreden.”
Giacomo Persi Paoli, hoofd programmabeveiliging en technologie bij het United Nations Institute for Disarmament Research (UNIDIR), zei dat het contraproductief zou kunnen zijn om overhaast door te gaan met regels waar niet iedereen het mee eens zou kunnen zijn.
‘Het ontwerp is een stap voorwaarts’, zei hij. “Als we te snel en te snel gaan, bestaat er een zeer groot risico dat veel landen niet mee willen doen.”
Andere initiatieven over dezelfde kwestie zijn onder meer de vorig jaar gelanceerde verklaring van de Amerikaanse regering over het verantwoorde gebruik van AI in het leger.
De top in Seoel werd georganiseerd door Nederland, Singapore, Kenia en het Verenigd Koninkrijk, met als doel ervoor te zorgen dat discussies met meerdere belanghebbenden niet door één natie of entiteit zouden worden gedomineerd.
Dit artikel is geschreven met behulp van materiaal van persbureau Reuters.
Bewerkt door: Sean M. Sinico