Nevada zal binnenkort de eerste staat worden die kunstmatige intelligentie gebruikt om het besluitvormingsproces te versnellen bij het beslissen over beroepen die van invloed zijn op werkloosheidsuitkeringen.
Het ministerie van Werkgelegenheid, Training en Rehabilitatie (DETR) heeft ermee ingestemd Google 1.383.838 dollar te betalen voor AI-technologie, zo blijkt uit een begrotingsdocument voor 2024, en deze zal in de “komende paar maanden” worden uitgerold, vertelden Nevada-functionarissen aan Gizmodo.
De eerste AI in Nevada zal afhankelijk zijn van een Google-cloudservice genaamd Vertex AI Studio. Door verbinding te maken met de servers van Google zal de staat het AI-systeem alleen afstemmen op referentie-informatie uit de database van DETR, waarvan ambtenaren denken dat het ervoor zal zorgen dat zijn beslissingen “meer op maat gemaakt” zijn en dat het systeem “nauwkeurigere resultaten” oplevert, meldt Gizmodo.
Volgens het contract zal DETR in wezen gegevens streamen uit transcripties van hoorzittingen en beslissingen over werkloosheidszaken, waarna het AI-systeem van Google die gegevens zal verwerken, naar de cloud zal uploaden en de informatie vervolgens zal vergelijken met eerdere zaken.
Binnen slechts vijf minuten zal de AI een besluit nemen dat een staatswerknemer ongeveer drie uur zou kosten om te bereiken zonder het gebruik van AI, vertelde DETR-informatietechnologiebeheerder Carl Stanfield aan de Nevada Independent. Dat is waardevol voor Nevada, dat een achterstand heeft van meer dan 40.000 claims als gevolg van een sterke stijging van pandemische werkloosheidsaanvragen, omdat het land te maken krijgt met “onverwachte personeelstekorten” die DETR in juli meldde.
“De tijdwinst is behoorlijk fenomenaal”, zei Stanfield.
Als voorzorgsmaatregel wordt de beslissing van de AI vervolgens beoordeeld door een overheidsfunctionaris om hopelijk fouten, vooroordelen of misschien nog erger, hallucinaties op te sporen waarbij de AI feiten zou kunnen verzinnen die de uitkomst van hun zaak zouden kunnen beïnvloeden.
Google-woordvoerster Ashley Simms vertelde Gizmodo dat de technologiegigant met de staat zal samenwerken om “mogelijke vooroordelen te identificeren en aan te pakken” en “hen te helpen voldoen aan federale en staatsvereisten.” Volgens de kunstmatige-intelligentierichtlijnen van de regering moet het agentschap prioriteit geven aan het ethisch gebruik van AI-systemen, “vooroordelen vermijden en eerlijkheid en transparantie in besluitvormingsprocessen garanderen.”
Als de reviewer de beslissing van de AI accepteert, zal hij deze ondertekenen en de beslissing nemen. Anders zal de beoordelaar de beslissing bewerken en feedback geven, zodat DETR kan onderzoeken wat er mis is gegaan.
Gizmodo merkte op dat dit nieuwe gebruik van AI “een belangrijk experiment vertegenwoordigt door staatsfunctionarissen en Google om generatieve AI een overheidsbesluit met hoge inzet te laten beïnvloeden – een besluit dat duizenden dollars in de zakken van werkloze Nevadanen zou kunnen stoppen, of eruit zou kunnen halen. .”
Google weigerde commentaar te geven op de vraag of meer staten overwegen AI te gebruiken om werkloosheidsaanvragen te beoordelen.