OpenAI wordt geconfronteerd met toenemende druk om te bewijzen dat het de risico’s van kunstmatige intelligentie niet verbergt nadat klokkenluiders de Amerikaanse Securities and Exchange Commission (SEC) vertelden dat de geheimhoudingsovereenkomsten van het bedrijf werknemers illegaal het zwijgen oplegden om grote veiligheidsproblemen bij wetgevers te melden.
In een brief aan OpenAI vroeg senator Chuck Grassley (R-Iowa) gisteren om bewijs dat OpenAI niet langer overeenkomsten nodig heeft die zijn “werknemers zouden kunnen ‘verstikken’ in het doen van beschermde openbaarmakingen aan overheidstoezichthouders.”
In het bijzonder heeft Grassley OpenAI gevraagd om huidige arbeids-, ontslag-, niet-kleinerings- en geheimhoudingsovereenkomsten op te stellen om het Congres ervan te overtuigen dat de overeenkomsten openbaarmaking niet ontmoedigen. Dat is van cruciaal belang, zegt Grassley, zodat het mogelijk zal zijn om te vertrouwen op klokkenluiders die nieuwe bedreigingen ontdekken om effectief AI-beleid vorm te geven dat beschermt tegen existentiële AI-risico’s naarmate de technologie zich ontwikkelt.
Grassley heeft deze gegevens blijkbaar twee keer opgevraagd zonder antwoord van OpenAI, aldus zijn brief. En tot nu toe heeft OpenAI niet gereageerd op het laatste verzoek om documenten, vertelde Grassley’s woordvoerster, Clare Slattery, aan The Washington Post.
“Het is niet genoeg om simpelweg te beweren dat je ‘updates’ hebt gemaakt”, zei Grassley in een verklaring aan Ars. “Het bewijs zit in de pudding. Altman moet gegevens en antwoorden op mijn toezichtsverzoeken verstrekken, zodat het Congres nauwkeurig kan beoordelen of OpenAI zijn werknemers en gebruikers voldoende beschermt.”
Naast het verzoek om onlangs bijgewerkte werknemerscontracten heeft Grassley er bij OpenAI op aangedrongen om transparanter te zijn over het totale aantal verzoeken dat het heeft ontvangen van werknemers die vanaf 2023 federale gegevens willen vrijgeven. De senator wil weten welke informatie werknemers aan ambtenaren willen vrijgeven. en of OpenAI werkelijk aan hun verzoeken gehoor geeft.
Op dezelfde manier vroeg Grassley OpenAI om te bevestigen hoeveel onderzoeken de SEC sinds 2023 naar OpenAI heeft geopend.
Samen zouden de documenten licht kunnen werpen op de vraag of OpenAI-werknemers mogelijk nog steeds het zwijgen worden opgelegd om federale informatie te verstrekken, welke soorten onthullingen OpenAI ontkent en hoe nauw de SEC de ogenschijnlijke inspanningen van OpenAI om veiligheidsrisico’s te verbergen in de gaten houdt.
“Het is van cruciaal belang dat OpenAI ervoor zorgt dat zijn werknemers beschermde openbaarmakingen kunnen doen zonder onwettige beperkingen”, schreef Grassley in zijn brief.
Hij verzocht OpenAI vóór 15 augustus om een reactie, zodat “het Congres objectief en onafhankelijk toezicht kan houden op de beveiligingsprotocollen en NDA’s van OpenAI.”
OpenAI reageerde niet onmiddellijk op het verzoek van Ars om commentaar.
Bij X schreef Altman dat OpenAI stappen heeft ondernomen om de transparantie te vergroten, waaronder “samenwerken met het Amerikaanse Artificial Intelligence Security Institute aan een overeenkomst om vroegtijdige toegang te bieden tot ons volgende fundamentele model, zodat we kunnen samenwerken om de wetenschap van AI-evaluatie vooruit te helpen.” Hij bevestigde ook dat OpenAI wil dat “huidige en voormalige werknemers hun zorgen kunnen uiten en zich daarbij op hun gemak voelen.”
“Dit is van cruciaal belang voor elk bedrijf, maar vooral voor ons, en een belangrijk onderdeel van ons beveiligingsplan”, schreef Altman. “In mei hebben we de niet-kleinerende voorwaarden voor huidige en voormalige werknemers ingetrokken, evenals bepalingen die OpenAI het recht gaven (hoewel nooit uitgeoefend) om verworven aandelen in te trekken. We hebben er hard aan gewerkt om dat op te lossen.”
In juli vertelden klokkenluiders de SEC dat OpenAI niet alleen de huidige werknemerscontracten zou moeten overleggen, maar ook alle contracten die geheimhoudingsovereenkomsten bevatten om ervoor te zorgen dat OpenAI de geschiedenis of huidige verhullingspraktijken van AI-veiligheidsrisico’s niet verbergt. Ze willen dat alle huidige en voormalige werknemers op de hoogte worden gesteld van elk contract dat een illegale geheimhoudingsverklaring bevat, en dat OpenAI wordt gestraft voor elk illegaal contract.