Twee voormalige OpenAI-onderzoekers die dit jaar ontslag hebben genomen vanwege bezorgdheid over de veiligheid, zeggen teleurgesteld maar niet verrast te zijn door het besluit van OpenAI om zich te verzetten tegen de Californische AI Disaster Prevention Act, SB 1047. Daniel Kokotajlo en William Saunders waarschuwden eerder dat OpenAI deelneemt aan de “roekeloze” race om dominantie.
“Sam Altman, onze voormalige baas, heeft herhaaldelijk opgeroepen tot regulering van AI”, schreven ze in een brief gedeeld met Politico, waarin ze de Californische gouverneur Gavin Newsom aanspoorden om het wetsvoorstel te ondertekenen. “Nu de daadwerkelijke regulering op tafel ligt, is hij er tegen.” De twee voegen eraan toe dat “we met de juiste regelgeving hopen dat OpenAI nog steeds zijn missie zal vervullen om AGI veilig te bouwen.”
In reactie op voormalige werknemers zei een woordvoerder van OpenAI dat de startup “het absoluut niet eens is met de verkeerde karakterisering van ons standpunt over SB 1047”, in een verklaring aan TechCrunch. Een woordvoerder wees op de AI-wetgeving in het Congres die OpenAI heeft gesteund, en merkte op dat “grensregels voor AI-beveiliging op federaal niveau moeten worden geïmplementeerd vanwege hun implicaties voor de nationale veiligheid en het concurrentievermogen.”
OpenAI-rivaal Anthropic sprak zijn steun uit voor het ontwerp, bracht specifieke zorgen naar voren en vroeg om wijzigingen. Verschillende zijn sindsdien opgenomen, en donderdag schreef CEO Dario Amodei aan Newsom, waarin hij zei dat “de voordelen van de huidige wet waarschijnlijk opwegen tegen de kosten”, terwijl hij het wetsvoorstel niet volledig steunde.