Garry Tan, president en CEO van Y Combinator, vertelde deze week aan een menigte in de Economic Club van Washington, DC dat “regulering waarschijnlijk noodzakelijk is” voor kunstmatige intelligentie.
Tan sprak met Teresa Carlson, bestuurslid van General Catalyst in een één-op-één interview waarin hij alles besprak, van het instappen in Y Combinator tot AI, en merkte op dat “er geen betere tijd is om in de technologie te werken dan nu.”
Tan zei dat hij “in het algemeen voorstander” was van de inspanningen van het National Institute of Standards and Technology (NIST) om een raamwerk te bouwen om de GenAI-risico’s te beperken en zei dat “grote delen van de EO van de regering-Biden waarschijnlijk op de goede weg zijn.”
Het raamwerk van NIST suggereert zaken als het definiëren dat GenAI moet voldoen aan bestaande wetten die zaken als gegevensprivacy en auteursrecht regelen; het openbaar maken van het gebruik van GenAI aan eindgebruikers; het vaststellen van regelgeving die GenAI verbiedt materiaal met seksueel misbruik van kinderen te maken, enzovoort. Het uitvoeringsbesluit van Biden omvat een breed scala aan bepalingen, van het verplichten van AI-bedrijven om beveiligingsgegevens met de overheid te delen tot het garanderen dat kleine ontwikkelaars eerlijke toegang hebben.
Maar Tan was, net als veel andere Valley VC-bedrijven, op zijn hoede voor andere regelgevende inspanningen. Hij noemde AI-gerelateerde wetsvoorstellen die door de wetgevende macht van Californië en San Francisco gaan ‘zeer verontrustend’.
Naast een controversiële Californische wet is er ook een wet geïntroduceerd door senator Scott Wiener, die de procureur-generaal in staat zou stellen AI-bedrijven aan te klagen als hun waren schadelijk zijn, meldt Politico.
“De grote discussie in bredere beleidszin op dit moment is: hoe ziet een goede versie hiervan er werkelijk uit?” “We kunnen mensen als Ian Hogarth, in Groot-Brittannië, vragen voorzichtig te zijn. Ze hebben ook dit idee van machtsconcentratie in gedachten. Tegelijkertijd proberen ze erachter te komen hoe we innovatie ondersteunen en tegelijkertijd de ergst mogelijke schade beperken.”
Hogarth is een voormalige YC-ondernemer en AI-expert die door Groot-Brittannië is opgenomen in de AI-modelwerkgroep.
“Wat mij bang maakt, is dat als we een sciencefictionprobleem proberen aan te pakken dat er niet is”, zei Tan.
Wat betreft de manier waarop YC omgaat met verantwoordelijkheid, zei Tan dat als de organisatie het niet eens is met de missie van de startup of met wat het product voor de samenleving zou doen, “YC gewoon niet financiert.” Hij merkte op dat hij meerdere keren in de media had gelezen dat het bedrijf zich bij YC had aangemeld.
“We gaan terug en kijken naar de interviewnotities, en het lijkt erop dat we denken dat dit niet goed is voor de samenleving. En gelukkig hebben we het niet gefinancierd”, zei hij.
AI-leiders verpesten de hele tijd
Tan’s begeleiding laat Y Combinator nog steeds ruimte over om veel AI-startups te lanceren als cohort-afgestudeerden. Zoals mijn collega Kyle Wiggers meldde, telde het wintercohort van 2024 86 AI-startups, bijna het dubbele van de batch van Winter 2023 en bijna het drievoudige van het aantal van Winter 2021, volgens de officiële startup-directory van YC.
En door recente nieuwsgebeurtenissen vragen mensen zich af of ze degenen die AI-producten verkopen kunnen vertrouwen om verantwoorde kunstmatige intelligentie te definiëren. Vorige week meldde TechCrunch dat OpenAI zijn AI-verantwoordelijkheidsteam kwijtraakte.
Toen zorgde het debacle ervoor dat het bedrijf een stem gebruikte die klonk als de stem van actrice Scarlett Johansson bij de demonstratie van zijn nieuwe GPT-4o-model. Blijkt dat ze haar vroegen haar stem te gebruiken, maar ze heeft dat afgewezen. OpenAI heeft sindsdien de Sky-stem verwijderd, hoewel het ontkende dat deze op Johansson was gebaseerd. Dat, evenals de problemen rond het vermogen van OpenAI om het eigen vermogen van werknemers terug te verdienen, waren enkele van de zaken die ertoe leidden dat mensen openlijk de scrupules van Sam Altman in twijfel trokken.
Ondertussen haalde Meta zijn eigen AI-nieuws toen het de oprichting aankondigde van een geheel witte AI-adviesraad, waarbij vrouwen en gekleurde mensen feitelijk buiten beschouwing werden gelaten, van wie velen een sleutelrol hebben gespeeld in de creatie en innovatie van de industrie.
Tan noemde geen van deze voorbeelden. Zoals de meeste durfkapitaalbedrijven in Silicon Valley ziet hij kansen voor nieuwe, grote, lucratieve bedrijven.
“We beschouwen startups graag als een doolhof van ideeën”, zegt Tan. ‘Als er een nieuwe technologie verschijnt, zoals grote taalmodellen, wordt het hele labyrint van ideeën door elkaar geschud. ChatGPT zelf was waarschijnlijk een van de snelste consumentenproducten die in de recente geschiedenis zijn uitgebracht. En dat is goed nieuws voor oprichters.”
Kunstmatige intelligentie van de toekomst
Tan zei ook dat San Francisco het centrum is van de AI-beweging. Anthropic, opgericht door YC-alumni, en OpenAI, een spin-out van YC, zijn daar bijvoorbeeld begonnen.
Tan grapte ook dat hij niet in de voetsporen van Altman zal treden, en merkte op dat Altman “een paar jaar geleden mijn baan had, dus er zijn geen plannen om een AI-lab te starten.”
Een van de andere succesverhalen van YC is de juridische technologie-startup Casetext, die in 2023 voor 600 miljoen dollar aan Thomson Reuters werd verkocht. Tan geloofde dat Casetext een van de eerste bedrijven ter wereld was die toegang kreeg tot generatieve kunstmatige intelligentie en daarna een van de de eerste resultaten in generatieve AI.
Kijkend naar de toekomst van AI zei Tan: “We moeten uiteraard slim omgaan met deze technologie”, aangezien deze verband houdt met de risico’s rond bioterrorisme en cyberaanvallen. Tegelijkertijd zei hij dat er een “veel meer afgemeten aanpak” zou moeten zijn.
Hij veronderstelt ook dat er waarschijnlijk geen sprake zal zijn van een ‘winner-takes-all’-model, maar eerder van ‘een ongelooflijke tuin van consumentenkeuze en oprichters die iets kunnen creëren dat een miljard mensen raakt’.
Tenminste, hij wil dat het gebeurt. Dat zou in het belang van hem en YC zijn: veel succesvolle startups geven veel geld terug aan investeerders. Dus wat Tan het meest bang maakt, is niet de kwaadaardige AI van Runamok, maar het gebrek aan AI om uit te kiezen.
“We zouden ons eigenlijk in een andere, echt monopolistische situatie kunnen bevinden, waarin er veel concentratie is in slechts een paar modellen. Dan heb je het over huuronttrekking en heb je een wereld waarin ik niet wil leven.”