Ed Newton-Rex zegt dat generatieve AI een ethisch probleem heeft. Hij kan het weten, want hij maakte ooit deel uit van een snelgroeiende industrie. Newton-Rex was de belangrijkste AI-ontwerper van TikTok en vervolgens CEO van Stability AI, totdat hij in november ontslag nam vanwege het standpunt van het bedrijf over het verzamelen van trainingsgegevens.
Na zijn spraakmakende vertrek stortte Newton-Rex zich in gesprek na gesprek over hoe het ethisch bouwen van AI er in de praktijk uit zou zien. “Het viel me op dat er veel mensen zijn die generatieve AI-modellen willen gebruiken die makers eerlijk behandelen”, zegt hij. “Als je ze betere besluitvormingsinstrumenten kunt geven, helpt dat.”
Nu heeft Newton-Rex een nieuwe non-profitorganisatie gelanceerd, Fairly Trained, om mensen precies dat soort besluitvormingsinstrument te bieden. Het biedt een certificeringsprogramma om AI-bedrijven te identificeren die hun trainingsgegevens in licentie geven. De AI-industrie heeft nu zijn eigen versie van die ‘fair trade’-certificeringslabels die je op koffie ziet.
Om het certificeringsmerk van Fairly Trained, genaamd L-certificering, te verdienen, moet een bedrijf aantonen dat zijn trainingsgegevens expliciet in licentie zijn gegeven voor trainingsdoeleinden, zich in het publieke domein bevinden, worden aangeboden onder een geschikte open licentie, of al eigendom zijn van het bedrijf.
Tot nu toe zijn negen bedrijven gecertificeerd, waaronder beeldgenerator Bria AI, die uitsluitend traint op gegevens onder licentie van bronnen als Getty Images, en muziekgeneratieplatform LifeScore Music, dat licenties verleent voor het werk van alle grote platenlabels. Verschillende anderen zijn bijna klaar met het behalen van hun certificering. De non-profitorganisatie rekent een vergoeding van $ 500 tot $ 6.000, afhankelijk van de grootte van de functie van de kandidaat.
OpenAI – ‘s werelds toonaangevende generatieve AI-bedrijf – heeft onlangs beweerd dat het onmogelijk is om generatieve AI-diensten zoals ChatGPT te creëren zonder gebruik te maken van gegevens zonder licentie. Newton-Rex en de eerste bedrijven die het Fairly Certified-keurmerk hebben ontvangen, zijn het daar niet mee eens. “We beschouwen het al als iets verplichts”, zegt Yair Adato, CEO van Bria, over de licentiegegevens. Hij vergelijkt AI-modellen die zijn gebouwd op gegevens zonder licentie met Napster en Pirate Bay, en zijn eigen bedrijf met Spotify. “Het is heel gemakkelijk voor ons om aan de regels te voldoen”, zegt Tom Gruber, medeoprichter van Lifescore Music, die ook een Fairly Certified-adviseur is. “De muziekindustrie geeft echt om herkomst en rechten.”
Newton-Rex zegt dat het de steun krijgt van handelsgroepen als de Publishers Association of America en de Association of Independent Music Publishers, maar ook van bedrijven als Universal Music Group. Maar de beweging om een einde te maken aan de standaardaanpak van de AI-industrie, waarbij naar believen trainingsgegevens worden verzameld, staat nog in de kinderschoenen. En Fairly Trained is een eenmanszaak. Niet dat Newton-Rex het erg vindt; heeft nog steeds de mentaliteit van een startup-oprichter. “Ik geloof in het vroeg afleveren van dingen”, zegt hij.
De non-profitorganisatie is ook niet de enige die probeert het idee van het labelen van AI-producten met informatie over hun ingrediënten te standaardiseren. Howie Singer, voormalig CEO van Warner Music Group, die nu onderzoekt hoe technologie de muziekindustrie verandert, ziet overeenkomsten tussen Fairly Trained en het Content Authority Initiative, een project onder leiding van Adobe om mensen te helpen de authenticiteit van afbeeldingen te achterhalen. “Dit is een goede stap”, zegt hij over het Newton-Rex-project.