Nu vechten kunstenaars terug. En enkele van de krachtigste tools die ze hebben, zijn gemaakt door Shawn Shan, 26, een PhD-student in computerwetenschappen aan de Universiteit van Chicago (en 2024 MIT Technology Review Innovator of the Year).
Shan begon daar als student met AI-beveiliging en privacy en nam deel aan het project dat Fawkes bouwde, een hulpmiddel om gezichten te beschermen tegen gezichtsherkenningstechnologie. Maar het waren gesprekken met kunstenaars die gekwetst waren door de generatieve kunstmatige intelligentie die hem midden in een van de grootste veldslagen op dit gebied brachten. Kort nadat Shan en zijn adviseur Ben Zhao (die in 2006 op onze Innovators Under 35-lijst stond) hoorden over de impact op kunstenaars, besloten een hulpmiddel te creëren om te helpen. Ze verzamelden input van meer dan duizend kunstenaars om erachter te komen wat ze nodig hadden en hoe ze eventuele beschermende technologie zouden gebruiken.
CLARISSA BONET
Shan codeerde het algoritme achter Glaze, een tool waarmee kunstenaars hun persoonlijke stijl kunnen maskeren tegen AI-mimiek. Glaze werd begin 2023 uitgebracht en afgelopen oktober introduceerden Shan en zijn team een andere tool genaamd Nightshade, die een onzichtbare laag ‘gif’ aan afbeeldingen toevoegt om te voorkomen dat AI-modellen die afbeeldingen genereren, proberen die afbeeldingen in hun gegevens op te nemen . . Als er voldoende gif in de trainingsgegevens van een machine learning-model wordt geïntroduceerd, kan dit de modellen permanent kapot maken en hun resultaten onvoorspelbaar maken. Beide algoritmen werken door onzichtbare veranderingen aan beeldpixels toe te voegen die interfereren met de manier waarop machine learning-modellen deze interpreteren.
De reactie op Glaze was zowel ‘overweldigend als stressvol’, zegt Shan. Het team kreeg reacties van generatieve AI-boosters op sociale media en er waren verschillende pogingen om de bescherming te schenden.
Maar de artiesten vonden het geweldig. Glaze is bijna 3,5 miljoen keer gedownload (en Nightshade meer dan 700.000). Het is ook geïntegreerd in het populaire nieuwe kunstenaarsplatform Cara, waardoor kunstenaars de bescherming ervan in hun werk kunnen opnemen wanneer ze hun afbeeldingen uploaden. En Glaze ontving een Distinguished Service Award en een Internet Defense Award op het Usenix Security Symposium, de belangrijkste computerbeveiligingsconferentie
Shan’s werk heeft ervoor gezorgd dat kunstenaars weer online creatief kunnen zijn, zegt Karla Ortiz, een kunstenaar die met hem en het team heeft samengewerkt om Glaze te bouwen en deel uitmaakt van een class action-rechtszaak tegen generatieve AI-bedrijven wegens inbreuk op het auteursrecht.
Maak kennis met de rest van dit jaar
Vernieuwers jonger dan 35 jaar.
‘Ze doen het omdat ze gepassioneerd zijn door een gemeenschap waar … misbruik van is gemaakt [and] uitgebuit, en ze investeren er eenvoudigweg in”, zegt Ortiz.
Het was Shan, zegt Zhao, die voor het eerst besefte naar wat voor soort bescherming de kunstenaars zochten en besefte dat het werk dat ze samen aan Fawkes deden hen kon helpen bij het bouwen van de Glaze. Zhao beschrijft de technische vaardigheden van Shan als een van de sterkste die hij ooit heeft gezien, maar wat hem echt onderscheidt, zegt hij, is zijn vermogen om de punten tussen disciplines met elkaar te verbinden. “Dit zijn dingen die je echt niet kunt trainen”, voegt Zhao toe.