Hulpmiddel om AI-nabootsing te voorkomen gekraakt; kunstenaars vragen zich af wat het volgende is

Hulpmiddel om AI-nabootsing te voorkomen gekraakt;  kunstenaars vragen zich af wat het volgende is

Aurich Lawson | Getty-afbeeldingen

Voor veel kunstenaars is het een onzekere tijd om kunst online te publiceren. AI-beeldgeneratoren worden steeds beter in het goedkoop repliceren van een breder scala aan unieke stijlen, en vrijwel elk populair platform haast zich om de gebruikersvoorwaarden bij te werken om te profiteren van de rechten om zoveel mogelijk gegevens te verzamelen om AI te trainen.

Er bestaan ​​verdedigingsmechanismen tegen AI-training, zoals Glaze, een tool die een kleine hoeveelheid voor mensen onmerkbare ruis aan afbeeldingen toevoegt om te voorkomen dat beeldgeneratoren de stijlen van artiesten kopiëren. Maar ze bieden geen permanente oplossing in een tijd waarin technologiebedrijven vastbesloten lijken winst na te jagen door steeds geavanceerdere AI-modellen te bouwen die steeds meer de merken van kunstenaars dreigen te verwateren en op de markt te vervangen.

In een spraakmakend voorbeeld vorige maand klaagde de nalatenschap van Ansel Adams Adobe aan voor het verkopen van AI-afbeeldingen die de stijl van de beroemde fotograaf stelen, meldde het Smithsonian. Adobe reageerde snel en verwijderde de AI-kopieën. Maar het zijn niet alleen bekende kunstenaars die het risico lopen te worden opgelicht, en minder bekende kunstenaars kunnen moeite hebben om te bewijzen dat AI-modellen naar hun werken verwijzen. In deze grotendeels wetteloze wereld riskeert elke geplaatste afbeelding bij te dragen aan de ondergang van de kunstenaar, waardoor mogelijk de vraag naar eigen werk afneemt telkens wanneer zij nieuw werk online promoten.

Het is niet verrassend dat kunstenaars steeds vaker bescherming zoeken om deze AI-risico’s te beperken of te vermijden. Terwijl technologiebedrijven hun productvoorwaarden actualiseren – zoals toen Meta afgelopen december plotseling aankondigde dat het AI trainde op een miljard foto’s van Facebook- en Instagram-gebruikers – zoeken kunstenaars verwoed het landschap af op zoek naar nieuwe verdedigingsmechanismen. Als gevolg hiervan heeft The Glaze Project, als een van degenen die de schaarse AI-bescherming bieden die vandaag de dag beschikbaar is, onlangs een dramatische toename van het aantal verzoeken om zijn gratis tools gerapporteerd.

De tools van The Glaze Project zijn ontworpen om stijlimitatie te helpen voorkomen en zelfs AI-modellen te vergiftigen om het schrapen van gegevens zonder toestemming of compensatie van de kunstenaar te ontmoedigen. Er is nu meer vraag dan ooit naar de tools van The Glaze Project. Professor Ben Zhao van de Universiteit van Chicago, die de tools heeft gemaakt, vertelde Ars dat de achterstand bij het goedkeuren van een “groot” aantal toegangsverzoeken “slecht” is. En zoals hij onlangs op X (voorheen Twitter) heeft gepost, zal de ‘explosie van de vraag’ in juni waarschijnlijk alleen maar voortduren naarmate de AI-bedreigingen zich blijven ontwikkelen. In de nabije toekomst betekent dit dat kunstenaars die bescherming zoeken tegen AI zullen moeten wachten.

Zelfs als het team van Zhao niets anders zou doen dan verzoeken goedkeuren voor WebGlaze, de webgebaseerde versie van Glaze op uitnodiging, “zouden we er waarschijnlijk nog steeds niet mee doorgaan”, zei Zhao. Hij waarschuwde artiesten op X om vertragingen te verwachten.

Terwijl de strijd van kunstenaars wordt verergerd, terwijl de vraag naar Glaze groeit, is de tool onder vuur komen te liggen van beveiligingsonderzoekers die beweren dat het niet alleen mogelijk maar ook gemakkelijk is om de beschermingen van Glaze te omzeilen. Voor beveiligingsonderzoekers en sommige kunstenaars roept deze aanval de vraag op of Glaze kunstenaars in deze moeilijke tijden echt kan beschermen. Maar voor de duizenden kunstenaars die zich bij Glaze aansluiten, ziet de toekomst op de lange termijn er zo somber uit dat elke belofte van bescherming tegen nabootsing het wachten waard lijkt.

Glazuurschieten bij overtreding leidt tot discussie

Miljoenen hebben Glaze al gedownload en veel artiesten wachten weken of zelfs maanden op toegang tot WebGlaze, meestal door uitnodigingsverzoeken in te dienen op sociale media. Project Glaze controleert elk verzoek om te verifiëren dat elke gebruiker een mens is en om er zeker van te zijn dat slechte actoren de tools niet misbruiken, dus het proces kan enige tijd duren.

Het team heeft momenteel moeite om de honderden verzoeken die dagelijks via directe berichten op Instagram en Twitter worden ingediend, goed te keuren in de volgorde waarin ze worden ontvangen, en artiesten die toegang zoeken moeten geduld hebben met langdurige vertragingen. Omdat de inboxen van deze platforms niet zijn ontworpen om berichten gemakkelijk te sorteren, wordt elke artiest die een verzoek volgt, naar het einde van de wachtrij geduwd, terwijl hun bericht bovenaan de inbox stuitert en het team van Zhao, voornamelijk vrijwilligers, verzoeken blijft goedkeuren. van onder naar boven.

“Dit is duidelijk een probleem”, schreef Zhao op X, waarmee hij artiesten ontmoedigde vervolgacties te sturen, tenzij ze al een uitnodiging hebben ontvangen. “Misschien moeten we de manier waarop we telefoneren veranderen en de toekomst van WebGlaze heroverwegen om het levensvatbaar genoeg te houden om een ​​grote en groeiende gebruikersbasis te ondersteunen.”

De belangstelling voor glazuur zal waarschijnlijk ook toenemen door mond-tot-mondreclame. Reid Southen, een freelance conceptkunstenaar voor grote films, pleit ervoor dat alle artiesten Glaze gebruiken. Reid vertelde Ars dat WebGlaze bijzonder “leuk” is omdat het “gratis beschikbaar is voor mensen die niet over de GPU-kracht beschikken om het programma op hun thuiscomputer uit te voeren.”