Met Figma’s nieuwe Make Designs-tool kunnen gebruikers snel applicaties bouwen met behulp van generatieve kunstmatige intelligentie. Het is nu ingetrokken nadat de tool ontwerpen produceerde die opvallend veel leken op de iOS-weer-app van Apple. CEO van Figma, Dylan Field, plaatste dinsdagochtend vroeg een draad op X waarin hij de verwijdering uiteenzette, waarbij hij zichzelf de schuld gaf omdat hij het team ertoe had aangezet de deadline te halen en de aanpak van het bedrijf bij het ontwikkelen van zijn AI-tools verdedigde.
In een post op X liet Andy Allen, CEO van Not Boring Software, zien hoe dicht de Figma-tool van Make Designs leek op het repliceren van de weer-app van Apple. “Een waarschuwing voor alle ontwerpers die de nieuwe Make Designs-functie gebruiken: ze willen misschien bestaande applicaties grondig controleren of de resultaten aanzienlijk aanpassen, zodat ze niet onbewust in juridische problemen terechtkomen”, schreef Allen.
In een interview op dinsdag met Figma CTO Kris Rasmussen vroeg ik hem direct of Make Designs getraind was in het ontwerpen van Apple-apps. Zijn reactie? Hij kon het niet met zekerheid zeggen. Figma was helemaal niet verantwoordelijk voor het trainen van de AI-modellen die het gebruikte.
“We hebben niet getraind als onderdeel van de generatieve AI-functies”, zei Rasmussen. De functies worden “aangestuurd door standaardmodellen en aangepaste ontwerpen die we hebben besteld, wat het onderliggende probleem lijkt te zijn.”
Dat komt in grote lijnen overeen met wat hij maandag op X zei in reactie op een gebruiker die suggereerde dat Make Designs was getraind in bestaande apps. “Zoals we vorige week zeiden toen we Figma AI lanceerden, was er geen training betrokken bij deze functie of een van onze generatieve functies”, schreef hij. “We onderzoeken in hoeverre er overeenkomsten zijn in de functionaliteit van de modellen van derden die we gebruiken en de ontwerpsystemen die we hebben laten gebruiken voor de modellen en zullen deze indien nodig aanpakken.”
Field zei in zijn eigen thread dat de functie Make Designs “niet is getraind op Figma-inhoud, communitybestanden of app-ontwerpen” en merkte op dat de “beschuldigingen over datatraining in deze tweet vals zijn.” Hij zei dat het probleem met de aanpak van het bedrijf is dat “de variabiliteit te laag is”.
De belangrijkste AI-modellen die Make Designs aandrijven zijn OpenAI GPT-4o en Amazons Titan Image Generator G1, aldus Rasmussen. Als het waar is dat Figma zijn AI-tools niet heeft getraind, maar ze toch soortgelijke Apple-apps uitspugen, zou dat erop kunnen wijzen dat de modellen van OpenAI of Amazon zijn getraind op de ontwerpen van Apple. OpenAI en Amazon reageerden niet onmiddellijk op een verzoek om commentaar.
Rasmussen beweerde dat Figma geen enkele training wilde doen om de functies ervan te verbeteren totdat het open was met zijn gebruikers over zijn AI-trainingsbeleid, dat het vorige week ook onthulde. Als onderdeel van deze regels hebben gebruikers tot 15 augustus de tijd om te beslissen of ze zich willen aan- of afmelden voor het gebruik van hun inhoud voor Figma-training. (De Starter- en Professional-abonnementen zijn standaard ingeschakeld, terwijl de Organization- en Enterprise-abonnementen standaard zijn uitgeschakeld.)
Ik vroeg of Figma van plan is zijn eigen modellen te trainen – wat, gezien het nieuwe AI-trainingsbeleid van het bedrijf, iets lijkt dat zal gebeuren. “We zien zeker mogelijkheden om je ontwerpworkflows echt te verfijnen door deze modellen te leren ontwerpen in de context van Figma”, aldus Rasmussen. Echter, “we zullen stappen ondernemen om ervoor te zorgen dat onze eigen modellen of elke verfijning die we doen met open source-modellen alleen algemene ontwerppatronen en specifieke Figma-ontwerpconcepten leren, zodat ze betere hulpmiddelen kunnen zijn voor professionele ontwerpers.”
Ik vroeg Rasmussen ook hoe Figma van plan is zijn processen op te lossen om potentiële problemen in de toekomst op te vangen. “We gebruiken een ontwerpsysteem op maat om ervoor te zorgen dat er voldoende variatie is en dat het voldoet aan onze kwaliteitsnormen”, zei hij. “Dat is de oorzaak van het probleem. Maar we zullen extra voorzorgsmaatregelen nemen voordat we deze weer inschakelen [Make Designs] om ervoor te zorgen dat de hele functie voldoet aan onze kwaliteitsnormen en aansluit bij onze waarden.”
Rasmussen wees ook op het feit dat Make Designs zich in bèta bevindt. “Bèta’s zijn per definitie niet perfect. Maar het is veilig om te zeggen, zoals Dylan in zijn tweet deelde, dat we dit specifieke probleem gewoon niet hebben onderkend. En dat hadden we ook moeten doen.”
Rasmussen zei dat Figma verwacht Make Designs binnenkort weer mogelijk te maken. Andere Figma AI-functies blijven beschikbaar in de bètaversie. (Om toegang te krijgen tot de AI-functies van Figma, moet u zich aanmelden op de wachtlijst.)
Figma is het nieuwste bedrijf dat onder de loep wordt genomen vanwege zijn aanpak om AI in zijn creatieve tools te introduceren. Adobe moest duidelijk maken dat het uw werk niet zal gebruiken om zijn AI te trainen nadat het heeft gereageerd op wijzigingen in de servicevoorwaarden. En Meta moest zijn AI-tags wijzigen nadat fotografen klaagden dat de oude tag onjuist was toegepast op echte foto’s.