Deepfakes van uw overleden dierbaren zijn een bloeiende Chinese business

In Chinese huizen is het gebruikelijk om enkele jaren na het overlijden een portret van een overleden familielid op te hangen. Zhang Zewei, oprichter van een in Shanghai gevestigd bedrijf genaamd Super Brain, zegt dat hij en zijn team die traditie wilden herstellen met een “AI-fotolijst”. Ze maken avatars van overleden dierbaren die vooraf zijn geladen op een Android-tablet, die er rechtop uitziet als een fotolijstje. Klanten kunnen een bewegend beeld selecteren dat woorden uitspreekt die uit een offline database of uit LLM zijn gehaald.

“In de kern verschilt het niet veel van een traditioneel portret, behalve dat het interactief is”, zegt Zhang.

Zhang zegt dat het bedrijf sinds maart 2023 digitale replica’s heeft gemaakt voor meer dan 1.000 klanten en dat het tussen de $700 en $1.400 in rekening brengt, afhankelijk van de gekochte dienst. Het bedrijf is van plan binnenkort een app-only product uit te brengen, zodat gebruikers toegang hebben tot de avatars op hun telefoon, en de prijs verder kan verlagen tot ongeveer $ 140.

Het doel van zijn producten is volgens Zhang therapeutisch. “Als je iemand echt mist of troost nodig hebt tijdens bepaalde vakanties, kun je met kunstleven praten en je innerlijke wonden helen”, zegt hij.

Ook al is dat gesprek grotendeels eenzijdig, het past in een sterke culturele traditie. Elk jaar in april vegen de Chinezen tijdens het Qingming-festival de graven van hun voorouders, verbranden stokken en neppapiergeld en vertellen hen wat er het afgelopen jaar is gebeurd. Natuurlijk waren die gesprekken altijd eenrichtingsverkeer.

Maar dit is niet bij alle Super Brain-diensten het geval. Het bedrijf biedt ook nepvideogesprekken waarbij een medewerker van het bedrijf of een gecontracteerde therapeut zich voordoet als een overleden familielid. Met behulp van DeepFace, een open source-tool die gelaatstrekken analyseert, wordt het gezicht van een overleden persoon in 3D gereconstrueerd en vervangen door het gezicht van een levend persoon met behulp van realtime filters.

Een voorbeeld van een deepfake-videogesprek dat Super Brain in juli 2023 voerde. Het gezicht in de rechterbovenhoek is van de overleden zoon van de vrouw.

SUPER HERSENEN

Aan de andere kant van het gesprek zit meestal een ouder familielid dat misschien niet weet dat een familielid is overleden – en wiens familie het gesprek als een list heeft bedacht.

Jonathan Yang, een inwoner van Nanjing die in de technologische industrie werkt, betaalde in september 2023 voor deze dienst. Zijn oom kwam om bij een bouwongeluk, maar de familie aarzelde om het aan Yang’s grootmoeder te vertellen, die 93 is en in slechte gezondheid verkeert. Ze waren bang dat ze het verwoestende nieuws niet zou overleven.