India heeft technologiebedrijven gewaarschuwd dat het bereid is een verbod op te leggen als ze geen proactieve maatregelen nemen tegen deepfake-video’s, zei een hoge minister, na een waarschuwing van een beroemdheid over een deepfake-advertentie die zijn imago gebruikt om een gaming-app te onderschrijven.
De strenge waarschuwing komt omdat New Delhi in november vorig jaar adviesmaatregelen volgt over komende regelgeving om de verspreiding van deepfake-media te identificeren en te beperken. Rajeev Chandrasekhar, vice-minister van IT, zei dat het ministerie van plan is om volgende week de nationale IT-regels te wijzigen om definitieve wetten in te voeren ter bestrijding van namaak uit diepe zakken. Hij uitte zijn ongenoegen over het feit dat technologiebedrijven het eerdere advies van de regering over manipulatieve inhoud opvolgen.
“Als een platform denkt weg te kunnen komen door deep-fake-video’s niet te verwijderen, of er gewoon een informele benadering van te hanteren, hebben we de macht om onze burgers te beschermen door dergelijke platforms te blokkeren”, zei Chandrasekhar op een persconferentie.
Chandrasekhar zei dat het ministerie technologieplatforms openlijk heeft geïnformeerd dat het niet effectief bestrijden van deepfakes juridische gevolgen zal hebben van New Delhi. Deepfake-inhoud is illegaal en gevaarlijk en het is onaanvaardbaar dat bedrijven zich verschuilen achter ‘best effort’-claims en tegelijkertijd toestaan dat deze verzinsels zich verspreiden, zei hij.
Deepfakes haalden opnieuw de krantenkoppen in India toen nationaal cricketicoon Sachin Tendulkar deze week de sociale media gebruikte om zijn talloze fans te waarschuwen dat frauduleus gemanipuleerde videoadvertenties die zijn video gebruikten om een online gokplatform te promoten nep waren.
“Het is verontrustend om het massale misbruik van technologie te zien”, schreef hij in de post. “Socialemediaplatforms moeten alert zijn en reageren op klachten. Snelle actie van hun kant is van cruciaal belang om de verspreiding van desinformatie en desinformatie te stoppen.”
De zorgen over de mogelijke verspreiding van deepfakes nemen toe in de aanloop naar de algemene verkiezingen in India, die naar verwachting begin april zullen beginnen. IT-minister Ashwini Vaishnaw zei eind vorig jaar dat technologieplatforms de ernst van deepfake-inhoud begrepen en het erover eens waren dat dergelijke media niet beschermd mogen worden door verdedigingsmechanismen voor de vrijheid van meningsuiting.