AI jat video's van Oekraïense vrouw en verandert haar in Chinees sprekende Russische propagandist
In China en Rusland worden op sociale media video’s gedeeld van een jonge Oekraïense vrouw die vurig over de innige vriendschap tussen Rusland en China spreekt en Russische producten promoot. Alleen, de vrouw in kwestie heeft die video’s nooit zelf opgenomen. Haar beeltenis is door Chinese kunstmatige intelligentie van YouTube gehaald en wordt nu gebruikt als propagandamiddel.
De 21-jarige Olga Loiek woont en studeert nu in het Amerikaanse Pennsylvania. Haar familie is nog altijd in het door Rusland binnengevallen Oekraïne. Ze noemt het “griezelig” dat ze zichzelf nu pro-Russische boodschappen ziet en hoort verkondigen: “Ik wil niet dat iemand denkt dat ik ooit in mijn leven deze vreselijke dingen heb gezegd. Een Oekraïens meisje gebruiken als gezicht van Rusland-promotie. Het is waanzin."
De accounts met haar beeltenis hebben allemaal verschillende namen, van Sofia tot Natasha, April en Stacy. Ze spreken ook geen Russisch, maar Mandarijn. Allemaal zeggen ze uit Rusland te komen en benadrukken ze het belang van een sterk bondgenootschap tussen Rusland en China. Een van de accounts, waarin de zogenaamde Natasha dingen zegt als “‘Rusland is het beste land. Het is triest dat andere landen zich van Rusland afkeren” heeft 300.000 volgers.
De eerste accounts doken op in 2023, kort nadat Olga Loiek een YouTube-kanaal opende waarop ze maar sporadisch een video van zichzelf deelde. Krap een maand later kwamen de eerste berichten al binnen van mensen die haar Chinees hadden zien spreken op video’s. Tot nu toe heeft ze ongeveer 35 accounts gevonden die haar stem en beeltenis gebruiken, goed voor ongeveer 4.900 video’s met een nep-Olga.
Het bedrijf achter de AI-tool die met Olga’s beeltenis aan de haal is gegaan, HeyGen, zegt dat ze er zelf niets mee te maken en dat hun software is “gehackt” om “ongeautoriseerde inhoud” te creëren. Ook zeggen ze tegen de BBC dat ze inmiddels hun beveiligingsprotocollen hebben bijgewerkt. Angela Zhang van de Universiteit van Hong Kong zegt echter dat wat Olga is overgekomen “heel gebruikelijk” is in China. Volgens haar is het land “de thuisbasis van een enorme ondergrondse economie die gespecialiseerd is in namaak, het verduisteren van persoonlijke gegevens en het produceren van deepfakes”.
Hoewel er wereldwijd wordt geprobeerd misbruik van kunstmatige intelligentie en het vervaardigen van deep fakes aan banden te leggen – ook China heeft het burgerlijk wetboek aangepast om het portretrecht te beschermen tegen digitale fabricage – is het moeilijk gebleken adequate regelgeving hierover in te voeren. Niet in de laatste plaats omdat het internet nog altijd een grotendeels ongereguleerde omgeving is waar moeilijk vat op te krijgen is.
De meest effectieve methode om identiteitsdiefstal zoals bij Olga gebeurd is te voorkomen, lijkt dan ook een simpele: deel geen beelden van jezelf. Olga zelf is dat niet van plan. Ze wil zich niet door kwaadwillende AI-gebruikers van het internet laten verjagen. Met behulp van Chinese internetgebruikers heeft ze inmiddels onder veel van de video’s laten weten dat het nep is en dat zij er niets mee te maken heeft. Een aantal video’s is inmiddels verwijderd.