Russische manipulatie van westerse AI-chatbots onthuld

Volgens een vandaag gepubliceerd bericht in SPIEGEL heeft een Russisch desinformatienetwerk westerse AI-chatbots besmet. Onderzoek van de organisatie NewsGuard toont aan dat meer dan een derde van de antwoorden van AI-systemen zoals ChatGPT en Perplexity AI pro-Kremlin propaganda bevatten. De Amerikaanse overheid waarschuwt voor de gevaren van deze manipulatie.

Gecoördineerde desinformatiecampagne
Het Russische desinformatienetwerk, bekend als Prawda, verspreidt wereldwijd Kremlin-propaganda en heeft een methodiek ontwikkeld om AI-taalmodellen te voeden met valse informatie. NewsGuard onderzocht tien veelgebruikte AI-chatbots, waaronder ChatGPT-4, Meta AI, Google Gemini en Copilot. Uit het onderzoek blijkt dat zeven van deze chatbots zelfs artikelen van Prawda als bron citeerden.

Volgens de onderzoekers worden grote taalmodellen (LLM’s) doelgericht overspoeld met misinformatie, een strategie die bekendstaat als LLM Grooming. Dit zorgt ervoor dat deze modellen niet alleen bestaande online desinformatie oppikken, maar ook actief worden beïnvloed door kwaadwillende actoren.

Desinformatie op mondiale schaal
Een aparte studie van het American Sunlight Project toont aan dat het Prawda-netwerk zich uitstrekt over tientallen landen en talen. Volgens de organisatie is de schaal van deze desinformatiecampagne ongekend en vormt het een directe bedreiging voor de integriteit van democratische debatten wereldwijd.

„Met de groeiende reikwijdte en verfijning van Russische invloedcampagnes wordt de wereldwijde democratische dialoog in gevaar gebracht,“ aldus Nina Jankowicz, directeur van het American Sunlight Project.

Gebrek aan tegenmaatregelen
Ondanks de dreiging wordt er weinig ondernomen om deze desinformatie tegen te gaan. Amerikaanse experts wijzen op het besluit van minister van Defensie Pete Hegseth om de cyberoperaties tegen Rusland voorlopig stop te zetten. Hierdoor worden alle Amerikaanse tegenmaatregelen opnieuw beoordeeld, terwijl de Russische propaganda ongestoord verdergaat.

De bevindingen werpen belangrijke vragen op over de betrouwbaarheid van AI-systemen en de kwetsbaarheid van grote taalmodellen voor manipulatie. Nu AI steeds meer wordt gebruikt voor informatievoorziening, lijkt de strijd tegen desinformatie complexer dan ooit.

Dit artikel is ook verschenen op Duitsland Vandaag.