KI-generierte Propaganda überflutet soziale Medien – wer steckt dahinter?
Karl-Friedrich Wieloch
KI-generierte Propaganda überflutet soziale Medien – wer steckt dahinter?
KI-generierte Inhalte verbreiten sich in sozialen Medien – eine Mischung aus Propaganda, Betrug und politischer Botschaften, die immer schwerer zu durchschauen ist. Von rechtsextremen Memes bis zu gefälschten Interviews verschwimmt die Grenze zwischen Echtheit und künstlich erzeugten Inhalten. Das führt zu neuen Regulierungen und wirft Fragen nach der Integrität demokratischer Prozesse auf.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
In Deutschland nutzen rechtsextreme Gruppen bereits KI, um angebliche "Straßenumfragen" zu fabrizieren. Ein Beispiel: Eine blond gefärbte 18-Jährige fordert darin in verspielt-animehaftem Stil – inspiriert von Studio-Ghibli-Ästhetik – Abschiebungen. Die Taktik zielt darauf ab, radikale Botschaften durch vertraute, harmlos wirkende Bilder salongfähig zu machen.
Auch das Weiße Haus setzt auf KI-gestützte Propaganda: Seit der Zuspitzung der Konflikte mit dem Iran inszeniert es digitale Militärparaden in sozialen Medien. Die Posts kombinieren machohafte Schaueffekte mit spielerischen, an Computerspiele erinnernden Elementen – gezielt auf junge Männer zugeschnitten. Popkulturelle Anleihen, von rechtsextremen Memes bis zu niedlichen Motiven, verstärken die Wirkung zusätzlich.
Gleichzeitig nutzen KI-generierte Accounts aktuelle Ereignisse, um Reichweite aufzubauen – nur um später auf Betrug umzuschwenken. Gefälschte Rabbiner, die fragwürdige Finanztipps geben oder bezahlte E-Books anpreisen, sind nur ein Beispiel. Manche Profile springen zwischen politischer Agitation und kriminellen Machenschaften hin und her, um aus jeder Aufmerksamkeit Profit zu schlagen.
Die EU wird ab August eine Kennzeichnungspflicht für KI-Inhalte einführen. Das Ziel: Nutzer:innen sollen zwischen echtem und synthetischem Material unterscheiden können. Doch überzogene Satire, die KI-Fälschungen entlarvt, birgt ein Risiko: Sie könnte das Vertrauen in echte Inhalte untergraben – mit Folgen für die demokratische Kultur.
Deutschlands etablierte Parteien verzichten zwar weitgehend auf populistische KI-Fälschungen, setzen aber zunehmend KI-Werkzeuge für Social-Media-Grafiken ein. Die Politikwissenschaftlerin Katharina Nocun, die sich mit Desinformation beschäftigt, warnt: Diese Entwicklungen könnten das öffentliche Vertrauen in authentische Informationen weiter aushöhlen.
Je schwerer KI-Inhalte zu erkennen sind, desto größer wird ihr Einfluss auf Politik und Gesellschaft. Kennzeichnungspflichten sind ein Schritt – doch die Verbreitung von Betrug, Propaganda und satiriegetriebener Verunsicherung bleibt eine dauerhafte Herausforderung. Der Wandel erfordert Wachsamkeit von Plattformen, Regulierern und Nutzer:innen gleichermaßen.
