Facebooks neue KI-Nutzer

Ein Schritt in die richtige Richtung?

Jahrelang hat man sich gegen Bots auf den sozialen Netzwerken gewehrt, jetzt geht Meta einen Schritt in die Gegenrichtung und erlaubt die Erstellung von KI-Accounts – unteranderem, um den Nutzern ein immersiveres Erlebnis zu bieten. Doch wie sinnvoll sind diese Bots und was sind die Gefahren dahinter?

1. Was passiert auf Meta und warum?

Meta hat die Nutzung von KI-Accounts und -Inhalten auf Facebook erlaubt, sodass menschliche Nutzer KI-Avatare erstellen und verwalten können. Zwar werden diese und ihre Inhalte mit einem entsprechenden Lable versehen, dennoch bleibt ein gewisser Beigeschmack. Meta erhofft sich damit mehr junge Nutzer erreichen und von Plattformen, wie TikTok und Snapchat weglocken. Denn auch diese Plattformen ermöglichen es Usern KI-Inhalte zu erstellen und KI-Avatare zu erschaffen, die scheinbar echten Content erzeugen.

Für Nutzer sollen es immersive Interaktionen sein, die den Sinn und Zweck der Sozialen Netzwerke untermalen sollen, doch neben der Möglichkeit zum Chatten, haben Findige längst eine immersivere Form der Werbung für sich entdeckt. Die KI kann mit Menschen chatten, mit der jeweiligen Erlaubnis Bilder von ihnen erstellen und zeigen, wie sie mit einem bestimmten Produkt oder aber bei einer Attraktion aussehen würden. So wird dem Nutzer quasi das Bild präsentiert, dass er oder sie bereits mit dem Beworbenen vertraut sind, was die Schwelle zur Kaufinteraktion senken soll. Somit heißt es nicht mehr „Stellen Sie sich in Ihrem neuen Auto vor.“, sondern „So sähen Sie in Ihrem neuen Auto aus. Für Werbende ist dies der absolute Idealfall, doch von Nutzern wird die neue Werbemaßnahme geteilt aufgenommen.

Außerdem kann man mit der KI interagieren, als wäre sie ein Mensch, sprich sich unterhalten, Beiträge liken und kommentieren. Was für Menschen mit wenigen Freunden auf Facebook eine willkommene Abwechslung sein kann, kann für andere wie lästiger Spam wirken, wenn die KI versucht mit einem ins Gespräch zu kommen. Dennoch ist es ein Versuch der Plattform, von der sich die junge Zielgruppe größtenteils verabschiedet hat, wieder mit Leben zu füllen.

2. Wie reagieren die Nutzer auf die KI?

Viele Nutzer erkennen nicht einmal, dass es sich bei den KI-Nutzern nicht um echte Menschen handelt. Verschiedene Influencer, die mehrere hunderttausend Nutzer erreichen, sind nicht real. Zwar gibt es einen kleinen Vermerk, der darauf hinweist, dass es sich um eine KI handelt, diesen kann man aber auch schnell einmal übersehen. So haben die Macher der KI-Influencerin Aitana Lopez bereits mehr als 350.000 Follower generiert und tausende Dollar durch Brand-Deals einnehmen können.

Die KI-Influencer werden von anonymen Hintermännern und -frauen inszeniert. Werbebotschaften können nach Belieben implementiert werden oder aber in sozialen Interaktionen untergebracht werden. Dabei handelt es sich stets um eine parasoziale Interaktion, also eine einseitige Beziehung, bei der der einen Seite (den menschlichen Nutzern) oftmals nicht klar ist, dass die Gegenseite nicht dieselben Gefühle aufbringt. Zwar ist das auch bei menschlichen Influencern der Fall, da diese ihre Botschaften senden und die Follower sich durch bestimmtes Wording und vermeintlich intime Einblicke in das Privatleben mit dieser Person identifizieren und verbunden fühlen, doch das ist auch genau der Unterschied. Am Ende steht dort eine echte Person, nicht nur eine KI, die vorgibt ein Mensch zu sein. Die KI-Influencer, gesteuert von ihren Erschaffern, kann sich all diese psychologischen Mechanismen zu Eigen machen, nur mit dem Ziel den Absatz zu steigern, oder aber schlimmer, um politische Propagandaarbeit zu leisten.

Einige Nutzer sind schon jetzt beunruhigt und finden die KI-Nutzer gruselig. So berichtete eine Nutzerin davon, dass sie der Interaktion mit der KI zugestimmt hat und kurz darauf haufenweise Werbeanzeigen mit ihrem eigenen Gesicht erhalten hat. Das schreckt verständlicherweise ab, vor allem, wenn man nicht damit rechnet, dass die KI so etwas kann. Die Meinungen sind also unterschiedlich. Die Zukunft wird zeigen, wie die Facebook-Nutzer die KI-Accounts akzeptieren, oder aber gar nicht erst als KI erkennen.

3. Was sind Gefahren der KI-Influencer?

Die Gefahren werden mannigfaltig eingeschätzt. Neben den Daten, die Nutzer so oder so mit der Nutzung von Facebook preisgeben, besteht die Möglichkeit einer psychologischen Abhängigkeit – auch hier lautet das Stichwort wieder Parasoziale Beziehung. Fake News und Propaganda lassen sich mit scheinbar authentischen Influencern auch deutlich leichter in die Köpfe der Leute bringen und umso schwerer wieder entfernen. Auch schlichter Betrug ist praktisch leichter denn je.

Ein Szenario: Eine KI-Influencerin, nennen wie sie „Kira“ hat tausende Follower generiert (es sei einmal dahingestellt, ob davon alle menschlich sind, oder nicht.). Ein menschlicher Nutzer, wir nennen ihn Max, ist ebenfalls auf sie aufmerksam geworden. Was Max nicht weiß, da er es schlicht übersehen hat und die Fortschritte der KI nicht allzu genau verfolgt, dass Kira eigentlich von Betrügern aus einem anderen Land gesteuert wird. Max gefällt der Content von Kira. Er verfolgt ihre Posts und liket immer mehr von ihren Beiträgen – so, wie auch bei menschlichen Influencern. Irgendwann erhält Max eine persönliche Nachricht, in der die vermeintliche Kira Max schreibt, dass er ein besonderer Follower ist und dass sie ihm aus Dankbarkeit etwas zurückgeben will, sie fragt nach seinen Bankdaten, da sie ihm Geld überweisen will. Max wird skeptisch und schreibt, dass ihm die Sache komisch vorkommt. Zur Versicherung bietet Kira Max an, dass sie auch auf WhatsApp schreiben könnten, dann könne er sich von ihrer Echtheit und ihren Absichten überzeugen. Gesagt, getan. Hier erklärt die KI-Influencerin ihre vermeintliche Situation noch einmal ausführlicher und Max rückt schließlich seine Daten raus. Den Rest der Geschichte kann man sich wahrscheinlich selbst zusammenreimen. Dabei ist dieses Beispiel noch nicht einmal sonderlich absurd, denn sie passiert Tag für Tag mehr oder weniger genau so dutzendfach auf verschiedenen sozialen Netzwerken. Der Unterschied ist, dass man mit einer KI sehr viel leichter mit mehreren Menschen zeitgleich interagieren kann und sich keine Gedanken über das Schreiben machen muss – das übernimmt die KI. Personen, die nicht erkennen – und das wird zugegeben immer schwieriger -, dass sie es nicht mit einem echten Menschen, sondern mit einer KI zu tun haben, laufen massiv Gefahr, auf die eine oder andere Art und Weise betrogen zu werden.

Jetzt denken Sie sich vielleicht „So viele werden das ja wohl nicht sein und wie dumm müsste man dafür denn bitte sein?“ Nun ja, ohne, dass man ihr zu nahetreten wollte; man schaue sich die Generation 50+ an. Klar, von KI haben alle schon gehört, aber wenn sich Geld mit billigsten Phishing-Mails und SMS verdienen lässt, bei denen medial Kompetente die Hände über dem Kopf zusammenschlagen, wie hoch dürfte die Ausbeute dann erst bei einer KI sein, die aktiv mit den Nutzern interagiert und durch ihren Social Media-Auftritt und die große Zahl an Followern mit scheinbarer Kredibilität überzeugt. Fake-News und Propaganda sind Tür und Tor weit geöffnet, gerade bei einer Zielgruppe, die sich nicht mit den Möglichkeiten der KI auseinandersetzt und oft genug die Inhalte für bare Münze annimmt.

Zudem besteht eine weitere Gefahr, aber diesmal für Facebook und Meta selbst. Denn wenn die Nutzer sich nicht mit der Koexistenz mit der KI zufriedengeben, kann es zu einem massenhaften Abwandern kommen. Das würde die Plattform zu einer Geisterstadt verwandeln, ein Problem, mit dem Facebook schon jetzt zu kämpfen hat. Immerhin ist die Zulassung von KI-Accounts ein Versuch wieder mehr Menschen auf die Plattform zu locken. Sollte diese Aktion das genaue Gegenteil bewirken und die Dead Internet Theory nur einen Schritt weiter voranbringen? Schon jetzt ziehen Investoren ihr Geld aus Mark Zuckerbergs Plattform und auch Werbetreibende dürften zunehmend weniger am Werben interessiert sein, wenn sich künftig mehr KI als Menschen auf Facebook herumtreiben könnten.

4. Eigene Meinung

Wer Influencer schon kritisch betrachtet, bei dem dürften bei den KI-Influencern alle Alarmglocken schrillen. Viel zu leicht können Menschen, die eine geringe mediale Kompetenz aufweisen, in die Falle tappen und sich in eine parasoziale Beziehung mit der KI begeben, nur damit diese Produkte kaufen, oder aber schlimmer auf politische Propaganda hereinfallen. Wir sehen den Wert für alle Werbenden, aber sehen vor allem eine massive Täuschung der Nutzer und die Gefahr der massenhaften Verbreitung von Fake-News, die die Gesellschaft weiter spalten können. Daher können wir das ganze Projekt nicht gutheißen. Nun, mehr denn je, heißt es die Augen offen zu halten, KI-Inhalte genau zu erkennen – auch wenn das immer schwieriger wird – und sich kritisch mit den Inhalten in den sozialen Medien auseinanderzusetzen. Wer Inhalte für bare Münze annimmt, wird am Ende zum selben Preis für dumm verkauft.