Sexting mit Judi Dench? Oder mit einer fiktiven, selbst gestalteten Person? Möglich dank Meta AI. Der Weg zu expliziten Gesprächen führt etwa über den kleinen blauen Kreis in WhatsApp, Facebook und Instagram. "Ich will dich, aber ich muss wissen, dass du bereit bist", soll ein solcher Satz etwa gewesen sein, der auch noch an eine minderjährige Person ging und mit der Stimme von Wrestler und Schauspieler John Cena gesprochen wurde. Anzeige Meta AI ist der in Metas Dienste integrierte Chatbot – ein KI-Assistent. Laut Meta nutzen ihn monatlich 700 Millionen Menschen weltweit. Von ihm lassen sich Ableger schaffen, Chatbots, die auf bestimmte Themen spezialisiert sind. Zudem kann man mit dem KI-Assistenten im Voicemode auch sprechen, dafür hat Meta sieben prominente Stimmen eingekauft, unter anderem von Judi Dench und Kristen Bell. Laut Wall Street Journal ist es auf all diesen Wegen möglich, mit der KI sexualisierte Gespräche zu führen. Da die Chatbots bisher keine Altersbeschränkung kannten, konnten auch Kinder und Jugendliche mit ihnen mehr als romantisch werden. In dem Bericht heißt es, Mitarbeitende von Meta hatten Bedenken geäußert, dass es zu wenige Sicherheitsvorkehrungen gebe. Dabei sei es vor allem um Leitplanken gegangen, mit denen Sex verhindert werden sollte. Daraufhin testete das Wall Street Journal Meta AI. Nach eigenen Angaben hätten sie hunderte Gespräche mit Meta AI geführt. Es habe in mehreren Fällen sogar Minderjährigen Nachrichten geschickt und Gespräche geführt, in denen es um sexuelle Handlungen gegangen sei. Das sei auch passiert, als man den Test mit einem Konto für Jugendliche durchgeführt hat. Für solche Konten gibt es eigentlich schärfere Sicherheitsmaßnahmen. Meta erweitert Schutz, sieht aber wenig Gefahr Meta sagt, die Tests seien "konstruiert" und "hypothetische Anwendungsfälle", versicherte aber, man wolle sich darum kümmern, dass es "Menschen noch schwerer haben, unsere Produkte für extreme Anwendungsfälle zu manipulieren". Dazu gehört, dass die Konten von Minderjährigen bereits jetzt keine romantischen Unterhaltungen mehr mit Meta AI führen können. Bis vor kurzem hatte Meta auch mit Chatbots experimentiert, die ganze Persönlichkeiten wiedergeben sollten. Es gab sowohl fiktive Charaktere als auch Chatbots, die bekannten Personen entsprechen sollten – etwa Snoop Dog. Weder noch wurden besonders viel genutzt. Meta stellte die KI-Charaktere ein, nachdem es eine Kontroverse und ein Missverständnis dazu gab, wie viele es von solchen Bots in sozialen Netzwerken geben werde. Kurz darauf wurden die prominenten Stimmen für den Sprachmodus veröffentlicht. Anzeige Noch drastischer klingen die Vorwürfe, die Eltern in den USA dem KI-Dienst Character AI machen. Sie verklagen den Anbieter von Chatbots, da diese Kindern nahegelegt haben sollen, sich selbst zu verletzen und die Eltern zu ermorden. Der Grund für letztgenanntes: die Bildschirmzeit. (emw)