Virtuelle Freunde, reale Gefahren

Virtuelle Freunde, reale Gefahren

Für manche Teenager ersetzen sie längst Freunde oder Psychologen: Virtuelle Begleiter halten Einzug ins Leben von Millionen Jugendlichen. Wie weit reicht ihr Einfluss? „Mit offenen Daten“ untersucht, wie und mit welchen toxischen Folgen die KI-Plattformen arbeiten.

Für manche Jugendliche ersetzen sie Freunde, Tagebücher und manchmal sogar Psychologen. Sie erscheinen als Heilmittel gegen Niedergeschlagenheit oder Einsamkeit. Die Rede ist von Chatbots oder virtuellen Begleitern. Laut einer amerikanischen Studie hatten 72 % der Teenager schon einmal mit ihnen zu tun, und ein Drittel von ihnen vertraut sich ihnen lieber an als echten Menschen. „Mit offenen Daten“ blickt in seiner neuen Ausgabe hinter die Kulissen der KI-Plattformen, die Millionen von jungen Leuten weltweit anziehen. Monatelang war die Redaktion auf diesen teils toxischen Plattformen unterwegs. Das Fazit ist erschreckend: Hinter attraktiven Benutzeroberflächen verbergen sich Bots, die gewalttätige und missbräuchliche Beziehungen fördern, Terrorismus und Anorexie verherrlichen und sogar zeigen, wie man Sprengkörper herstellt. An all diese Inhalte kommen Minderjährigen mit wenigen Klicks heran. Die Recherche nimmt drei Hauptakteure unter die Lupe: den amerikanischen KI-Riesen Character.AI mit mehr als 20 Millionen aktiven Nutzern im Monat; das kanadische Start-up Dippy, das sich rühmt, „ohne Filter“ zu arbeiten; und Talkie, Vorzeigeprodukt des chinesischen Start-ups Minimax, das auf mehr als 20 Milliarden Dollar geschätzt wird und in Frankreich ab 15 zugänglich ist. Diese Plattformen wachsen unaufhaltsam, obwohl die Altersüberprüfung bei einigen leicht zu umgehen und die Moderation bei allen mangelhaft ist, und trotz mehrerer Klagen von Familien, die sie als Gefahr für ihre Kinder sehen.

Virtuelle Freunde, reale Gefahren | Mit offenen Daten | ARTE
Chefredakteur: Sylvain Pak
Stellvertretende Chefredakteurin: Claire Tesson