Modellkollaps: Wenn KI-Systeme sich selbst zerstören | NANO Talk

Modellkollaps: Wenn KI-Systeme sich selbst zerstören | NANO Talk

Verwandelt sich das World Wide Web in einen „World Wide Wust“ aus synthetischen Inhalten, Fälschungen und KI-generiertem Müll?

In dieser Folge NANO Talk auf der Phil Cologne spricht Stephanie Rohde mit ihren Gästen über „AI Slop“, den Modellkollaps von KI-Systemen und die Frage, was passiert, wenn Wissen seine Wurzeln verliert.

Die Runde diskutiert den Einfluss von Big-Tech-Monopolen auf unsere Freiheit, die Erosion von vertrauenswürdigen Informationen und die enormen Herausforderungen für Schulen, Universitäten und die demokratische Öffentlichkeit. Verfällt unser kritisches Denken? Und wie können wir der Flut an Datenmüll noch konstruktiv begegnen?

Zu Gast:

• Prof. Dr. Anna-Verena Nosthoff – Juniorprofessorin für Ethik der Digitalisierung und Co-Direktorin des Critical Data Labs
• Prof. Dr. Andreas Butz – Informatiker und Leiter des Lehrstuhls für Mensch-Maschine-Interaktion (LMU München / DFKI)
• Prof. Dr. Martin Andree – Medienwissenschaftler und Professor für digitale Medien

Modellkollaps: Wenn KI-Systeme sich selbst zerstören | NANO Talk

00:00 Einleitung: Das Versprechen des Internets und die Flut an AI Slop
02:15 Vorstellung der Gäste auf der Phil Cologne
03:45 Erste Berührungen mit Slop: Propaganda, Clickbait und toxische Plattformen
06:50 Wie viel Slop steckt schon im Netz? Quantitative Daten und Qualität
10:15 Modellkollaps: Wenn KI-Systeme ihre eigenen Daten fressen
14:30 Google und der Wandel der Wissensordnung
18:20 Kennzeichnungspflicht und das ökonomische Interesse der Tech-Konzerne
22:10 Die Ideologie der Skalierbarkeit vs. spezifische KI-Modelle
26:45 Verlieren wir die Fähigkeit, Modellkollaps und Fakes zu erkennen?
30:10 KI in der Universitätslehre: Gefälschte Bachelorarbeiten und Metakognitive Trägheit
35:40 Monopole von Big Tech und das Ende der Habermas-Öffentlichkeit
41:00 Lösungsansätze: Regulierung, Alternativen und die Rückbesinnung auf den Menschen