/https%3A%2F%2Fstorage.buzzsprout.com%2Fdxagebqcvdyuiye02hsr6a1ualp8%3F.jpg)
Knowledge Science - Alles über KI, ML und NLP
Sigurd Schacht, Carsten Lanquillon
Episode 236 - Kontrollillusionen Mit Dr. Karl von Wendt (Karl Olsberg)
NOV 1, 202648 MIN
/https%3A%2F%2Fstorage.buzzsprout.com%2Fdxagebqcvdyuiye02hsr6a1ualp8%3F.jpg)
Description
Send us Fan Mail
Karl von Wendt – promovierter KI-Forscher, Chatbot-Pionier, Unternehmensberater und unter dem Namen Karl Olsberg Bestseller-Autor ist seit 2020 eine der deutschsprachigen Stimmen in der Debatte um KI-Sicherheit. In dieser Folge sprechen Sigurd Schacht und Carsten Lanquillon mit ihm über die Frage, wie viel Kontrolle wir über KI-Systeme tatsächlich noch haben – und wie viel davon Illusion ist.
Themen der Folge:
Vom KI-Roman 2007 zur Realität 2026: Warum Karls Science-Fiction der Wirklichkeit unangenehm nahe kommt
Die Navi-Geschichte: Wie schnell wir formal entscheiden, aber de facto der Maschine folgen
Human in the Loop: Warum das Konzept nur unter drei Bedingungen funktioniert (ausreichende Information, echtes Verständnis, interaktive statt reiner Freigabe-Entscheidung)
Illusion des Verständnisses: Das Go-Beispiel und warum wir glauben, am Steuer zu sitzen
„Move fast and break things“ vs. Sicherheitskultur: Was die KI-Branche von anderen Hochrisiko-Industrien lernen müsste
Pause oder Vollbremse? Wie sich ein Entwicklungsstopp überhaupt kontrollieren ließe
Rekursive Selbstverbesserung: Warum Systeme, die wir nicht verstehen, sich nicht selbst verbessern sollten
Alignment, Fähigkeiten, Umgebung: Welche Stellschrauben bleiben, wenn Alignment nie ganz gelöst wird
Warum Containment allein nicht reicht: Das AI-Box-Experiment von Yudkowsky
Tool AI statt Alleskönner: AlphaFold als Vorbild für spezialisierte KI
Persona statt KI: Warum wir mit einem fragilen Konstrukt reden – und was Jailbreaks und emergente Fehlausrichtung darüber verraten
Sykophantie, Abhängigkeit und verlerntes kritisches Denken bei Jugendlichen
Prüfen wir die Kompetenz der KI oder der Studierenden? Ein Evaluationsproblem der Hochschulen
Science-Fiction vs. Wissenschaftskommunikation: Was Forschende von Autoren lernen können (und was nicht)
Über unseren Gast:
Dr. Karl von Wendt promovierte über Expertensysteme, gründete 1999 eines der ersten deutschen Chatbot-Startups (Startup des Jahres) und arbeitete lange als Unternehmensberater. Als Karl Olsberg veröffentlichte er über 50 Bücher, darunter Spiegel-Bestseller, Minecraft-Romane und KI-Thriller wie „Das System“. Seit 2020 erklärt er die KI-Sicherheitsdebatte auf ki-risiken.de und auf seinem YouTube-Kanal mit über 20.000 Abonnenten.
Links:
„Kontrollillusionen“ (2025, kostenlos unter freier Lizenz) https://www.ki-risiken.de/kontroll-illusion/
YouTube-Kanal Karl Olsberg https://www.youtube.com/@KarlOlsbergAutor
Knowledge Science – aktuelle KI-Forschung, verständlich erklärt und kritisch geprüft. Mit Blick auf den Menschen.
Support the show

