Knowledge Science - Alles über KI, ML und NLP

Sigurd Schacht, Carsten Lanquillon

Episode 236 - Kontrollillusionen Mit Dr. Karl von Wendt (Karl Olsberg)

NOV 1, 202648 MIN

Description

Send us Fan Mail Karl von Wendt – promovierter KI-Forscher, Chatbot-Pionier, Unternehmensberater und unter dem Namen Karl Olsberg Bestseller-Autor ist seit 2020 eine der deutschsprachigen Stimmen in der Debatte um KI-Sicherheit. In dieser Folge sprechen Sigurd Schacht und Carsten Lanquillon mit ihm über die Frage, wie viel Kontrolle wir über KI-Systeme tatsächlich noch haben – und wie viel davon Illusion ist. Themen der Folge: Vom KI-Roman 2007 zur Realität 2026: Warum Karls Science-Fiction der Wirklichkeit unangenehm nahe kommt Die Navi-Geschichte: Wie schnell wir formal entscheiden, aber de facto der Maschine folgen Human in the Loop: Warum das Konzept nur unter drei Bedingungen funktioniert (ausreichende Information, echtes Verständnis, interaktive statt reiner Freigabe-Entscheidung) Illusion des Verständnisses: Das Go-Beispiel und warum wir glauben, am Steuer zu sitzen „Move fast and break things“ vs. Sicherheitskultur: Was die KI-Branche von anderen Hochrisiko-Industrien lernen müsste Pause oder Vollbremse? Wie sich ein Entwicklungsstopp überhaupt kontrollieren ließe Rekursive Selbstverbesserung: Warum Systeme, die wir nicht verstehen, sich nicht selbst verbessern sollten Alignment, Fähigkeiten, Umgebung: Welche Stellschrauben bleiben, wenn Alignment nie ganz gelöst wird Warum Containment allein nicht reicht: Das AI-Box-Experiment von Yudkowsky Tool AI statt Alleskönner: AlphaFold als Vorbild für spezialisierte KI Persona statt KI: Warum wir mit einem fragilen Konstrukt reden – und was Jailbreaks und emergente Fehlausrichtung darüber verraten Sykophantie, Abhängigkeit und verlerntes kritisches Denken bei Jugendlichen Prüfen wir die Kompetenz der KI oder der Studierenden? Ein Evaluationsproblem der Hochschulen Science-Fiction vs. Wissenschaftskommunikation: Was Forschende von Autoren lernen können (und was nicht) Über unseren Gast: Dr. Karl von Wendt promovierte über Expertensysteme, gründete 1999 eines der ersten deutschen Chatbot-Startups (Startup des Jahres) und arbeitete lange als Unternehmensberater. Als Karl Olsberg veröffentlichte er über 50 Bücher, darunter Spiegel-Bestseller, Minecraft-Romane und KI-Thriller wie „Das System“. Seit 2020 erklärt er die KI-Sicherheitsdebatte auf ki-risiken.de und auf seinem YouTube-Kanal mit über 20.000 Abonnenten. Links: „Kontrollillusionen“ (2025, kostenlos unter freier Lizenz) https://www.ki-risiken.de/kontroll-illusion/ YouTube-Kanal Karl Olsberg https://www.youtube.com/@KarlOlsbergAutor Knowledge Science – aktuelle KI-Forschung, verständlich erklärt und kritisch geprüft. Mit Blick auf den Menschen. Support the show