Episode 84: Hacken, tracken, modellieren - alles möglich mit KI

Sieben Jahre Crunchtime – und ausgerechnet zum Jubiläum reicht ein präpariertes Bild, um eine ziemlich wilde Angriffskette loszutreten. Jona und Wieland schauen sich an, wie Sicherheitsforscher über OpenAIs Community-Forum bis zu internen Repositories kamen und welche Rolle KI dabei spielte. Danach geht es um die kleinen Spezialisten: Jev entscheidet zwischen vorgegebenen Optionen, statt lange Antworten zu schreiben, und Desert Ant Labs bringt eine ganze Werkzeugkiste winziger Modelle fürs Smartphone mit. Schnell und günstig klingt gut – aber bedeutet ein festes Ausgabeformat wirklich, dass eine KI nicht mehr halluzinieren kann? Im Praxistest wird aus einer Roomtour ein 3D-Modell in Blender, aus einem Emoji ein räumliches Objekt und aus einer statischen Godot-Stadt eine belebte Spielwelt. Wenn plötzlich fast jede Idee umsetzbar scheint, wird allerdings schon die Entscheidung für ein Projekt zur Herausforderung. Die beiden sprechen über Kreativität, den Wert eigener Ideen und das Tempo der KI-Entwicklung. Zum Schluss wird es ungemütlich: Ein Waymo mit einer Waffe an Bord, Meta AI mit Fragen über Kinder und God's Eye View führen zur Frage, wie viel Überwachung schon in ganz gewöhnlichen Daten steckt. Öffentliche Informationen wirken einzeln harmlos – bis jemand sie zusammenführt. Show Notes OpenAI gehackt und die Bildparser dahinter: Hacktrons Bericht zur Angriffskette, HEIF Heist und Discourse-Sicherheitsmeldung zum libheif-Problem Der passende Comic zur Abhängigkeit von kleinen Software-Bausteinen: xkcd: Dependency Entscheidungen statt Chat-Antworten: TypeSafe stellt Jev und seine „System One Models“ vor Kleine KI-Modelle auf dem eigenen Gerät: Desert Ant Labs und die Modellübersicht, Voz für Spracherkennung und Clips für Highlights aus Transkripten Roomtour, 3D-Experimente und KI im Entwicklungsalltag: GPT-6 Astra, BlenderMCP, das Modellformat ONNX und Godot Wohin führt die Entwicklung? AI 2027 – das diskutierte Zukunftsszenario Minecraft direkt im Quellcode nachschlagen: Mojang über den Trial Spawner und die Java-Snapshot-Ankündigung zum Ende der Code-Obfuskierung Robotaxis und Privatsphäre: SFGATE über die Festnahmen nach einem Waffenfund im Waymo und Waymos Darstellung seiner Datenschutzprinzipien Meta AI und persönliche Informationen aus Familienposts: The Verge über die unerwünschten Fragen und Metas Stellungnahme und CNETs Bericht mit den unterschiedlichen Darstellungen zum gelöschten Foto Öffentliche Daten zusammenführen: God's Eye View von Bilawal Sidhu und David Kriesels Vortrag „SpiegelMining“ samt Folien