Was kostet ein KI-System wirklich? Total Cost of Ownership richtig rechnen

SEP 10, 20267 MIN

Description

Der häufigste Fehler bei der Kalkulation von KI-Projekten ist in Kosten pro Monat zu rechnen statt in Kosten pro Vorgang. Ein Pilotbetrieb mit zwanzig Nutzern sagt euch nichts darüber, was das System kostet, wenn es tatsächlich im Einsatz ist. Bei KI steigen die laufenden Kosten nämlich mit der Nutzung. In dieser Folge von „KI kurz und informativ" gehe ich die klassische TCO-Formel durch und zeige am Beispiel eines Schwimmbads, welche Posten sich bei KI-Systemen anders verhalten als bei jeder anderen Software. Meine These ist: Die Kostenarten sind nicht neu, aber ihr bestimmt nicht mehr, wann sie anfallen. Bspw. kennt ihr den Preis eines Vorgangs erst, nachdem er passiert ist. Ein Modell verschlechtert sich lautlos, ohne Fehlermeldung. Und den Termin für die nächste Migration setzt oft euer Anbieter (wie zuletzt bei der Abschaltung der OpenAI Assistants API). Themen dieser Folge: TCO-Formel und was sie bei KI-Systemen nicht abbildet Kosten pro Vorgang statt Kosten pro Monat Model Drift und Data Drift Schau gerne auch auf der neuen Website zum Podcast vorbei: ⁠⁠⁠https://podcast.pyucation.de⁠⁠ Dort findest du eine Übersicht über alle Folgen sowie die meist gestellten Fragen schnell beantwortet. Link zum Google Paper: D. Sculley et al., „Hidden Technical Debt in Machine Learning Systems" https://proceedings.neurips.cc/paper/2015/file/86df7dcfd896fcaf2674f757a2463eba-Paper.pdf