I denne episoden utforsker vi skjæringspunktet mellom avansert maskinlæring, anvendt etikk og sosiopolitisk transformasjon. Vi har besøk av Preben Monteiro-Ness, en ledende kapasitet innen AI-sikkerhet for å dekonstruere mekanismene bak moderne nevrale nettverk og de systemiske risikoene som følger i kjølvannet av superintelligens. Sentrale tekniske begreper Explainable AI (XAI): Feltet innen kunstig intelligens som søker å gjøre maskinlæringsmodellers beslutningsprosesser transparente og forståelige for mennesker. Essential for å unngå "snø-bias" (hvor modellen identifiserer en hund som en husky kun basert på bakgrunnen). World Models: En tilnærming der AI-en bygger en intern, abstrakt representasjon av det fysiske eller konseptuelle miljøet den opererer i, snarere enn bare å utføre statistiske sannsynlighetsberegninger på sekvensielle data. RLHF (Reinforcement Learning from Human Feedback): En treningsmetode hvor menneskelige operatører rangerer modellens svar for å finjustere dens sosiale og faglige kompetanse. Zero Marginal Cost Society: En økonomisk teori (popularisert av Jeremy Rifkin) om en fremtid der kostnaden ved å produsere en ekstra enhet av en vare eller tjeneste nærmer seg null, drevet av automatisering og AI. Filosofiske og litterære referanser Kants Kategoriske Imperativ: Drøftet i lys av AI-ens intensjonalitet; er en handling moralsk hvis den utføres av riktige grunner, eller er resultatet det eneste som teller? Bostroms "Paperclip Maximizer": Et tankeeksperiment som illustrerer risikoen ved feiljusterte mål (alignment problem), hvor en superintelligens kan ødelegge verden i et forsøk på å utføre en triviell oppgave. Alasdair MacIntyre & Telos: Diskusjon rundt menneskelivets formål (telos) i en post-arbeid-æra. Oppenheimer-analogien: En refleksjon over det teknologiske "point of no return" og behovet for globalt samarbeid for å unngå eksistensiell risiko. Kulturelle nedslagspunkter Satanisme og AI-protopia: En anekdotisk analyse av hvordan visjoner om kunstig intelligens har manifestert seg i subkulturer på Grünerløkka lenge før LLM-revolusjonen. Steinerskole-utopien: En metafor for et samfunn fokusert på kreativitet, smal kunst og menneskelig samhandling fremfor industriell produktivitet. Sora og AI-generert video: Status for nåværende generative modeller for levende bilder og de tekniske begrensningene knyttet til minne og beregningskraft (compute). Anbefalt litteratur: Nick Bostrom: Superintelligence: Paths, Dangers, Strategies Jeremy Rifkin: The Zero Marginal Cost Society Alasdair MacIntyre: After Virtue See omnystudio.com/listener for privacy information.