Intro (00:00:00) Thema des Podcasts (00:00:18) Willkommen zur zwölften Folge beim datenleben-Podcast, dem Podcast über Data Science.Wir sind Helena und Janine und möchten euch mitnehmen in die Welt der Daten. Je mehr Daten die Menschheit produziert, desto größer und wichtiger wird die Rolle von Data Science in unserem Leben.Darum möchten wir euch Data Science näher bringen! Thema der Folge (00:00:39 ) Diese Folge ist Teil 2 unserer Doppelfolge "Menschen und Maschinen". Es geht um das Thema Künstliche Intelligenz, das im Data Science Feld sehr verbreitet ist.Meistens im Kontext Maschinelles Lernen. Es uns hier aber nicht um den technischen Askepkt, sondern die Frage: Können Maschinen denken? Mit dabei ist als Gäst*in Elisa. Elisa hat sich mit dem Turing-Test und dem Film Ex Machina befasst und dabei besonders auf den Genderaspekt Bezug genommen.Uns beschäftigt: Welche Konsequenzen würden aus der Existenz denkender Maschinen entstehen? Es gibt in der Populärkultur viele verschiedene Ansätze Künstliche Intelligenz zu denkenNeben Isaac Asimovs Robotergesetzen, reden wir auch über die Folge "Wiedergänger" von Black Mirror, über das Buch "Maschinen wie ich" von Ian McEwan und über den Film "Ex Machina" Worum ging es nochmal in Teil 1? (00:01:30) In dem Aufsatz Computing Machinery and Intelligence von Alan Turing stellt er 1950 die Frage "Können Maschinen denken?"Testaufbau Imitationsspiel: A = Mann, B = Frau, C = interviewende Person; A muss so tun als sei er eine Frau, B soll C bei der Identifikation unterstützenIm nächsten Schritt: Wenn A jetzt eine Maschine ist, was käme dann heraus, würde C bei der Identifikation genauso oft richtig oder falsch liegen?Spannend ist, dass er in seinem Imitationsspiel auch die Genderfrage diskutiertAda Lovelace wandte Mitte des 19. Jhs. ein, dass Maschinen nur können, was der Mensch hineingibtTuring: Dabei kann der Mensch auch nur, was in ihn "einprogrammiert" wurdeElisa hat herausgestell, dass Turing sagt, dass Menschen sich gerne überlegen fühlenDaher auch das Pochen einiger darauf, dass nur Menschen zum Denken fähig wärenDas Rückt ein Konzept von Mensch ins Zentrum, der seine Vormachtsstellung bedroht siehtAngst vor Kontrollverlust ist oft Thema in kulturellen Bearbeitungen des Themas Künstliche IntelligenzAlso die Angst davor die Schöpfung nicht beherrschen zu können und von ihr angegriffen zu werdenDabei werden zwei Geschichten erzählt: Entweder die Geschichte einer Menschwerdung oder die Geschichte von Macht und UnterdrückungTuring hilft uns nicht weiter, ob Maschinen denken können: ihn interessiert nur das beobachtbare Verhalten, nicht die inneren Vorgänge (von Mensch oder Maschine)Er hat aber schon auf wesentliche Bedingungen in der Mensche-Maschine-Beziehung hingewiesenDas Thema treibt viele um und mehr als Spekulieren ist bis heute immer noch nicht möglichAuch deswegen ist das Thema Künstliche Intelligenz in kultureller Auseinandersetzung so präsentUnd damit geht es jetzt weiter: Über die Robotergesetze von Isaac Asimov (00:06:13) Einige Jahre vor Turings Aufsatz, sind Isaac Asimovs Robotergeschichten erschienen.Bekannt sind sie vor allem für ihre drei, später vier, Robotorgesetze, die verhindern sollen dass Roboter sich gegen den Menschen richtenEr bringt in seinen Geschichten diese Gesetze aber auch immer wieder an ihre GrenzenBeispiel: in einer Lucky Starr Geschichte wird Robotern eingeredet, ein Raumfahrzeug wäre unbemannt, und daher abgeschossen werden könne, obwohl das nicht stimmt und am Ende Menschen sterbenIn The Evitable Conflict, der letzten Kurzgeschichte aus I, robot (deutsch: Ich, der Roboter) gibt es eine KI, die sämtliche Geschicke der Menschen lenkt. Und es gibt ein Problem: sie fügt Menschen schaden Es stellt sich heraus: Sie hat die Gesetze erweitert/neu ausgelegt, um größeren Schaden abzuwenden Man kommt zu der Überzeugung, dass man Maschinen diese Gesetze nicht einprogrammieren kannVor allem wegen der auch von Asimov schon aufgezeigten Schwächen und KomplikationenParadox: Man versucht über die KI Macht auszuüben, die man über die Menschheit selbst nicht hatWeitere Frage: Kann KI zu überlegen sein? Nimmt sie dann eine göttliche Position ein? (allwissend etc.)Beispiele: Qualityland 2.0, Buchreiche Neon BirdsWürde sich eine solche KI überhaupt für die Menschheit interessieren?William Gibbson Neuromancer: Superintelligenz will nur andere ihrer Sorte finden, Menschen sind egalWenn sie sich nicht für uns interessiert, rottet sie uns dann vielleicht versehentlich aus?Dietmar Dath: Der Schnitt durch die Sonne, hier nutzt auch eine (nicht technische) Superintelligenz die Menschen aus, um andere Superintelligenzen zu findenAm Ende bleibt vor allem die Frage: Wie geht der Mensch mit sich selber um?Was passiert, wenn Menschen und Maschinen aufeinander treffen? Über die Folge "Wiedergänger" der Serie Black Mirror (00:17:31) Beispiel 1, Serie: Black Mirror-Folge Be Right Back, auf deutsch WiedergängerNach dem Unfalltot ihres Freundes Ash, nimmt Martha, zunächst Abstand von einem Dienst, bei dem man per Messenger mit einer KI kommuniziert, die den Charakter Verstorbener Menschen nachahmtAls sie erfährt, dass sie schwanger ist, tut sie es dann doch, weil sie nicht weiß wohin mit sich.Sie bekommt tatsächlich das Gefühl mit Ash zu schreiben und entwickelt eine Sehnsucht nach ihm.Irgendwann wird auch ein nachgebildeter Mensch angeboten, der mit seinem Profil bespielt istIn der Interaktion mit ihm, merkt sie immer deutlicher, dass etwas mit ihm "nicht" stimmt", dass es einfach kein Ersatz für ihren Ash ist, muss sich aber jetzt mit der Maschine befassenOffensichtliches Problem: Datengrundlage wird immer Lücken haben; z.B.: Wie lernt die Person Neues?Was ebenfalls fehlt: Erinnerungen und Bewertung von Erinnerungen wie Fotos etc., weil Wissen fehltKlassisch bei Black Mirror ist ja bestimmte technische Möglichkeiten durchzuspielenFrage, die das aufwirft: Würde man einen lieben Menschen als KI überhaupt simuliert haben wollen?KI wird das komplexe Bewusstsein des Menschen nicht mit hinterlassenen Daten nachbauen könnenDennoch hegen wir vielleicht (wie Martha) eine gewisse HoffnungIn Wiedergänger nutzt eine Firma ihr Modell, um Trauernden Geld abzunehmen, sie verkaufen HoffnungMensch-Maschine-Interaktion: auf dieser Basis muss sie scheitern muss, aber wie scheitert sie?Es gibt auch mindestens eine Serie, in der ein Mensch komplett "gespeichert" und in einen maschinellen Host eingesetzt wirdMenschen versuchen tatsächlich sich nach dem Tod einfrieren zu lassen, in der Hoffnung künftig wieder in einem künstlichen Körper leben zu könnenIn der Serie Altered Carbon wird auch das Bewusstsein auf einem Chip gespeichert: Unsterblichkeit, etc.Ist ein menschliches Bewusstsein, das man auf einem Chip speichert und einsetzen kann, wirklich Künstliche Intelligenz? Über den Roman "Maschinen wie ich" von Ian McEwan (00:30:52) Beispiel 2, Buch: Maschinen wie ich von Ian McEwan, erschienen bei DiogenesSpielt im London im Jahr 1982: aufgrund von Alan Turings Forschungen gibt es bereits Internet, selbstfahrende Autos und den ersten echten künstlichen MenschenEs ist eine Alternativwelt, in der Alan Turing nicht so früh gestorben ist und eine KI entwickelt hatCharlie kauft sich einen "Adam", weil er gerne (außer seiner Freundin Miranda) einen Freund hätteDies führt zu einer komplizierten Dreierkonstellation mit AdamAdam immitiert erfolgreich Bewusstsein, weil Charlie ihn selbst als Black Box beschreibtCharlie und Miranda, können ausserdem Adams Eigenschaften im Vorfeld bestimmen könnenIn diesem Roman werden sehr viele verschiedene wichtige Aspekte in Bezug auf KI dargestellt und Fragen aufgeworfenAuch zum Beispiel die Frage danach, in wie fern eine KI Liebe empfinden kann und was Liebe istEs wird auch reflektiert, wie man als Mensch auch miteinander umgehen sollte, bzw. wie gerade nichtWeitere Aspekte: Charlie "besitzt" Adam und Charlie und Miranda haben eine Art von Elternschaft Über den Film "Ex Machina" Beispiel 3, Film: Ex MachinaBesonders interessant, weil der Turing-Test konkret vorkommt und stark auch der GenderaspektEin junger Entwickler wird eingeladen in eine Forschungseinrichtung, wo er einen Turing-Test durchführen soll an der KI namens AvaDie KI wird offensichtlich als Maschine, aber auch offensichtlich als weiblich dargstelltAvas Ziel ist es frei zu kommen aus dem Forschungsbunker und verhält sich dafür explizit weiblichEs wird klar gemacht, dass Ava ein funktionierendes Bewusstsein hat, Frage ist, wie der Mensch darauf reagiert und damit umgehtDer Film ist aber auch hinsichtlich von Macht, Sexismus und Rassismus kritisch zu betrachtenDer Schöpfer in diesem Film verlässt sich sehr auf sein Können, aber die KI lernt darüber hinausDas Motiv des hochmütigen Schöpfers kommt hier wieder vorAva betätigt sich auch künstlerisch, hier wird die Frage aufgeworfen was KreativitätWie werden weibliche KIs dargestellt, wie männliche KIs? Sind bedrohliche KIs immer bedrohlich? Weibliche immer Assistenzen?Zumindest in The 100 gibt es eine weibliche KI, die für die Menschheit sehr bedrohlich wirdGöttähnliche Super-KI aus Neonbirds ist auch eine weibliche KIIn Ex Machina ist Gender sehr wichtig in Hinsicht darauf, was wir von den Genderrollen erwarten Fazit (01:00:24) Wir konnten hoffentich etwas vertiefend darstellen, wie der Turing-Test von Alan Turing gemeint war, dass auch der Genderaspekt darin eine wichtige Rolle spieltAusserdem wissen wir sehr gut, dass Zukunft und KI nicht vorhersehbar sind, man kann sich nur Gedanken machenWir müssen darauf achten mit KI keine Diskriminierungsformen zu reproduzierenMan kann nicht genug über (vermeintliche) Selbstverständlichkeiten nachdenken, wie Turing auchFiktionen sind wichtig um Konzepte durchzudenken, zu entwickeln, sich damit zu konfrontierenDa gibt es viel, was man sich ansehen und lesen kann; Fiktionen geben Spekulationen nötigen RaumWas ist der Human Bias? Was erwarten wir, was wollen wir, was tragen wir an KI heran? Nächste Folge: Datenvisualisierung am 24.04.2021 (01:05:25) Es wird wieder technischer: und zwar mit Datenvisualisierung im Allgemein, weil es ein riesiges Feld istWas kann man damit zeigen? Wofür verwendet man es? Und auch: Wie manipuliert man damit? Call to Action (01:05:58) Wenn ihr uns weiter hören möchtet, folgt uns auf Twitter unter @datenlebenOder besucht unsere Webseite: www.datenleben.deHinterlasst uns gerne Feedback, wir würden uns darüber sehr freuenHabt ihr Fragen oder Themen, die euch interessieren? Dann schreibt uns! Outro (01:06:24) Schlagworte zur Folge Künstliche Intelligenz, KI, Alan Turing, Imitationsspiel, Robotergesetze, Ex Machina, Black Mirror, Ian McEwan Quellen Computing Machinery and IntelligenceWikipedia: Alan TuringWikipedia: Ada LovelaceWikipedia: Isaac AsimovsWikipedia: Lucky StarrWikipedia: The Evitable ConflictIsaac Asimov: Ich, der RoboterMarc-Uwe Kling: Qualityland 2.0Marie Grasshoff: Neon BirdsWikipedia: Neuromancer (William Gibbson)Dietmar Dath: Der Schnitt durch die SonneWikipedia: Black Mirror, Episodenliste Staffel 2 (siehe Wiedergänger) Wikipedia: Altered CarbonIan McEwan: Maschinen wie ichWikipedia: Ex Machina Weiterführende Links Deutschlandfunk Kultur: Das Märchen vom Computer-Gott. Ein Kommentar von Enno ParkLITHUB: Have Robots… Always Been With Us? Rebecca Morgan Frank on Books by Charles Dickens, Elizabeth King, Karel Čapek, and Morehsozkult: Queere KI. Zum Coming-out smarter Maschinen Digitales Symposium des Schaufler Kolleg@TU Dresden in Kollaboration mit der GenderConceptGroupBryce Edward Brown: The Ending Of Be Right Back Explained