dl012: menschen und maschinen – teil 2

dl012: menschen und maschinen – teil 2

Intro (00:00:00)

Thema des Podcasts (00:00:18)

Willkommen zur zwölften Folge beim datenleben-Podcast, dem Podcast über Data Science.
Wir sind Helena und Janine und möchten euch mitnehmen in die Welt der Daten. Je mehr Daten die Menschheit produziert, desto größer und wichtiger wird die Rolle von Data Science in unserem Leben.
Darum möchten wir euch Data Science näher bringen!

Thema der Folge (00:00:39 )

  • Diese Folge ist Teil 2 unserer Doppelfolge "Menschen und Maschinen".
  • Es geht um das Thema Künstliche Intelligenz, das im Data Science Feld sehr verbreitet ist.
  • Meistens im Kontext Maschinelles Lernen.
  • Es uns hier aber nicht um den technischen Askepkt, sondern die Frage: Können Maschinen denken?
  • Mit dabei ist als Gäst*in Elisa. Elisa hat sich mit dem Turing-Test und dem Film Ex Machina befasst und dabei besonders auf den Genderaspekt Bezug genommen.
  • Uns beschäftigt: Welche Konsequenzen würden aus der Existenz denkender Maschinen entstehen?
  • Es gibt in der Populärkultur viele verschiedene Ansätze Künstliche Intelligenz zu denken
  • Neben Isaac Asimovs Robotergesetzen, reden wir auch über die Folge "Wiedergänger" von Black Mirror, über das Buch "Maschinen wie ich" von Ian McEwan und über den Film "Ex Machina"

Worum ging es nochmal in Teil 1? (00:01:30)

  • In dem Aufsatz Computing Machinery and Intelligence von Alan Turing stellt er 1950 die Frage "Können Maschinen denken?"
  • Testaufbau Imitationsspiel: A = Mann, B = Frau, C = interviewende Person; A muss so tun als sei er eine Frau, B soll C bei der Identifikation unterstützen
  • Im nächsten Schritt: Wenn A jetzt eine Maschine ist, was käme dann heraus, würde C bei der Identifikation genauso oft richtig oder falsch liegen?
  • Spannend ist, dass er in seinem Imitationsspiel auch die Genderfrage diskutiert
  • Ada Lovelace wandte Mitte des 19. Jhs. ein, dass Maschinen nur können, was der Mensch hineingibt
  • Turing: Dabei kann der Mensch auch nur, was in ihn "einprogrammiert" wurde
  • Elisa hat herausgestell, dass Turing sagt, dass Menschen sich gerne überlegen fühlen
  • Daher auch das Pochen einiger darauf, dass nur Menschen zum Denken fähig wären
  • Das Rückt ein Konzept von Mensch ins Zentrum, der seine Vormachtsstellung bedroht sieht
  • Angst vor Kontrollverlust ist oft Thema in kulturellen Bearbeitungen des Themas Künstliche Intelligenz
  • Also die Angst davor die Schöpfung nicht beherrschen zu können und von ihr angegriffen zu werden
  • Dabei werden zwei Geschichten erzählt: Entweder die Geschichte einer Menschwerdung oder die Geschichte von Macht und Unterdrückung
  • Turing hilft uns nicht weiter, ob Maschinen denken können: ihn interessiert nur das beobachtbare Verhalten, nicht die inneren Vorgänge (von Mensch oder Maschine)
  • Er hat aber schon auf wesentliche Bedingungen in der Mensche-Maschine-Beziehung hingewiesen
  • Das Thema treibt viele um und mehr als Spekulieren ist bis heute immer noch nicht möglich
  • Auch deswegen ist das Thema Künstliche Intelligenz in kultureller Auseinandersetzung so präsent
  • Und damit geht es jetzt weiter:

Über die Robotergesetze von Isaac Asimov (00:06:13)

  • Einige Jahre vor Turings Aufsatz, sind Isaac Asimovs Robotergeschichten erschienen.
  • Bekannt sind sie vor allem für ihre drei, später vier, Robotorgesetze, die verhindern sollen dass Roboter sich gegen den Menschen richten
  • Er bringt in seinen Geschichten diese Gesetze aber auch immer wieder an ihre Grenzen
  • Beispiel: in einer Lucky Starr Geschichte wird Robotern eingeredet, ein Raumfahrzeug wäre unbemannt, und daher abgeschossen werden könne, obwohl das nicht stimmt und am Ende Menschen sterben
  • In The Evitable Conflict, der letzten Kurzgeschichte aus I, robot (deutsch: Ich, der Roboter) gibt es eine KI, die sämtliche Geschicke der Menschen lenkt. Und es gibt ein Problem: sie fügt Menschen schaden
  • Es stellt sich heraus: Sie hat die Gesetze erweitert/neu ausgelegt, um größeren Schaden abzuwenden
  • Man kommt zu der Überzeugung, dass man Maschinen diese Gesetze nicht einprogrammieren kann
  • Vor allem wegen der auch von Asimov schon aufgezeigten Schwächen und Komplikationen
  • Paradox: Man versucht über die KI Macht auszuüben, die man über die Menschheit selbst nicht hat
  • Weitere Frage: Kann KI zu überlegen sein? Nimmt sie dann eine göttliche Position ein? (allwissend etc.)
  • Beispiele: Qualityland 2.0, Buchreiche Neon Birds
  • Würde sich eine solche KI überhaupt für die Menschheit interessieren?
  • William Gibbson Neuromancer: Superintelligenz will nur andere ihrer Sorte finden, Menschen sind egal
  • Wenn sie sich nicht für uns interessiert, rottet sie uns dann vielleicht versehentlich aus?
  • Dietmar Dath: Der Schnitt durch die Sonne, hier nutzt auch eine (nicht technische) Superintelligenz die Menschen aus, um andere Superintelligenzen zu finden
  • Am Ende bleibt vor allem die Frage: Wie geht der Mensch mit sich selber um?
  • Was passiert, wenn Menschen und Maschinen aufeinander treffen?

Über die Folge "Wiedergänger" der Serie Black Mirror (00:17:31)

  • Beispiel 1, Serie: Black Mirror-Folge Be Right Back, auf deutsch Wiedergänger
  • Nach dem Unfalltot ihres Freundes Ash, nimmt Martha, zunächst Abstand von einem Dienst, bei dem man per Messenger mit einer KI kommuniziert, die den Charakter Verstorbener Menschen nachahmt
  • Als sie erfährt, dass sie schwanger ist, tut sie es dann doch, weil sie nicht weiß wohin mit sich.
  • Sie bekommt tatsächlich das Gefühl mit Ash zu schreiben und entwickelt eine Sehnsucht nach ihm.
  • Irgendwann wird auch ein nachgebildeter Mensch angeboten, der mit seinem Profil bespielt ist
  • In der Interaktion mit ihm, merkt sie immer deutlicher, dass etwas mit ihm "nicht" stimmt", dass es einfach kein Ersatz für ihren Ash ist, muss sich aber jetzt mit der Maschine befassen
  • Offensichtliches Problem: Datengrundlage wird immer Lücken haben; z.B.: Wie lernt die Person Neues?
  • Was ebenfalls fehlt: Erinnerungen und Bewertung von Erinnerungen wie Fotos etc., weil Wissen fehlt
  • Klassisch bei Black Mirror ist ja bestimmte technische Möglichkeiten durchzuspielen
  • Frage, die das aufwirft: Würde man einen lieben Menschen als KI überhaupt simuliert haben wollen?
  • KI wird das komplexe Bewusstsein des Menschen nicht mit hinterlassenen Daten nachbauen können
  • Dennoch hegen wir vielleicht (wie Martha) eine gewisse Hoffnung
  • In Wiedergänger nutzt eine Firma ihr Modell, um Trauernden Geld abzunehmen, sie verkaufen Hoffnung
  • Mensch-Maschine-Interaktion: auf dieser Basis muss sie scheitern muss, aber wie scheitert sie?
  • Es gibt auch mindestens eine Serie, in der ein Mensch komplett "gespeichert" und in einen maschinellen Host eingesetzt wird
  • Menschen versuchen tatsächlich sich nach dem Tod einfrieren zu lassen, in der Hoffnung künftig wieder in einem künstlichen Körper leben zu können
  • In der Serie Altered Carbon wird auch das Bewusstsein auf einem Chip gespeichert: Unsterblichkeit, etc.
  • Ist ein menschliches Bewusstsein, das man auf einem Chip speichert und einsetzen kann, wirklich Künstliche Intelligenz?

Über den Roman "Maschinen wie ich" von Ian McEwan (00:30:52)

  • Beispiel 2, Buch: Maschinen wie ich von Ian McEwan, erschienen bei Diogenes
  • Spielt im London im Jahr 1982: aufgrund von Alan Turings Forschungen gibt es bereits Internet, selbstfahrende Autos und den ersten echten künstlichen Menschen
  • Es ist eine Alternativwelt, in der Alan Turing nicht so früh gestorben ist und eine KI entwickelt hat
  • Charlie kauft sich einen "Adam", weil er gerne (außer seiner Freundin Miranda) einen Freund hätte
  • Dies führt zu einer komplizierten Dreierkonstellation mit Adam
  • Adam immitiert erfolgreich Bewusstsein, weil Charlie ihn selbst als Black Box beschreibt
  • Charlie und Miranda, können ausserdem Adams Eigenschaften im Vorfeld bestimmen können
  • In diesem Roman werden sehr viele verschiedene wichtige Aspekte in Bezug auf KI dargestellt und Fragen aufgeworfen
  • Auch zum Beispiel die Frage danach, in wie fern eine KI Liebe empfinden kann und was Liebe ist
  • Es wird auch reflektiert, wie man als Mensch auch miteinander umgehen sollte, bzw. wie gerade nicht
  • Weitere Aspekte: Charlie "besitzt" Adam und Charlie und Miranda haben eine Art von Elternschaft

Über den Film "Ex Machina"

  • Beispiel 3, Film: Ex Machina
  • Besonders interessant, weil der Turing-Test konkret vorkommt und stark auch der Genderaspekt
  • Ein junger Entwickler wird eingeladen in eine Forschungseinrichtung, wo er einen Turing-Test durchführen soll an der KI namens Ava
  • Die KI wird offensichtlich als Maschine, aber auch offensichtlich als weiblich dargstellt
  • Avas Ziel ist es frei zu kommen aus dem Forschungsbunker und verhält sich dafür explizit weiblich
  • Es wird klar gemacht, dass Ava ein funktionierendes Bewusstsein hat, Frage ist, wie der Mensch darauf reagiert und damit umgeht
  • Der Film ist aber auch hinsichtlich von Macht, Sexismus und Rassismus kritisch zu betrachten
  • Der Schöpfer in diesem Film verlässt sich sehr auf sein Können, aber die KI lernt darüber hinaus
  • Das Motiv des hochmütigen Schöpfers kommt hier wieder vor
  • Ava betätigt sich auch künstlerisch, hier wird die Frage aufgeworfen was Kreativität
  • Wie werden weibliche KIs dargestellt, wie männliche KIs? Sind bedrohliche KIs immer bedrohlich? Weibliche immer Assistenzen?
  • Zumindest in The 100 gibt es eine weibliche KI, die für die Menschheit sehr bedrohlich wird
  • Göttähnliche Super-KI aus Neonbirds ist auch eine weibliche KI
  • In Ex Machina ist Gender sehr wichtig in Hinsicht darauf, was wir von den Genderrollen erwarten

Fazit (01:00:24)

  • Wir konnten hoffentich etwas vertiefend darstellen, wie der Turing-Test von Alan Turing gemeint war, dass auch der Genderaspekt darin eine wichtige Rolle spielt
  • Ausserdem wissen wir sehr gut, dass Zukunft und KI nicht vorhersehbar sind, man kann sich nur Gedanken machen
  • Wir müssen darauf achten mit KI keine Diskriminierungsformen zu reproduzieren
  • Man kann nicht genug über (vermeintliche) Selbstverständlichkeiten nachdenken, wie Turing auch
  • Fiktionen sind wichtig um Konzepte durchzudenken, zu entwickeln, sich damit zu konfrontieren
  • Da gibt es viel, was man sich ansehen und lesen kann; Fiktionen geben Spekulationen nötigen Raum
  • Was ist der Human Bias? Was erwarten wir, was wollen wir, was tragen wir an KI heran?

Nächste Folge: Datenvisualisierung am 24.04.2021 (01:05:25)

  • Es wird wieder technischer: und zwar mit Datenvisualisierung im Allgemein, weil es ein riesiges Feld ist
  • Was kann man damit zeigen? Wofür verwendet man es? Und auch: Wie manipuliert man damit?

Call to Action (01:05:58)

  • Wenn ihr uns weiter hören möchtet, folgt uns auf Twitter unter @datenleben
  • Oder besucht unsere Webseite: www.datenleben.de
  • Hinterlasst uns gerne Feedback, wir würden uns darüber sehr freuen
  • Habt ihr Fragen oder Themen, die euch interessieren? Dann schreibt uns!

Outro (01:06:24)

Schlagworte zur Folge

Künstliche Intelligenz, KI, Alan Turing, Imitationsspiel, Robotergesetze, Ex Machina, Black Mirror, Ian McEwan

Quellen

Weiterführende Links


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.