dl012: menschen und maschinen – teil 2

Intro (00:00:00)

Thema des Podcasts (00:00:18)

Willkommen zur zwölften Folge beim datenleben-Podcast, dem Podcast über Data Science.
Wir sind Helena und Janine und möchten euch mitnehmen in die Welt der Daten. Je mehr Daten die Menschheit produziert, desto größer und wichtiger wird die Rolle von Data Science in unserem Leben.
Darum möchten wir euch Data Science näher bringen!

Thema der Folge (00:00:39 )

Diese Folge ist Teil 2 unserer Doppelfolge "Menschen und Maschinen".
Es geht um das Thema Künstliche Intelligenz, das im Data Science Feld sehr verbreitet ist.
Meistens im Kontext Maschinelles Lernen.
Es uns hier aber nicht um den technischen Askepkt, sondern die Frage: Können Maschinen denken?
Mit dabei ist als Gäst*in Elisa. Elisa hat sich mit dem Turing-Test und dem Film Ex Machina befasst und dabei besonders auf den Genderaspekt Bezug genommen.
Uns beschäftigt: Welche Konsequenzen würden aus der Existenz denkender Maschinen entstehen?
Es gibt in der Populärkultur viele verschiedene Ansätze Künstliche Intelligenz zu denken
Neben Isaac Asimovs Robotergesetzen, reden wir auch über die Folge "Wiedergänger" von Black Mirror, über das Buch "Maschinen wie ich" von Ian McEwan und über den Film "Ex Machina"

Worum ging es nochmal in Teil 1? (00:01:30)

In dem Aufsatz Computing Machinery and Intelligence von Alan Turing stellt er 1950 die Frage "Können Maschinen denken?"
Testaufbau Imitationsspiel: A = Mann, B = Frau, C = interviewende Person; A muss so tun als sei er eine Frau, B soll C bei der Identifikation unterstützen
Im nächsten Schritt: Wenn A jetzt eine Maschine ist, was käme dann heraus, würde C bei der Identifikation genauso oft richtig oder falsch liegen?
Spannend ist, dass er in seinem Imitationsspiel auch die Genderfrage diskutiert
Ada Lovelace wandte Mitte des 19. Jhs. ein, dass Maschinen nur können, was der Mensch hineingibt
Turing: Dabei kann der Mensch auch nur, was in ihn "einprogrammiert" wurde
Elisa hat herausgestell, dass Turing sagt, dass Menschen sich gerne überlegen fühlen
Daher auch das Pochen einiger darauf, dass nur Menschen zum Denken fähig wären
Das Rückt ein Konzept von Mensch ins Zentrum, der seine Vormachtsstellung bedroht sieht
Angst vor Kontrollverlust ist oft Thema in kulturellen Bearbeitungen des Themas Künstliche Intelligenz
Also die Angst davor die Schöpfung nicht beherrschen zu können und von ihr angegriffen zu werden
Dabei werden zwei Geschichten erzählt: Entweder die Geschichte einer Menschwerdung oder die Geschichte von Macht und Unterdrückung
Turing hilft uns nicht weiter, ob Maschinen denken können: ihn interessiert nur das beobachtbare Verhalten, nicht die inneren Vorgänge (von Mensch oder Maschine)
Er hat aber schon auf wesentliche Bedingungen in der Mensche-Maschine-Beziehung hingewiesen
Das Thema treibt viele um und mehr als Spekulieren ist bis heute immer noch nicht möglich
Auch deswegen ist das Thema Künstliche Intelligenz in kultureller Auseinandersetzung so präsent
Und damit geht es jetzt weiter:

Über die Robotergesetze von Isaac Asimov (00:06:13)

Einige Jahre vor Turings Aufsatz, sind Isaac Asimovs Robotergeschichten erschienen.
Bekannt sind sie vor allem für ihre drei, später vier, Robotorgesetze, die verhindern sollen dass Roboter sich gegen den Menschen richten
Er bringt in seinen Geschichten diese Gesetze aber auch immer wieder an ihre Grenzen
Beispiel: in einer Lucky Starr Geschichte wird Robotern eingeredet, ein Raumfahrzeug wäre unbemannt, und daher abgeschossen werden könne, obwohl das nicht stimmt und am Ende Menschen sterben
In The Evitable Conflict, der letzten Kurzgeschichte aus I, robot (deutsch: Ich, der Roboter) gibt es eine KI, die sämtliche Geschicke der Menschen lenkt. Und es gibt ein Problem: sie fügt Menschen schaden
Es stellt sich heraus: Sie hat die Gesetze erweitert/neu ausgelegt, um größeren Schaden abzuwenden
Man kommt zu der Überzeugung, dass man Maschinen diese Gesetze nicht einprogrammieren kann
Vor allem wegen der auch von Asimov schon aufgezeigten Schwächen und Komplikationen
Paradox: Man versucht über die KI Macht auszuüben, die man über die Menschheit selbst nicht hat
Weitere Frage: Kann KI zu überlegen sein? Nimmt sie dann eine göttliche Position ein? (allwissend etc.)
Beispiele: Qualityland 2.0, Buchreiche Neon Birds
Würde sich eine solche KI überhaupt für die Menschheit interessieren?
William Gibbson Neuromancer: Superintelligenz will nur andere ihrer Sorte finden, Menschen sind egal
Wenn sie sich nicht für uns interessiert, rottet sie uns dann vielleicht versehentlich aus?
Dietmar Dath: Der Schnitt durch die Sonne, hier nutzt auch eine (nicht technische) Superintelligenz die Menschen aus, um andere Superintelligenzen zu finden
Am Ende bleibt vor allem die Frage: Wie geht der Mensch mit sich selber um?
Was passiert, wenn Menschen und Maschinen aufeinander treffen?

Über die Folge "Wiedergänger" der Serie Black Mirror (00:17:31)

Beispiel 1, Serie: Black Mirror-Folge Be Right Back, auf deutsch Wiedergänger
Nach dem Unfalltot ihres Freundes Ash, nimmt Martha, zunächst Abstand von einem Dienst, bei dem man per Messenger mit einer KI kommuniziert, die den Charakter Verstorbener Menschen nachahmt
Als sie erfährt, dass sie schwanger ist, tut sie es dann doch, weil sie nicht weiß wohin mit sich.
Sie bekommt tatsächlich das Gefühl mit Ash zu schreiben und entwickelt eine Sehnsucht nach ihm.
Irgendwann wird auch ein nachgebildeter Mensch angeboten, der mit seinem Profil bespielt ist
In der Interaktion mit ihm, merkt sie immer deutlicher, dass etwas mit ihm "nicht" stimmt", dass es einfach kein Ersatz für ihren Ash ist, muss sich aber jetzt mit der Maschine befassen
Offensichtliches Problem: Datengrundlage wird immer Lücken haben; z.B.: Wie lernt die Person Neues?
Was ebenfalls fehlt: Erinnerungen und Bewertung von Erinnerungen wie Fotos etc., weil Wissen fehlt
Klassisch bei Black Mirror ist ja bestimmte technische Möglichkeiten durchzuspielen
Frage, die das aufwirft: Würde man einen lieben Menschen als KI überhaupt simuliert haben wollen?
KI wird das komplexe Bewusstsein des Menschen nicht mit hinterlassenen Daten nachbauen können
Dennoch hegen wir vielleicht (wie Martha) eine gewisse Hoffnung
In Wiedergänger nutzt eine Firma ihr Modell, um Trauernden Geld abzunehmen, sie verkaufen Hoffnung
Mensch-Maschine-Interaktion: auf dieser Basis muss sie scheitern muss, aber wie scheitert sie?
Es gibt auch mindestens eine Serie, in der ein Mensch komplett "gespeichert" und in einen maschinellen Host eingesetzt wird
Menschen versuchen tatsächlich sich nach dem Tod einfrieren zu lassen, in der Hoffnung künftig wieder in einem künstlichen Körper leben zu können
In der Serie Altered Carbon wird auch das Bewusstsein auf einem Chip gespeichert: Unsterblichkeit, etc.
Ist ein menschliches Bewusstsein, das man auf einem Chip speichert und einsetzen kann, wirklich Künstliche Intelligenz?

Über den Roman "Maschinen wie ich" von Ian McEwan (00:30:52)

Beispiel 2, Buch: Maschinen wie ich von Ian McEwan, erschienen bei Diogenes
Spielt im London im Jahr 1982: aufgrund von Alan Turings Forschungen gibt es bereits Internet, selbstfahrende Autos und den ersten echten künstlichen Menschen
Es ist eine Alternativwelt, in der Alan Turing nicht so früh gestorben ist und eine KI entwickelt hat
Charlie kauft sich einen "Adam", weil er gerne (außer seiner Freundin Miranda) einen Freund hätte
Dies führt zu einer komplizierten Dreierkonstellation mit Adam
Adam immitiert erfolgreich Bewusstsein, weil Charlie ihn selbst als Black Box beschreibt
Charlie und Miranda, können ausserdem Adams Eigenschaften im Vorfeld bestimmen können
In diesem Roman werden sehr viele verschiedene wichtige Aspekte in Bezug auf KI dargestellt und Fragen aufgeworfen
Auch zum Beispiel die Frage danach, in wie fern eine KI Liebe empfinden kann und was Liebe ist
Es wird auch reflektiert, wie man als Mensch auch miteinander umgehen sollte, bzw. wie gerade nicht
Weitere Aspekte: Charlie "besitzt" Adam und Charlie und Miranda haben eine Art von Elternschaft

Über den Film "Ex Machina"

Beispiel 3, Film: Ex Machina
Besonders interessant, weil der Turing-Test konkret vorkommt und stark auch der Genderaspekt
Ein junger Entwickler wird eingeladen in eine Forschungseinrichtung, wo er einen Turing-Test durchführen soll an der KI namens Ava
Die KI wird offensichtlich als Maschine, aber auch offensichtlich als weiblich dargstellt
Avas Ziel ist es frei zu kommen aus dem Forschungsbunker und verhält sich dafür explizit weiblich
Es wird klar gemacht, dass Ava ein funktionierendes Bewusstsein hat, Frage ist, wie der Mensch darauf reagiert und damit umgeht
Der Film ist aber auch hinsichtlich von Macht, Sexismus und Rassismus kritisch zu betrachten
Der Schöpfer in diesem Film verlässt sich sehr auf sein Können, aber die KI lernt darüber hinaus
Das Motiv des hochmütigen Schöpfers kommt hier wieder vor
Ava betätigt sich auch künstlerisch, hier wird die Frage aufgeworfen was Kreativität
Wie werden weibliche KIs dargestellt, wie männliche KIs? Sind bedrohliche KIs immer bedrohlich? Weibliche immer Assistenzen?
Zumindest in The 100 gibt es eine weibliche KI, die für die Menschheit sehr bedrohlich wird
Göttähnliche Super-KI aus Neonbirds ist auch eine weibliche KI
In Ex Machina ist Gender sehr wichtig in Hinsicht darauf, was wir von den Genderrollen erwarten

Fazit (01:00:24)

Wir konnten hoffentich etwas vertiefend darstellen, wie der Turing-Test von Alan Turing gemeint war, dass auch der Genderaspekt darin eine wichtige Rolle spielt
Ausserdem wissen wir sehr gut, dass Zukunft und KI nicht vorhersehbar sind, man kann sich nur Gedanken machen
Wir müssen darauf achten mit KI keine Diskriminierungsformen zu reproduzieren
Man kann nicht genug über (vermeintliche) Selbstverständlichkeiten nachdenken, wie Turing auch
Fiktionen sind wichtig um Konzepte durchzudenken, zu entwickeln, sich damit zu konfrontieren
Da gibt es viel, was man sich ansehen und lesen kann; Fiktionen geben Spekulationen nötigen Raum
Was ist der Human Bias? Was erwarten wir, was wollen wir, was tragen wir an KI heran?

Nächste Folge: Datenvisualisierung am 24.04.2021 (01:05:25)

Es wird wieder technischer: und zwar mit Datenvisualisierung im Allgemein, weil es ein riesiges Feld ist
Was kann man damit zeigen? Wofür verwendet man es? Und auch: Wie manipuliert man damit?

Call to Action (01:05:58)

Wenn ihr uns weiter hören möchtet, folgt uns auf Twitter unter @datenleben
Oder besucht unsere Webseite: www.datenleben.de
Hinterlasst uns gerne Feedback, wir würden uns darüber sehr freuen
Habt ihr Fragen oder Themen, die euch interessieren? Dann schreibt uns!

Outro (01:06:24)

Schlagworte zur Folge

Künstliche Intelligenz, KI, Alan Turing, Imitationsspiel, Robotergesetze, Ex Machina, Black Mirror, Ian McEwan