Fehler by Design: Das Gedächtnis im KI-Zeitalter

© metamorworks/iStock
Redaktion BWI

Innovation

„KI hält uns den Spiegel vor“, sagt die Oxford-Forscherin Dr. Sandra Wachter. „Wenn wir als Menschen vorurteilsbehaftet sind, werden es auch die Algorithmen sein, die unsere Daten als Grundlage ihrer Entscheidungen nehmen.“ Mit diesen Worten endete unser Beitrag zur KI-Ethik. Die Fehler einer KI sind Fehler des Menschen. Und der Mensch lässt sich einfacher manipulieren, als ihm lieb ist.

Dr. Julia Shaw ist Wissenschaftlerin in der Abteilung für Psychologie an der University College London. Sie forscht in den Bereichen Rechtspsychologie, künstliche Intelligenz und Erinnerungen. Bekannt wurde Shaw unter dem publikumswirksamen Titel „Mind Hacker“. Und der geht auf ein Experiment zurück, das stark an den Hollywood-Film Inception erinnert. Darin dringt Leonardo DiCaprio in das Unterbewusstsein anderer Menschen vor, um einen Gedanken einzupflanzen, den diese fortan als ihre eigenen wahrnehmen. Was im Film einiges an Science-Fiction braucht, konnte Shaw mit kognitionspsychologischer Gesprächsführung real nachstellen.

Gedanken sind eine persönliche Konstruktion

Vereinfacht dargestellt, lief das so ab: In mehreren Gesprächen erzählte Shaw ihren Versuchspersonen von deren Kindheit – darunter von vielen Details, die Shaw als Fremde eigentlich gar nicht hätte wissen sollen. Nach anfänglicher Skepsis vertrauten ihr die Probanden schon nach kurzer Zeit. Sie glaubten ihr sogar, als sie frei erfundene Situationen schilderte. Das große Finale: Shaw konnte die meisten der Studienteilnehmer davon überzeugen, in ihrer Kindheit ein Verbrechen begangen zu haben. Aus anfänglicher Ablehnung wurde ein Schuldeingeständnis. Nur: Das Verbrechen gab es nie, auch das war frei erfunden.

Mit ihrer Arbeit will Shaw natürlich polarisieren. Aber sie unterstützt auch die Strafverfolgung: In Gerichtsprozessen untersucht sie beispielsweise, ob Zeugen durch manipulative Befragungsmethoden so beeinflusst werden, dass sie einen falschen Augenzeugenbericht abgeben. Ohne es zu wollen.

„Das Gedächtnis ist wie eine Wikipedia-Seite. Man kann es selbst verändern. Aber andere können das auch.“

Elizabeth Loftus, Scientific Advisory Boards der False Memory Syndrome Foundation

Gedächtnis-Outsourcing ist Alltag

Wenn das menschliche Gedächtnis derart beeinflussbar ist, wieso lagern wir es dann nicht aus? Im Grunde tut der Mensch das bereits, seitdem er die ersten Höhlen bemalt hat. Mit den digitalen Möglichkeiten hat sich das Ausmaß aber in den letzten Jahren drastisch verändert. Spätestens seit der massenhaften Verbreitung von Smartphones ist das Dokumentationszeitalter angebrochen: Wir halten Momente digital fest, statt sie mit allen Sinnen zu erfassen. Dieses Multisensorische ist jedoch die Voraussetzung, damit sich Erinnerungen bilden können. Wer im Urlaub mehr filmt als erlebt, der erinnere daher auch weniger, sagt Shaw.

Schon vor einigen Jahren kam so die Frage auf, ob die digitale Welt den Menschen dümmer mache. In der Tat zeigen Studien, dass sich das Gehirn recht schnell an die veränderte Nutzung gewöhnt. Es vernetzt seine Neuronen neu. Oder wie Shaw es ausdrückt:

© CC BY-SA 3.0

„Wir programmieren uns selbst um, indem wir dem Hirn mitteilen: Ich muss mir keine konkreten Fakten merken. Ich weiß ja, wo ich sie finden kann.“

» LINKTEST

Dr. Julia ShawRechtspsychologin, University College London

Den Effekt nennt man digitale Amnesie. Ist das zwangsläufig etwas Schlechtes? Schließlich sind ausgelagerte Informationen, wie schon erörtert, objektiver als eine subjektive, leicht verzerrbare Erinnerung. Demnach müsste die Rechtspsychologin Julia Shaw eine Befürworterin des Gedächtnis-Outsourcings sein. Und tatsächlich hat die 31-Jährige mit Spot einen intelligenten Chatbot entwickelt, der Opfern von Belästigungen und Diskriminierungen am Arbeitsplatz beim Anlegen eines objektiven Gedächtnisprotokolls hilft.

Schlüsselkompetenz neuronale Flexibilität

Aber Shaw warnt auch: „Falsche Erinnerungen sind keine Fehler unseres Gehirns, sondern ein wichtiger Bestandteil.“ Nur die Flexibilität seiner Neuronen befähige den Menschen, sich seiner Umgebung anzupassen und bekannte Fragmente zu etwas Neuem zu kombinieren. „Das ist die Quelle für Kreativität.“

Die Kreativität ist neben einem Bewusstsein der wohl größte Unterschied zwischen Gehirn und künstlicher Intelligenz. Vielleicht also ist ein fehlerhaftes Gedächtnis kein überflüssiges Relikt der analogen Vorzeit. Sondern sogar der Schlüssel zu einer menschlicheren KI.

 


Foto Dr. Julia Shaw: CC BY-SA 3.0

BWI Blog

Karriere Innovation Bund Bundeswehr E-Government IT-Security Unternehmen

Fehler by Design: Das Gedächtnis im KI-Zeitalter

© metamorworks/iStock
Redaktion BWI

Innovation

„KI hält uns den Spiegel vor“, sagt die Oxford-Forscherin Dr. Sandra Wachter. „Wenn wir als Menschen vorurteilsbehaftet sind, werden es auch die Algorithmen sein, die unsere Daten als Grundlage ihrer Entscheidungen nehmen.“ Mit diesen Worten endete unser Beitrag zur KI-Ethik. Die Fehler einer KI sind Fehler des Menschen. Und der Mensch lässt sich einfacher manipulieren, als ihm lieb ist.

Dr. Julia Shaw ist Wissenschaftlerin in der Abteilung für Psychologie an der University College London. Sie forscht in den Bereichen Rechtspsychologie, künstliche Intelligenz und Erinnerungen. Bekannt wurde Shaw unter dem publikumswirksamen Titel „Mind Hacker“. Und der geht auf ein Experiment zurück, das stark an den Hollywood-Film Inception erinnert. Darin dringt Leonardo DiCaprio in das Unterbewusstsein anderer Menschen vor, um einen Gedanken einzupflanzen, den diese fortan als ihre eigenen wahrnehmen. Was im Film einiges an Science-Fiction braucht, konnte Shaw mit kognitionspsychologischer Gesprächsführung real nachstellen.

Gedanken sind eine persönliche Konstruktion

Vereinfacht dargestellt, lief das so ab: In mehreren Gesprächen erzählte Shaw ihren Versuchspersonen von deren Kindheit – darunter von vielen Details, die Shaw als Fremde eigentlich gar nicht hätte wissen sollen. Nach anfänglicher Skepsis vertrauten ihr die Probanden schon nach kurzer Zeit. Sie glaubten ihr sogar, als sie frei erfundene Situationen schilderte. Das große Finale: Shaw konnte die meisten der Studienteilnehmer davon überzeugen, in ihrer Kindheit ein Verbrechen begangen zu haben. Aus anfänglicher Ablehnung wurde ein Schuldeingeständnis. Nur: Das Verbrechen gab es nie, auch das war frei erfunden.

Mit ihrer Arbeit will Shaw natürlich polarisieren. Aber sie unterstützt auch die Strafverfolgung: In Gerichtsprozessen untersucht sie beispielsweise, ob Zeugen durch manipulative Befragungsmethoden so beeinflusst werden, dass sie einen falschen Augenzeugenbericht abgeben. Ohne es zu wollen.

„Das Gedächtnis ist wie eine Wikipedia-Seite. Man kann es selbst verändern. Aber andere können das auch.“

Elizabeth Loftus, Scientific Advisory Boards der False Memory Syndrome Foundation

Gedächtnis-Outsourcing ist Alltag

Wenn das menschliche Gedächtnis derart beeinflussbar ist, wieso lagern wir es dann nicht aus? Im Grunde tut der Mensch das bereits, seitdem er die ersten Höhlen bemalt hat. Mit den digitalen Möglichkeiten hat sich das Ausmaß aber in den letzten Jahren drastisch verändert. Spätestens seit der massenhaften Verbreitung von Smartphones ist das Dokumentationszeitalter angebrochen: Wir halten Momente digital fest, statt sie mit allen Sinnen zu erfassen. Dieses Multisensorische ist jedoch die Voraussetzung, damit sich Erinnerungen bilden können. Wer im Urlaub mehr filmt als erlebt, der erinnere daher auch weniger, sagt Shaw.

Schon vor einigen Jahren kam so die Frage auf, ob die digitale Welt den Menschen dümmer mache. In der Tat zeigen Studien, dass sich das Gehirn recht schnell an die veränderte Nutzung gewöhnt. Es vernetzt seine Neuronen neu. Oder wie Shaw es ausdrückt:

© CC BY-SA 3.0

„Wir programmieren uns selbst um, indem wir dem Hirn mitteilen: Ich muss mir keine konkreten Fakten merken. Ich weiß ja, wo ich sie finden kann.“

» LINKTEST

Dr. Julia ShawRechtspsychologin, University College London

Den Effekt nennt man digitale Amnesie. Ist das zwangsläufig etwas Schlechtes? Schließlich sind ausgelagerte Informationen, wie schon erörtert, objektiver als eine subjektive, leicht verzerrbare Erinnerung. Demnach müsste die Rechtspsychologin Julia Shaw eine Befürworterin des Gedächtnis-Outsourcings sein. Und tatsächlich hat die 31-Jährige mit Spot einen intelligenten Chatbot entwickelt, der Opfern von Belästigungen und Diskriminierungen am Arbeitsplatz beim Anlegen eines objektiven Gedächtnisprotokolls hilft.

Schlüsselkompetenz neuronale Flexibilität

Aber Shaw warnt auch: „Falsche Erinnerungen sind keine Fehler unseres Gehirns, sondern ein wichtiger Bestandteil.“ Nur die Flexibilität seiner Neuronen befähige den Menschen, sich seiner Umgebung anzupassen und bekannte Fragmente zu etwas Neuem zu kombinieren. „Das ist die Quelle für Kreativität.“

Die Kreativität ist neben einem Bewusstsein der wohl größte Unterschied zwischen Gehirn und künstlicher Intelligenz. Vielleicht also ist ein fehlerhaftes Gedächtnis kein überflüssiges Relikt der analogen Vorzeit. Sondern sogar der Schlüssel zu einer menschlicheren KI.

 


Foto Dr. Julia Shaw: CC BY-SA 3.0