Müssen wir uns vor intelligenten Computern fürchten?

Besucher der Ausstellung im Ozeaneum sprechen mit KI Kopf

© Stefan Sauer/dpa / evangelisch.de (M)

Kommuniziern wir bald nur noch mit "Robo-Köpfen", die über Sprach- und Gesichtserkennung funktionieren, wie diese beiden Besucher der Ausstellung im Ozeaneum? Um künstliche Intelligenz und das Computerprogramm ChatGPT geht es bei evangelisch kontrovers in dieser Woche.

Kolumne: evangelisch kontrovers
Müssen wir uns vor intelligenten Computern fürchten?
Über die künstliche Intelligenz berichten die Medien wieder verstärkt. Müssen wir eine übermenschliche Intelligenz der Computer ("Super-Intelligenz") fürchten, der wir hilflos ausgeliefert wären? Nein, meint Alexander Maßmann. Seiner Meinung nach beruht diese Furcht auf einem Missverständnis der menschlichen Intelligenz.

Seit ein paar Wochen berichten Zeitungen vermehrt von einem Computerprogramm namens ChatGPT. Das ist ein sogenannter ChatBot. Hat man ihn mit wenigen Stichwörtern gefüttert, schreibt er automatisiert eigene Texte, die sich überraschend gut lesen – zum Beispiel eine Predigt ! Die künstliche Intelligenz – KI – wird tatsächlich immer leistungsfähiger. Mit dem neuesten Beispiel scheint sie der menschlichen Intelligenz schon sehr nahe zu kommen.

Sollten sich Prognosen bewahrheiten, dass Computer die menschliche Form der Intelligenz erreichen und gar hinter sich lassen, also "Super-Intelligenz" erreichen werden? Dann könnten sie sich auch von uns Menschen unabhängig machen und großen menschlichen Schaden in Kauf nehmen. Gegen ihre überlegene Intelligenz würden wir nichts ausrichten können. Der Theologe Wolfgang Huber nimmt diese verbreitete Befürchtung in einem Buch zur "Ethik der Digitalisierung " ernst, auch wenn er nicht unkritisch ist.

Wie der ChatBot funktioniert

Letzte Woche war in der "Zeit " zu lesen, dass ein Chatbot "begreift", was zum Beispiel der "Weltraum" ist, "wie ein Mensch". Doch das ist ein Irrtum. Obwohl die Texte von ChatGPT gut lesbar sind, erfasst der ChatBot nicht den Sinn der Wörter. Er wurde darauf programmiert, in einer immensen Datenbank mit Beispieltexten die Häufigkeit bestimmter Wörter statistisch zu erfassen. Dann fügt das Programm das Wort "Weltraum" mit anderen Wörtern so zusammen, wie sie laut Statistik auftreten.

Computer übertreffen die natürlichen menschlichen Fähigkeiten bereits deutlich, wenn es um die statistische Analyse riesiger Datenbanken geht. Doch die inhaltliche Qualität der neuen Computer-Texte bleibt stets davon begrenzt, wie sinnvoll die Texte in der Datenbank sind. Das ist auch der Grund, weshalb ein ChatBot von Microsoft zunehmend rassistische Bemerkungen ausspuckte.

Leibliches Verstehen

Unsere menschliche Intelligenz dagegen wäre ohne unseren menschlichen Körper undenkbar. Ist aber die Rolle unseres Körpers für unsere Intelligenz dem Beitrag vergleichbar, den die Hardware zur Rechenleistung einer Software erbringt? Dann würde zumindest das Fehlen eines menschlichen Körpers nicht ausschließen, dass Computer menschliche Intelligenz erreichen, auch ohne menschlichen Körper.

Umfrage

Die Bedeutung unseres Körpers für unsere Intelligenz besteht nur zu einem Teil darin, dass er etwa das Hirn mit Energie versorgt. Unsere Intelligenz ist in ihren Inhalten selbst bleibend vom Leib geprägt. Wie sollte man etwa einem Computer oder einem isolierten Gehirn die Bedeutung der Wörter "heiß", "schwer" oder "laut" klarmachen, unabhängig von einem empfindenden Leib?

Auch wenn wir etwa ans Laufen nur denken, spielen Hirnregionen eine wesentliche Rolle, die beim aktiven Laufen selbst involviert sind. Was das Laufen ist und ob es in einer bestimmten Situation sinnvoll ist, erlernt und erfährt der ganze Mensch – und kein bloßer Intellekt – im leiblichen Tun. Und was der "Weltraum" ist, begreift man nur, wenn man zumindest den Blick leiblich nach oben, in den Himmel richtet.

"Schwache" KI

Auch ein Roboter, der gewissermaßen einen Körper hätte, könnte nicht eigentlich "verstehen", was Hitze ist. Immerhin könnte er die Erfahrung der Hitze simulieren durch ein Thermometer: Ab einer gewissen Temperatur würde er sich ins Kühle begeben. Natürlich empfindet er die hohe Temperatur nicht als unangenehm. Er bewegt sich einfach weg, weil er so programmiert wurde.

Doch auch ohne bewusstes Begreifen wäre möglicherweise eine "schwache" KI denkbar, die intelligentes Verhalten immerhin simuliert – etwa wie ChatGPT. Möglicherweise könnte eine maschinelle Intelligenz zumindest in äußerlichem Verhalten und Wirkungen menschliches Niveau erreichen oder gar übertreffen – auch ohne tatsächlich Sinn zu begreifen. Beim Schach etwa lassen gute Computer menschlichen Spielern keine Chance mehr. Eine Software kann sogar relativ selbständig Schach lernen.

Erleben, Kreativität und Verstehen

Demgegenüber zeichnet sich menschliches Verstehen gerade durch Sinn-Empfinden und durch das Schaffen von Neuem aus. Wir verstehen Dinge, indem wir neue Szenarien imaginieren. Wir tun zum Beispiel so, als ob das, was wir verstehen wollen, etwas ganz anderes wäre. Daraufhin prüfen wir, ob wir das neue Verständnis als sinnvoll erleben. So wird ein Holzstück beim Schach zu einem König. Wenn er fällt, hat seine Partei insgesamt verloren. Weil wir in 32 Klötzchen einen Konflikt zwischen zwei Parteien sehen, erleben wir es als sinnvoll, Holzstücke über ein Brett zu schieben. Sinn-Erleben, die freie Imagination und das Verstehen sind eng verwoben.

Dass dagegen eine Software selbständig Schach erlernt, bedeutet nicht, dass sie auch sonst sinnvolle Resultate erreicht, obwohl sie zum menschlichen Sinn-Verstehen nicht fähig ist. Zum Schach-Lernen wurde sie programmiert, und hier erkennt sie das "Schach Matt" als ein Muster, das das Spiel eindeutig definiert. Beim Verfassen von Texten aber kann man das Ziel – Wahrheit und Relevanz – nicht so allgemein auf ein klares formales Muster herunterbrechen. Anders als beim Schach gehen die Meinungen oft darüber auseinander, wer ein Streitgespräch nun eigentlich gewonnen hat. Sprache ist an sich mehrdeutig. Ob die vielen verschiedenen Aussagen wahr sind, lässt sich nur mittels menschlichen Sinn-Verstehens ergründen.

Ohne leibliches Erleben keine Intelligenz menschlichen Kalibers

Ein solches sinnhaftes Verstehen aber wäre nicht möglich, wenn wir nicht schon im ganz elementaren leiblichen Erleben Sinn erfahren würden. Ein Roboter, der Hitze nicht als Belastung erlebt, sondern das nur simuliert, erfährt schon auf dieser elementaren Ebene keinen Sinn. Deshalb kann aber die KI auch nicht registrieren, dass sie aus einer Datenbank Aussagen generiert, die unwahr sind.

Selbstverständlich kann KI viel Gutes bewirken oder auch immensen Schaden anrichten, auch unterhalb des menschlichen Intelligenz-Niveaus. Doch es besteht kein Anlass zu der Annahme, dass KI menschliche Intelligenz erreichen wird. Ein wesentliches Ziel menschlicher Intelligenz – Wahrheit – bleibt unerreichbar für die schwache KI.

Lehre von der Seele führt in die Irre

Die elementare Bedeutung des Leibes für die menschliche Intelligenz unterschätzen wir oft. Dieser Irrtum speist sich auch aus Überzeugungen, die gerade das Christentum oft bewahrt und verstärkt hat, nämlich aus der Idee einer immateriellen Seele, die an sich unabhängig vom Leib existiert, die uns tiefe intellektuelle Einsichten ermöglicht und nach dem Tod des Körpers weiterbesteht. Abseits einer lebendigen leiblich-geistigen Einheit hat es aber keinen Sinn, von einer Seele zu reden.

Biblisch ist die Ansicht der körperlosen Seele nicht. Im Hebräisch des Alten Testaments gibt es kein Wort für sie. Wenn etwa der Beter des 42. Psalms seine Sehnsucht nach Gott illustriert, benutzt er ein Wort, das die Übersetzungen zwar als "Seele" wiedergeben. Doch der Psalm spricht nicht von der menschlichen Geistigkeit. Vielmehr geht es um Vitalität. Der Psalm wählt das Bild eines Hirschs – ein Tier, das nicht für besondere Intelligenz bekannt ist, sondern dessen kraftvolles Röhren einen tiefen leiblichen Affekt nahelegt.

Ausblick: die eigentlichen Probleme mit der KI

Die Annahme, Computer könnten menschliche Intelligenz erreichen und dann unsere menschlichen Interessen missachten, ist hoch dramatisch. Dieses fesselnde Szenario verstärkt aber die Ansicht, dass Computer erst recht solide Intelligenz aufbieten, wenn es um deutlich weniger dramatische Leistungen geht.

Auf einer mittleren technologischen Ebene werden folgenschwere KI-Projekte teils schon verwirklicht, wie automatisierte Waffen oder selbstfahrende Autos. Weiter verbreitet ist bereits die Nutzung der KI in der automatisierten Gesichtserkennung mit Kameras.

Alles hängt an den Daten

Das Gelingen der Gesichtserkennung steht und fällt mit den Fotos, anhand derer die Computer trainiert werden. Die Fotos sind hier so wichtig wie die sprachliche Datenbank für den ChatBot. Die Entwickler sind meist weiße Männer, denen nicht auffällt, dass die Trainingsbilder ebenfalls meist weiße Männer zeigen. Deshalb liegt die Trefferquote bei der Erkennung von Menschen schwarzer Hautfarbe und von Frauen deutlich niedriger.

So wurde gerade neulich wieder berichtet, wie ein schwarzer Amerikaner  irrtümlich von der Polizei verhaftet und länger festgehalten wurde. Grund war ein Fehler in der Gesichtserkennung. In Europa wiederum hat gerade ein Beschluss des EU-Ministerrats  den Weg gebahnt für einen verstärkten Einsatz der automatisierten Gesichtserkennung.

Die vorrangige moralische Problem mit der künstlichen Intelligenz dürfte in einer solchen Verstärkung der alltäglichen menschlichen Vorurteile liegen. Das verworrene Szenario einer künstlichen Super-Intelligenz lenkt davon nur ab.

Mehr zu evangelisch kontrovers
Container mit weggeworfenem Obst, Gemüse und Brot
In Deutschland enden sehr viele gute Lebensmittel im Müll, obwohl viele Menschen nicht genug haben. Soll man Händler verpflichten, alte Lebensmittel zu spenden anstatt sie wegzuwerfen? Unser Ethik-Experte Alexander Maßmann nimmt Stellung.
Junges Paar mit Neugeborenem
Angesichts von Überbevölkerung und Klimakrise entscheiden sich immer mehr Menschen dagegen, Kinder zu bekommen. Mehr Kinder produzieren mehr CO2. Wäre also neben der bekannten Flugscham nun auch Kind-Scham angezeigt?