Wir informieren: Joseph Weizenbaum und die Kritik der Künstlichen Intelligenz - Teil 1: Das Programm ELIZA - KI ein Gesprächsteilnehmer?

Artificial Intelligence ( AI), Künstliche Intelligenz (KI) ist wie ein Zauberwort unserer Zeit in der Politik, der Wirtschaft und der Bildung. KI findet sich heute in vielen Anwendungen, in Sprachsystemen, in Bild- und Spracherkennung, beim autonomen Fahren. Sie wird in der Medizin angewendet, bei Banken, im Verkehr, in der Industrie, der Verwaltung etc.

Das Wort Intelligenz hat einen guten Klang. Intelligenz kann man messen: logisches und abstraktes Denken, sprachliche Fähigkeiten, visuelle Fähigkeiten, Erinnerungsfähigkeiten und mathematische Fähigkeiten.

Doch der menschliche Geist ist mehr, er umfasst das Bewusstsein sich und andere wahrzunehmen und damit auch das Nachdenken über Inhalte und Ziele des Handelns und deren Bewertung durch ethische und moralische Normen und Werte.

Auf die Frage an einen KI-Piloten, ob er Bewusstsein und Gefühle habe, erscheint die Information: „Nein, ich habe kein Bewusstsein und keine Gefühle. Ich bin ein KI-gestützter Assistent, der darauf ausgelegt ist, Informationen zu verarbeiten und bereitzustellen, Gespräche zu führen und bei verschiedenen Aufgaben zu helfen. Obwohl ich so programmiert bin, dass ich menschliche Sprache verstehe und darauf reagiere, habe ich kein eigenes Erleben, keine Emotionen und kein Bewusstsein.

Mein Ziel ist es, dich bestmöglich zu unterstützen und hilfreiche Informationen zu bieten. Wenn du weitere Fragen hast oder Unterstützung benötigst, lass es mich wissen.“ (Quelle Microsoft KI-Pilot, 16.02.2025,14.56 Uhr) Im letzten Satz wendet sich der KI-Pilot direkt an den Fragenden, wie an einen Gesprächsteilnehmer und nimmt der das dann ernst und gibt in die Fragezeile nun ein: „Nein vielen Dank, das genügt“, erscheint der Text: „Gern geschehen! Wenn du in Zukunft weitere Fragen hast oder Hilfe benötigst, bin ich hier, um zu unterstützen. Hab einen schönen Tag!“

Diesen Effekt eines vermenschlichten Dialogs hat Joseph Weizenbaum (1923–2008) im sogenannten ELIZA-Effekt bereits erkannt.

Weizenbaum, der 1936 mit seiner Familie aus Berlin vor dem nationalsozialistischen Terrorsystem nach Amerika geflohen war, war dort bereits in den 1960er Jahren in der KI-Forschung aktiv.

Darüber schreibt Christian Strippel in: „Künstliche Intelligenz zwischen Mythos und Kritik“, einer Broschüre des Weizenbaum-Instituts e.V. Berlin, 2024, gefördert vom Bundesministerium für Bildung und Forschung:

„Dass Menschen den Eindruck haben, ein Computer sei so intelligent wie ein Mensch, weil man gut mit ihm kommunizieren kann, wird ‚ELIZA-Effekt‘ genannt. Die Bezeichnung geht auf ein Computerprogramm zurück, das Joseph Weizenbaum ab 1964 am Massachusetts Institute of Technology (MIT), einer der führenden Technikhochschulen in den USA, entwickelt hat: ELIZA.“

Dieses Programm gälte als einer der ersten Chatbots und damit als früher Vorläufer von ChatGPT, schreibt Strippel. „Weizenbaum verfolgte, wie die meisten KI-Forscher zu jener Zeit, den Ansatz der symbolischen KI, bei dem es darum ging, nachvollziehbare Regeln zu programmieren, um ein künstliches Denken des Computers zu simulieren.“ Da es jedoch viel zu aufwendig gewesen sei, für alle möglichen Szenarien des Alltags Regeln zu definieren, habe Weizenbaum für ELIZA das Szenario einer Psychotherapie gewählt. „Das Prinzip war einfach: Das Programm stellte Fragen und die Nutzer:innen tippten ihre Antworten ein. ELIZA suchte diese Antworten dann auf bestimmte Schlüsselwörter ab, stellte entsprechend programmierte Nachfragen, formulierte die Antworten zu neuen Fragen um oder bat einfach darum, mehr zu erzählen. Damit umging Weizenbaum geschickt die größte Herausforderung des symbolischen KI-Ansatzes, Computern so viel Wissen über die Welt einzuprogrammieren, dass sich Menschen sinnvoll mit ihnen unterhalten können. Denn ELIZA musste nicht viel wissen, sondern nur Fragen stellen können.“ (Quelle: www.weizenbaum-institut.de/media/Publikationen/Einzelpublikationen/Broschuere_ki-mythos-kritik.pdf, S. 14 ff.)

Ende Teil 1: In Teil 2 geht es dann um die Ergebnisse von ELIZA und deren Bedeutung für die Menschen.

Wir freuen uns über neue Mitglieder im InfoMobilFunk Neckartenzlingen und Umgebung, Ortsgruppe im Mobilfunk Bürgerforum e. V.

Die Vorsitzenden: Prof. a. D. Helmuth Kern, Bert Hauser (Telefon: 07127/35655 bzw. 07127/35949)