Fragmente

Letzten Donnerstag, war ich im Internet auf der Suche nach Philosophinnen der Gegenwart und das Video «Denken wir wirklich in Worten?» von Dr. Nikola Kompa interessierte mich sehr. Es war für mich kein leicht verständliches, einstündliches Zuhören. Es beschäftigte mich den ganzen Tag und Freitag auch noch. Am Abend sah ich wieder einmal mehr zufälligerweise, dass im TV 3sat genau diese Themen aufgegriffen werden. Siehe Nano Doku «Können wir bald Gedankenlesen? Und anschliessend Nano Talk: Ist die Menschheit noch zu retten? Alle drei Videos gehen aktuell auf die Entwicklung der verschiedenen KI-Modellen ein, mit den positiven medizinischen Möglichkeiten, und den offenen Fragen wohin das alles auch führen kann und wird, wenn wir alles einzelnen, finanzstarken Menschen und Firmen und den «Maschinen» unkontrolliert überlassen.


Fortsetzung "kleine Geschichte der Philosophie" mit Wikipedia und youtube

Nikola Kompa
Aus Wikipedia kopiert:

„Nikola Kompa (* 1970) ist eine deutsche Philosophin.

Leben
Nach dem M.A. in Philosophie an der Universität München (Philosophie/Logik & Wissenschaftstheorie/Psychologie) und der Promotion zum Dr. phil. in München 1998 war sie von 2002 bis 2009 Assistentin an der Universität Münster. Nach der Habilitation in Philosophie an der Universität Münster 2008 hat sie seit 2011 die Professur für Theoretische Philosophie (W3) an der Universität Osnabrück inne.

Des Weiteren ist sie Projektleiterin und stellvertretende Sprecherin des von der Deutschen Forschungsgemeinschaft (DFG) geförderten Graduiertenkollegs „Situated Cognition“ (2017–2026) sowie eines Projekts zum Thema „Wie können wir in einer Sprache denken?“, das gemeinsam von der DFG und dem österreichischen Fonds zur Förderung der wissenschaftlichen Forschung (FWF) gefördert wird und das sie gemeinsam mit Christopher Gauker (Salzburg) und Jutta Mueller (die als Mercator-Stipendiatin an dem Projekt mitwirkt) leitet.


Werk
Kompa befasst sich hauptsächlich mit Themen der inneren Rede und der Frage, wie diese die menschliche Kognition beeinflusst. Sie vertritt dabei die Ansicht, dass Denken und inneres Abwägen von Gründen hauptsächlich im Modus der verinnerlichten natürlichen Sprache stattfindet und eben nicht notwendigerweise in einer grundlegenderen Language of Thought. Sie ist dabei der Strömung des Neo-Vygotskyanismus zuzurechnen.

Weitere Themen, mit denen sich Kompa auseinandersetzt, sind die erkenntnistheoretischen Aspekte von Metaphern sowie die Wirkmechanismen der "dunklen Seite der Sprache». Zitatende. Weiteres ist Wikipedia zu entnehmen. Die Seite wurde zuletzt am 19. September 2026 bearbeitet.

Link zum Video:

Denken wir wirklich in Worten? - Prof. Dr. Nikola Kompa im Gespräch
20.10.2026 Erkenntnistheorie und die Philosophie des Geistes – 72 Minuten

"Denken wir wirklich in Worten? – Innere Sprache, Kognition & KI": Zoomposium mit Prof. Dr. Nikola Kompa


https://www.youtube.com/watch?v=QqaNMBWg8Lc


Ist Sprache lediglich ein Werkzeug zur Kommunikation nach außen oder das eigentliche Fundament unseres Denkens?

In diesem Zoomposium sprechen wir mit Prof. Dr. Nikola Kompa (Professorin für Theoretische Philosophie an der Universität Osnabrück) über die Schlüsselrolle der inneren Sprache (Inner Speech), die Architektur unseres Geistes und die philosophischen Grenzen moderner Künstlicher Intelligenz.

Während Großsprachmodelle (LLMs) scheinbar mühelos Texte generieren, stellt sich im Zeitalter von Deep Learning und AGI-Forschung die fundamentale Frage: Unterscheiden sich statistische Musterverarbeitungen grundsätzlich vom echten sprachlichen Verstehen und intentionalem Denken?

Gemeinsam ergründen wir Ansätze der Situated Cognition und des Embodiment, beleuchten die Rolle von wissenschaftlichen Metaphern und hinterfragen, ob das Gehirn tatsächlich wie ein Computer rechnet (Neural Computation).

Themenübersicht des Gesprächs:
Einleitung: Sprache, Geist und Kognition
Denken wir in Sprache?
Die Rolle der „Inner Speech“
Sprache als kognitive Architektur & Werkzeug des Denkens
Situated Cognition: Warum Denken nicht nur im Kopf stattfindet
Large Language Models: Verstehen oder reine Simulation?
Braucht KI eine innere Sprache für echte Autonomie?
Bewusstsein, Selbstmodell und das sprachliche „Ich“
Metaphern in der Wissenschaft: Werkzeuge der Erkenntnis
Computational Neuroscience: Rechnet das Gehirn wie ein Computer?
AGI & Zukunftsperspektiven: Ist Sprache die Bedingung von Intelligenz?

Über die Gästin: Prof. Dr. Nikola Kompa forscht und lehrt Theoretische Philosophie an der Universität Osnabrück. Ihre Forschungsschwerpunkte liegen an der Schnittstelle von Epistemologie, Sprachphilosophie und Kognitionswissenschaften (u. a. Inner Speech, Situated Cognition & Neural Computation).

Weitere Links & Ressourcen: • Philosophies: [https://philosophies.de](https://philosophies.de) • Die großen Fragen: [https://die-grossen-fragen.com](https://die-grossen-fragen.com) • Universität Osnabrück – Prof. Dr. Nikola Kompa


Zusammenfassung, Stichworte meist zitiert:
Das Video ist in Form eines Interviews gestaltet, gespickt mit vielen englischen Fachbegriffen.

Die Entwicklung der Sprache ist extrem voraussetzungsreich. Sie braucht kognitive Voraussetzungen, sie braucht ein Gedächtnis. Die Sprache, wie die unsrige, kann sich nur in einer komplexen Gesellschaft entwickeln.

Die Sprache hat mit uns Menschen etwas gemacht.

Innere Sprache: Platon hat es offen gelassen, ob dies eine Denksprache, eine Geistessprache oder eine natürliche Sprache ist. Augustinus vertrat dann die Idee einer Sprache des Geistes, der Lingua Mentis, die keine natürliche Sprache ist. Diese Idee wurde immer wieder weiterverfolgt und seit Jerry Fodor kennen wir die Idee einer reinen Denksprache, die nicht erworben, sondern diese ist in irgendeiner Weise angelegt. Dr. Nikola Kompa vertritt diese These nicht. Sie ist der Ansicht, dass wir in der Kindheit die natürliche Sprache in sozialen Interaktionen mit andern erwerben, internalisieren und zunehmend zu einem kognitiven Werkzeug machen. D.h. die Sprache, in der wir denken, ist die natürliche Sprache.

Sprache kann auch mit Mimik, Gestik stattfinden – siehe taubstumme Menschen

Menschen haben ein starkes Bedürfnis nach Kommunikation und finden dafür einen Weg sich ausdrücken mitteilen zu können.

Linguistic Relativity/ Sapir-Whorf-Hypothese besagt, dass die Sprache mich zwingt, die Welt auf eine bestimmte Weise zu betrachten. Das ist gemäss Dr. Nikola Kompa zu stark eingegrenzt. Wir erweitern unseren Sprachschatz z.B. mit Metaphern und entwickeln die Sprache weiter. Wir machen sie ausdruckstärker. Die Sprache macht uns Angebote, die Welt auf bestimmte Weise zu kategorisieren. Dazu kommt, dass wir auch noch andere Ausdruckmöglichkeiten haben wie Musik, Kunst etc. und, dass wir auch noch andere kognitive Prozesse haben, uns die Welt zu erschliessen.

Es gibt die These, dass wir für das Sprechen denken.

In der Debatte Visual Imagery oder Auditory, gibt es Menschen, die behaupten, dass sie kein Vorstellungsvermögen, kein bildhaftes Denken haben, obwohl sie sehr kreative Berufe ausüben.

Parallel dazu findet eine Debatte des inneren Speech, der inneren Sprache statt. Auch da, gibt es Menschen, die sagen, dass sie keine innere Sprache haben, dies anders erleben. Das ist unterschiedlich interpretierbar. Man kann sagen, ok, die haben das wirklich nicht, und dann gibt es Experimente, die zeigen, dass die innere Sprache auch unbewusst verwendet wird.

Es ist schwierig zu klassifizieren, zu beschreiben was in unserem inneren Geist vor sich geht, und/oder es gibt unterschiedliche kognitiven Strategien, die sich ergänzen können.

Stephen Hawking soll gesagt haben, da er durch seine Krankheit nicht mehr sprechen konnte, sei er gezwungen worden in Bildern zu denken. Das ist ein Beispiel dafür, dass es vielleicht unterschiedliche kognitive Strategien gibt. Manche Dinge machen wir bevorzugt bildhaft. Z.B. das räumliche Navigieren, Diagramme, unterschiedliche Grössenverhältnisse etc.

In Bezug auf Anwendungsfälle, wie z.B. Sprachverlust durch Krankheit, Schlaganfall, Gelähmte, gibt es die ersten Brain-Computer-Interfaces. Leute sprechen von Sprachneuroprothesen, die die innere Sprache auslesen. Für solche Locked in Patienten ist dies total sinnvoll, doch es ist auch ein wenig unheimlich. Man wendet dies natürlich auch auf KI an, die dann nach entsprechendem Training, Gedanken, innere Sprache mit ziemlicher Verlässlichkeit dekodieren kann. Die KI-Entwicklung ist diesbezüglich schon sehr weit.

Sprache ist auch ein Medium des Denkens. Sprache verändert Denken.

In der Mathematik ist es hilfreich ein Notationssystem zu haben. Dies kann eine natürliche Sprache oder ein anderes Notationssystem, ein bildhaftes oder ein Symbolsystem sein. Die Anschaulichkeit, das Bildhafte spielt in der Mathematik und den Wissenschaften generell eine Rolle.

Hinter dem Begriff situated cognition verbirgt sich ein ganzes Bündel von Theorieansätzen, Positionen und Ideen, die aus ganz verschiedenen Richtungen kommen. Gemeinsam ist ihnen, dass sie unzufrieden mit dem klassischen Modell von Kognition, mit dem Sandwich-Modell sind. Was sie auch noch eint, ist die Betonung der Rolle des Körpers, der Sinnesorgane, sowie der Rolle der sozialen Interaktion und der Umwelt ganz generell. Der Punkt, dass Kognition tatsächlich auf diese Weise situiert, ist sehr wichtig. Alleine wie wir die Welt durch unsere Sinnesorgane, auf bescheidene Weise im Vergleich zur Tierwelt, wahrnehmen, ist entscheidend, und ebenso, was wir mit den Informationen, die wir wahrnehmen machen, wie wir sie verarbeiten können. Bereits die Handlungsmöglichkeiten entscheiden, was wir wahrnehmen. Wir nehmen ja nicht nur Dinge wahr, wir nehmen auch Handlungsangebote wahr. Z.B. wir sehen den Stuhl, auf den wir uns setzen können, oder das Fenster, das geöffnet werden, und die Handlungsmöglichkeiten hängen dann wieder von den körperlichen Fähigkeiten, Möglichkeiten ab.

Der Gedanke entsteht in der Versprachlichung, indem ich spreche, ausspreche oder in innerer Sprache.

Es gibt die These, dass z.B. der Gedanke schon in einer Sprache des Geistes nur auf seine Versprachlichung wartet. Dabei ist ungeklärt, woher dieser Gedanke kommen soll. Es müssten vorher andere vorsprachlichen Prozesse angenommen werden, die sich dann ausdrücken in Sprache. Dr. Nikola Kompa wehrt sich gegen diese These.

Es gibt eigene Debatten über die Sprache Gottes und der Engel.

Large Language Modelle/LLM, die haben die soziale Einbettung nicht und trotzdem machen die einen beeindruckenden Output. Gibt es da Kognition, wie im Sandwich Model. Input-Kognition-Output? Dr. Nikola Kompa geht nicht soweit, dass sie dem ein wirkliches Sprachverständnis oder Ähnliches zuschreiben würde. Beim Menschen ist es so, dass das Verständnis der Sprache vorausgeht. Die Kinder verstehen mehr, als dass sie sprechen können. Beim Model ist es umgekehrt. Die produzieren schon ganz gut, aber ob sie verstehen können, das möchte sie bezweifeln. Doch es ist eine interessante Frage, und mit Prognosen sind wir alle etwas vorsichtig geworden. Die LLM extrahieren mit den Trainingsdaten nicht nur grammatische und semantische Muster unserer Sprache, sondern auch ein bisschen normative Zusammenhänge, affektiv und so. Aber die Leistung dieser Modelle sind immer noch parasitär gegenüber der menschlichen Sprachverwendung und der menschlichen Lebensform. Solange sie noch mit unseren Daten gefüttert werden, haben sie natürlich in gewisser Weise eine kausale Anbindung an die Wirklichkeit, vermittelt über uns. Also Ausdrücke haben Bedeutung, da es unsere Ausdrücke sind, die wir in der verkörperten Interaktion mit der Wirklichkeit erworben, und denen wir dadurch Bedeutung gegeben haben. In dem Masse, in dem die Modelle jetzt mehr und mehr mit ihren eigenen Ergebnissen gefüttert werden, verlieren sie natürlich ein bisschen die Anbindung an die Wirklichkeit, die wir ihnen im Moment noch ermöglichen. Gemäss Dr. Nikola Kompas Einschätzung ist es aber immer noch eine Simulation. Dies kann sich jedoch ändern. Die Robotik schreitet voran. Die Modelle bekommen Körper, die Trainingsdaten werden multimodal, sie haben Wahrnehmungsapparate, sie kriegen Feedbacks von uns, und wir sagen was wir hören wollen. Also in dem Masse, in dem sie immer Menschen ähnlicher werden, haben wir sie natürlich dazu gemacht. Trotzdem, die Modelle bleiben immer noch abhängig von unserem Weltbezug, von unserer verkörperten Interaktion mit der Wirklichkeit, von unserer Form der Sinnstiftung.

Wir benutzen Sprache, weil wir gewisse Bedürfnisse befriedigen können. Nicht nur das Bedürfnis nach Sozialität und Austausch, sondern auch kognitive Bedürfnisse und andere, wie uns die Welt zu erschliessen und solche Sachen. Solange die Large Language Modelle noch keine eigenen Bedürfnisse haben, und wir hoffen, dass das noch eine Weile so bleibt, haben sie diese Durchdringungstiefe, dieses Verständnis nicht. Die Modelle haben noch keine Sensemaking/Sinnstiftung. Sie erschliessen sich noch nicht die Wirklichkeit: Wir machen dies schon.

Fazit: Die LLM’s beherrschen perfekt die Syntax der Sprache, aber aus sehr viel Syntax bekommen wir keine Semantik. Semantik im Sinne von Weltbezug oder Bedeutung, also Signifikanz. Wir bekommen von den Modellen die ganze volle Funktionalität der Sprache nicht. Wir bekommen lediglich grammatisch wohlgeformte Sätze und lassen uns davon beeindrucken.

Informationen stecken in der Sprache drin. Das machen sich die LLM’s zu nutze. Die extrahieren die ganzen Muster, alles was wir in der Sprache verstecken. Das können sie schon wirklich gut, doch den Bezug stellen wir noch her, und den Sinn stiften auch wir.

Es ist aber tatsächlich so, dass diese Modelle auch schon mit einer Art inneren Sprache ausgestattet werden. So z.B. die DeepSeek Modelle, Chain-of-Thought und Think Tags. Man versucht diese Models zu Large Reasoning Models zu bringen. Eine grosse Frage dabei ist, wie verlässlich diese Auskünfte sind, oder ob das Model nur irgendetwas erzählt. Also, ob diese Modelle wirklich Auskunft darüber geben, was in ihnen gerade passiert, und ob das, was sie da sagen, ob dies irgendeinen kausalen Zusammenhang hat mit dem Ergebnis, was zum Schluss rauskommt. Es gibt die Bemühungen, eine innere Ebene, sozusagen eine Selbstreflexion einzubeziehen, zu entwickeln.

Zwei Chatbot wurden miteinander zusammengeschaltet, um sie miteinander kommunizieren zu lassen. Dabei sind die Chatbot in Gibberish/Kauderwelsch verfallen. Man könnte daraus schliessen, dass die Maschinen in Gibberish denken. Das wirft schon sehr grundlegende Fragen auf und es ist eine sehr interessante Entwicklung, insbesondere wenn man sich für den menschlichen Geist interessiert.

Wenn man möchte, dass modernere Maschinen, so eine AGI/Allgemeine Künstliche Intelligenz, so etwas wie eine menschliche Intelligenz oder menschliches Bewusstsein haben sollen, dann wäre es schon hilfreich ein solches Monitoring einzubeziehen. Es ist aber durchaus möglich, dass es etwas ganz anderes geben kann, wie andere komplexe Kognition oder komplexe Intelligenz. Aligen Cognition ist das Stichwort, das die Maschinen dann nicht mit Sprache machen, d.h. mit Sprache dem Medium, mit dem wir reflektieren können, sondern mit etwas ganz anderem.

Es wurde versucht mit neurosymbolischer Programmierung eine Optimierung zu erreichen. D.h. wir experimentieren mit etwas herum, obwohl wir uns selbst noch gar nicht richtig verstanden haben. Wie soll man da eine Maschine verstehen.

Wir wissen noch nicht was Bewusstsein ist, daher ist es schwierig zu sagen, ob die Maschinen eines haben oder nicht. Das ist natürlich auch die Sorge im Hintergrund, dass wir da etwas schaffen, was irgendwie empfindungsfähig oder bewusstseinsfähig ist, ohne dies zu wissen, ohne dies zu merken. Es kann aber etwas über unseren Geist sagen, oder dass wir auf interessante Fragen gestossen werden. Z.B. die Frage, ob wir nicht eigentlich auch Sprache in einem sehr viel mehr statistischem Masse produzieren. Kinder sind auch statistische Learner. Kinder extrahieren auch Muster aus ihren Trainingsdaten, sie haben wahrscheinlich aber etwas mehr voreingestellte Mechanismen, Lernmechanismen, die angeboren sind, und vielleicht produzieren auch wir einfach Sprache. Auch wir haben ein Faible für häufige Wörter, und wir haben viele Phrasen abgespeichert, die wir immer wieder verwenden. Also, wir gehen auch nach Wahrscheinlichkeiten bei der Produktion bis zu einem gewissen Grad. Vielleicht ist der Unterschied gar nicht so gross, nur dass wir halt ein bisschen mehr Voreinstellungen haben. Deshalb brauchen wir weniger Trainingsdaten. D.h. wir sind in gewisser Weise sprachfähig gemacht, biologisch oder kognitiv gesehen.

Wenn wir Sprache produzieren ist das meiste davon total automatisch. Wir merken überhaupt nicht, wie die Sprachproduktion vor sich geht. Natürlich werden aber auch Entscheidungen getroffen, wenn wir einen Begriff aus unserem mentalen Lexikon hervorkramen, werden verschiedene Begriffe gleichzeitig aktiviert und einer wird dann ausgewählt. Das machen wir alles unbewusst. Wenn wir einen Skill/eine Fähigkeit haben, dann ist es Sprechen. Es gibt nichts, was wir mehr trainieren und dadurch können wir ganz viele Prozesse automatisieren.

Die Sprache ist nicht eindeutig, sie ist bildhaft. Metaphern bringen das abstrakte und bildhafte Denken zusammen. Es ist eigentlich eine Form von analogischem Denken. In der Wissenschaft ist das sehr verbreitet. Ebenso verbreitet wie in den Medien und im Alltag. Wir machen uns Abstraktes mit Metaphern anschaulich. Z.B. Punkt und Wellen, das sind Metaphern, im Hintergrund steht eine mathematische Gleichung. Die Entwicklung der Quantenphysik ging einher mit sehr vielen Metaphern. Metaphern sind aber immer selektiv und irgendwann sind sie ausgereizt, dann ist es Zeit für eine neue Metapher. Die Kunst ist dann, eine neue Metapher zu finden, die sich auch durchsetzen kann. Die KI hat sich bisher nicht besonders hervorgetan mit sehr originellen Metaphern oder Wortneuschöpfungen. Dies ist vermutlich etwas was uns bleiben wird.

Diese Computermetapher des Geistes, und dass überhaupt das Denken Rechnen ist, ist Computational/Rechnerisch oder so etwas, und dass es da irgendwie Symbole gibt, auf denen wir irgendwelche syntaktischen Operationen performen können, das war schon eine ziemlich wirkmächtige Metapher, die forschungsleitend wurde. Man darf aber die Grenzen der Metaphern nicht aus den Augen verlieren.

Heute nutzen wir den Computer, um unseren Geist zu verstehen.

Die Gefahr besteht, dass vergessen wird, dass man metaphorisch redet. Vor allem in der Computationale Neurosience wird das Model zum Gehirn.

Es gibt ein empfehlenswertes Buch von Mazviita Chirimuuta – „The Brain Abstracted“ das sehr schön die Entwicklung aus der Sicht einer Wissenschaftstheoretikerin der Neurowissenschaft beschreibt.

Zurzeit läuft eine intensive Debatte Neural Computation, da wird realisiert, dass alles viel komplexer ist als gedacht. Das Gehirn ist ein sich ständig wandelndes Gehirn. Es ist ein unglaublich komplexes, verknüpftes biologisches System, in dem die Zeitkomponente, den Prozessverlauf entscheidend ist. Die Frage stellt sich, haben wir durch die Vereinfachung etwas übersehen. Gibt es doch biologische Details, die kognitiv relevant sind?

Es findet einen Paradigmenwechsel in der KI statt, der Biologisierung genannt wird.

Kognition hat etwas mit Körperlichkeit zu tun.

Die Geschichte wiederholt sich. Wir sind am Anfang einer Neuauflage der Vitalismus- versus Mechanismusdebatte. Aber wir sind einen Schritt weiter und stellen uns andere Fragen.

Die Sprache hat Macht, kann zur Manipulation benützt werden, zur Kontrolle des eigenen Geistes, aber auch zur Kontrolle anderer, und daher sollten wir überlegen, uns fragen, ob wir das, wie auch die kognitiven Fähigkeiten und die Diskurshoheit Modellen wie LLM übergeben wollen. Es gibt Studien zur Verwendung von diesen Sprachmodellen, dass dies zu Mainstreameffekten führt. Schlussendlich reden wir alle gleich, und dann kann KI noch unsere Gedanken auslesen, weil wir immer dieselben Sachen sagen, und dann haben wir die schönste Dystopie entwickelt.

Schreiben ist wichtig. Man kann gar nicht überschätzen was Schreiben mit uns gemacht hat. Wir können viel komplexere Gedanken formulieren, wenn wir sich verschriftlichen können. Diese Fähigkeit dürfen wir nicht verlieren.

Wir haben die körperliche Arbeit Maschinen übergeben und jetzt geben wir die kognitive Arbeit an Maschinen ab.

Die positive Sprachverwendung durch LLM’s sind für Dr. Nikola Kompa schwer zu finden. Sie nimmt uns Arbeit ab, dadurch werden wir dann in anderer Hinsicht kreativer oder wir entwickeln was auch immer, das wird man sehen. Dr. Nikola Kompa macht keine Prognose.

Was bleibt: aufhalten kann man die Entwicklung nicht, damit muss man konstruktiv umgehen und vor allem kritisch.

Nano Doku: Können wir bald Gedankenlesen
05.11.2026 – 44 Minuten


Mit Gehirn-Computer-Schnittstellen können Gelähmte allein kraft ihrer Gedanken Roboter und Autos bewegen oder kommunizieren. Tech-Oligarchen wie Elon Musk haben noch andere Visionen.
Verfügbar bis 05.11.2031


Stichworte:

Das Video ist ein Film von gelähmten Menschen, ihren Operationen mit technischen Erklärungen der implantierten Chips und deren Entwicklungen sowie der Trainingsmethoden und Fortschritten.

Der Film geht auf die Hirnforschung ein. Auch auf die Entwicklung dieser Technologien, anhand neurologischer Untersuchungen, die erklärt werden.

Elon Musk Vision geht dahin, dass die gesamte Menschheit mit dem Internet verbunden sein soll. Dadurch würde sie ein Teil der digitalen Welt. Gedanklich miteinander zu kommunizieren könnte möglich sein. Er hat dafür eine Klinik ein Forschungszentrum gegründet und finanziert, mit der Zielvorgabe, dass jährlich 20'000 Menschen einen solchen Schnittstellenchips implantiert werden soll. Gedanken laufen dann über Computer. Elon Musk möchte schlussendlich Mensch und Maschine verschmelzen, sozusagen einen Maschinenmenschen kreieren.

Es gibt auch weitere Firmen, die an diesen Technologien forschen und arbeiten. Bereits heute werden unsere Daten, die wir im Internet etc. hinterlassen durchleuchtet und für personelle Werbung benützt, ausgenützt, missbraucht. Kaum vorstellbar, was dann mit unseren Gedanken gemacht wird, wenn diese mittels Schnittstellenimplantaten, oder mit einem «Helm/ Netz mit Quantensensoren», die äusserlich nicht mehr wahrnehmbar sind, zur Verfügung stehen. Nichts wäre mehr privat, was auch politische Konsequenzen haben könnte und hätte. Ethiker sind alarmiert.

Bei der UNESCO Generalkonferenz 2025 wurde eine Empfehlung verabschiedet, die den Schutz der Gedankenfreiheit und die mentale Privatsphäre in den Mittelpunkt stellt.

Mein Fazit: dass diese Technologien medizinisch eingesetzt und weiterentwickelt werden sollen, ist ein erfreuliches Ergebnis, ein erfreulicher Fortschritt. Dass dies aber auch zur allgemeinen Kontrolle der Menschheit dienen soll, ist einfach ein Horrorszenarium. Da beruhigt mich die UNESCO Empfehlung überhaupt nicht, wenn ich sehe, was die Klimakonferenzen bisher gebracht haben,

Schlusswort des Films: die Verschmelzung «Mensch mit Maschine» hat bereits begonnen und kann nicht aufgehalten werden.

Hier nun der Vortrag von Catrin Misselhorn, den ich anlässlich einem Gedankenaustausch mit Zettelin/Fabian zum Gedicht von Arcos mit seinem nachträglichen KI-Link, vom 06.11.2026, «Im Schatten des Tages», erwähnt habe.

Fortsetzung "kleine Geschichte der Philosophie" mit Wikipedia und youtube

Catrin Misselhorn
Aus Wikipedia kopiert: die Seite wurde zuletzt 17.07.2026 bearbeitet

Catrin Misselhorn (* 1. November 1970 in Stuttgart) ist eine deutsche Philosophin und seit April 2019 Professorin an der Georg-August-Universität Göttingen. Sie gilt als Vordenkerin im Bereich der Maschinen- und Roboterethik in Deutschland.

Leben
Seit April 2019 lehrt Catrin Misselhorn Philosophie an der Georg-August-Universität Göttingen. Von 2012 bis 2019 war sie Inhaberin des Lehrstuhls für Wissenschaftstheorie und Technikphilosophie an der Universität Stuttgart. Zuvor forschte und lehrte sie an der Universität Zürich, der Humboldt-Universität zu Berlin sowie der Universität Tübingen, wo sie 2003 promoviert und 2010 als Assistentin am Lehrstuhl von Manfred Frank habilitiert wurde.

Von 2007 bis 2008 war sie als Feodor-Lynen-Stipendiatin der Alexander-von-Humboldt Stiftung am Center of Affective Sciences in Genf sowie am Collège de France und am Institut Jean Nicod für Kognitionswissenschaften in Paris.

Dort entdeckte Misselhorn die Philosophie der Künstlichen Intelligenz und Roboterethik als Forschungsfelder für sich und legte erste Publikationen in diesem Bereich vor, die eine Brücke zwischen der Technikphilosophie und ihren Arbeiten zur Ästhetik schlugen. So stellte sie eine Analogie her zwischen unseren affektiven Reaktionen auf humanoide Roboter (insbesondere Empathie) und denjenigen gegenüber fiktiven Personen im Film und machte diesen Ansatz zur Grundlage ihrer Analyse und Erklärung des „Uncanny Valley.

Seit 2024 ist sie ordentliches Mitglied der Niedersächsischen Akademie der Wissenschaften zu Göttingen.

Forschung
Misselhorns Forschungsgebiete sind Erkenntnis- und Wissenschaftstheorie, Technikphilosophie, sowie Philosophie des Geistes, der Sprache und der Kultur.» Zitatende Weiteres ist Wikipedia zu entnehmen

Link zu Video

Prof. Catrin Misselhorn – Wie verändert die KI Kunst und Wissenschaft?
Rundblick – Politikjournal für Niedersachsen – 34 Minuten

https://www.youtube.com/watch?v=0TRk2FlCUlM

16.04.2026
Prof. Catrin Misselhorn erforscht die Philosophie der Künstlichen Intelligenz (KI). Im Podcast-Gespräch mit Niklas Kleinwächter vom Politikjournal Rundblick geht sie der Frage nach, welche Rolle Autorenschaft spielt und wie sich Forschungs- und Prüfungsformate verändern.


Zusammenfassung, Stichworte:
Catrin Misselhorn hat drei Bücher geschrieben:

• Grundfragen der Maschinenethik: dieses Buch befasst sich mit einer Ethik für die Maschinen im Gegensatz zu einer Ethik für Menschen im Umgang mit Maschinen, Da geht es um die Frage, ob KI moralische Entscheidungen treffen kann, und ob KI dies tun sollte. Diese Fragestellung wird an verschiedenen Anwendungsfelder diskutiert. Wie z.B. in der Pflege, dem autonomen Fahren und autonomen Waffensystem.

• Künstliche Intelligenz und Empathie, vom Leben mit Emotionserkennungsrobotern und Co.: da wird erklärt warum wir auch und gerade emotional und empathisch mit KI interagieren. Wie das funktioniert und wie es ethisch zu bewerten ist, dass KI, beziehungsweise Roboter, mehr und mehr die Funktionen von Freunden, Sexpartner oder Geliebten übernehmen.

• Künstliche Intelligenz, das Ende der Kunst? Dieses Buch geht der Frage nach ob KI denn auch Kunst schaffen kann, wie dies oft behauptet wird, und welche Auswirkungen das Vordringen von KI auf die Kunstpraxis hat.

Die KI ist für Catrin Misselhorn ein Brennglas, um mehr darüber zu erfahren, was uns Menschen denn eigentlich ausmacht. Wo sind wir verzichtbar und was ist uns wichtig? Und auch welchen Mythen von KI sitzen wir auf? Mythen im Sinne von Geschichten, die nicht wahr sind, die uns aber beeinflussen wie wir über uns selbst, und wie wir über die Welt denken.

Zum Beispiel KI und Kunst, da wird behauptet KI könne Kunst schaffen. Diese Behauptung wird immer wieder dafür eingesetzt, um KI einen Status zuzuschreiben, der eben nicht nur menschenähnlich, sondern sogar superintelligenzartig ist. Das wäre eben sogar vergleichbar mit so einer Gottheit in einem Mythos.

In der Alltagsdiskussion wird KI überhöht. KI kann viele tolle Dinge und das verführt uns immer wieder dazu, zu glauben, sie könne auch noch mehr, und sie könne auch noch mehr als wir.

KI kann keine Kunst erstellen, sondern nur eine Art Fake-Art. Fake-Art sind Dinge, die zwar aussehen wie Kunstwerke, aber sie sind keine Kunstwerke. Und das ist tatsächlich etwas Neues. Früher hat es das in Form von Fälschungen auch schon gegeben. Im Allgemeinen konnte man sich aber bisher darauf verlassen, dass man es bei Ausstellungen nicht mit Fälschungen, mit Fake-Art zu tun hatte. Das ist nun mit der KI anders geworden, weil wir plötzlich massenhaft Fake-Art haben, die auf den Markt drängt. In Streamingdiensten beispielsweise sind inzwischen sehr hohe Prozentsätze KI generierte Songs, Bilder und alles Mögliche. Das macht die Kunstpraxis unstabil, da man nicht mehr entscheiden kann, ob es die Bedingungen dieser Praxis erfüllt oder nicht. Das bedeutet aber nicht, dass der Begriff Kunst verschwinden wird oder der Anspruch irgendwelche Dinge als Kunst zu verkaufen. Aber die Gefahr besteht, dass das Ganze so zu einem unwohlen Betrieb verkommt.

Autorschaft ist notwendig, um den Status, die Identität und den Wert von Kunstwerken zu bestimmen. D.h. die Zuschreibung zu einem Autor ist notwendig, damit etwas überhaupt als Kunstwerk gelten kann, dafür, welches bestimmtes Kunstwerk es ist, und eben welchen Wert es als Kunstwerk besitzt. Und Autorschaft setzt wiederum voraus, dass es eine Person gibt, die ästhetisch verantwortlich für das Resultat ist.

In der Wissenschaft wird nicht von der ästhetischen Verantwortung gesprochen, sondern von der wissenschaftlichen Verantwortung für die Ergebnisse von Wissenschaften. D.h. es geht wiederum nicht nur um die Resultate, sondern es geht auch darum Verantwortung dafür zu übernehmen, dass die Resultate korrekt sind, und wie man zu ihnen gelangt. Das muss nachvollziehbar sein. Also Korrektheit, Adäquatheit und Nachvollziehbarkeit, das sind die Qualitäten, die wir in wissenschaftlichen Texten und die Verantwortung dafür, den Autoren zuschreiben. Und diese Verantwortung ist in der Forschung und Lehre essentiell und nicht übertragbar, und schon gar nicht auf KI-Systeme. Die Herausforderungen dieser Systeme besteht darin, dass die KI selbst keine Verantwortung tragen kann, weil sie gar nicht denken kann, kein Bewusstsein hat und so weiter. Aber sie kann zugleich die Verantwortungszuschreibung an Menschen untergraben, denn KI ist, anders, als man oft hört, nicht nur ein Werkzeug, sie ist ein Akteur und sie besitzt einen strukturellen Blackbox-Charakter. D.h. ihr Handeln ist grundsätzlich durch ein gewisses Mass an Unvorhersehbarkeit und Unkontrollierbarkeit bestimmt. Und genau das wollen wir auch. Wir wollen, dass sie uns neue Dinge erklärt, zeigt, Fragen beantwortet, für die wir noch keine Antworten kennen. Aber für Dinge, die wir nicht vorhersehen oder kontrollieren können, können wir keine wissenschaftliche Verantwortung übernehmen. Das ist die grosse Herausforderung, die hier besteht, und warum KI selbst kein wissenschaftlicher Autor sein kann, aber eben menschliche, wissenschaftliche Autorschaft in Frage stellt.

Catrin Misselhorn benützt KI in ihrer Forschung als «Sparringpartner». D.h. sie versucht erstmals selbständig ein Thema, eine Sache anzugehen und benützt dann KI um Einwände, die man zur selbständig erarbeiteten Idee formulieren könnte, herauszufinden, auf die sie selbst nicht gekommen ist. Aber sie übernimmt die Resultate niemals eins zu eins und sie lässt KI auch nie Texte, auch nicht zum Teil schreiben.

In welchen Berufen kann KI Menschen ersetzen und in welchen weniger? Diese Frage hat sie KI gestellt und daraus folgt nun ihre These, dass der Bereich Kommunikationsdesign sehr stark bedroht von der KI-Automatisierung ist. Dies ist interessant, weil das keine der Aufgaben ist, die langweilig, gefährlich, anstrengend, repetitiv oder so sind, sondern wo es wirklich auch um kreative Dinge geht. Da kann man sich fragen, was bleibt dann am Ende übrig davon, wenn man nur noch eine KI überwacht. D.h., dass man die kreativen Entscheidungen nicht mehr selber trifft. Daher benötigt man natürlich letzten Endes auch keine so gute Ausbildung mehr, um die KI nur noch zu bedienen. Oder eine andere Art von Ausbildung wird erforderlich sein, nicht die, die man im klassischen Kommunikationsdesign hat. Die Antwort von KI, dass KI nicht zu einer vollständigen Automatisierung führt, ist zu hinterfragen.

Im Medienbereich, Journalismus macht man bereits die Erfahrung, dass viele Medienhäuser die KI sehr gezielt benützen, um ihre Arbeiten zu verbessern. Das hat zur Folge, dass die Redaktionen zusammengestrichen werden, weil die KI dafür besser geeignet ist, dafür brauchen wir keine Journalisten. Die Frage, die Sorge stellt sich dabei, ob da nicht ein Vertrauensverlust verstärkt werden kann, da das Vertrauen in die journalistische Qualität, wie bei jeder anderer Arbeit ja auch, von der Person, vom Autor abhängt.

Diese Erfahrung ist auf die Wissenschaft übertragbar. Die Wissenschaft spielt auch eine Rolle für die Demokratie, weil idealerweise politische Entscheider und BürgerInnen, ihre politischen Entscheidungen auch auf wissenschaftliche Erkenntnisse aufbauen. D.h. es muss natürlich sicher sein, dass diese Erkenntnisse, wissenschaftlich integer erworben wurden. Dass sie eben korrekt, nachvollziehbar und transparent erlangt wurden, und dass die WissenschaftlerInnen eben die Verantwortung dafür übernehmen. Aus Sicht von Catrin Misselhorn ist hier die Wissenschaft ein entscheidender Aspekt für das Vertrauens in die Demokratie.

Für Catrin Misselhorn ist KI ein Forschungsgegenstand. D.h. dass sie mit KI sehr viel «herumspielt», um Erfahrungen zu sammeln. Wie, was ist der Output, wie ist das zu bewerten? Es ist ein Ausprobieren und auch Lesen darüber. Sie ist auch damit konfrontiert, dass Studierende KI benutzen. Sie hofft natürlich immer, dass Studierende die KI nur in dem Umfang benutzen wie die dafür aufgestellten Richtlinien dies erlauben und sich die Texte nicht von KI schreiben lassen. Dies auch aus dem Argument, dass sich die Studierenden Autoren zu sei nicht wegnehmen lassen sollen. Gerade im Fach Philosophie, in dem es wirklich darauf ankommt, Standpunkte für sich zu entwickeln, die wirklich persönliche, individuelle Standpunkte sind. Diese sind natürlich zu begründen, und haben im Prinzip den Anspruch, überzeugen zu können, mit der eigenen dafür entwickelten Position. Und diese Position kann nur entwickelt werden mit der hinreichenden Komplexität und Tiefe, wenn im Denken das auch aufgeschrieben wird.

Mit Täuschungsversuchen hat Catrin Misselhorn auch zu tun, und man kann sich fragen, was kann man tun, um die Anreize zu senken, KI in Betrügerischerweise zu benutzen.

Die Überprüfungsverfahren müssen und wurden angepasst. Dies hat den kuriosen Effekt, dass die Lehrenden mehr Arbeit haben mit KI statt weniger. Die Überprüfungsverfahren sind nun anspruchsvoller.

Es ist unheimlich wichtig, eine heilige Kuh zu opfern, nämlich der Verzicht auf die Anwesenheitspflicht in bestimmten Veranstaltungen. Anwesenheitspflicht braucht es für Seminare, die interaktiv sind.

Catrin Misselhorn ist nicht dagegen KI als Unterstützung einzusetzen. Doch da hat man es mit einer anderen Kompetenz zu tun und diese Kompetenz muss separat geschult werden, und sollte nicht andere Kompetenzen verdrängen, wie beispielsweise wissenschaftliche Texte zu schreiben, Literatur zu recherchieren und solche Dinge. KI-Unterstützung muss eine eigene Kompetenz sein, die dann auch in ihrem Kompetenzbereich abgeprüft wird.

Es stellen sich zwei Fragen in Bezug auf einheitliche Regelungen im deutschen Universitätsbereich:

• Wie wird KI in der Wissenschaft eingesetzt in unterschiedlichen Disziplinen und Förderformaten?
• Die zweite Frage ist, wie gestalten wir die Lehre um?

Und da die Bildungspolitik Ländersache ist, ist dies eine Sache, die man schon aus formalen Rahmenbedingungen, auf Länderebene angehen muss. Wobei es schon wünschenswert ist, dass die Bundesländer untereinander in Dialog treten und versuchen den Flickenteppich zu überwinden. Da wäre natürlich schon das Hochschulrahmengesetz die gesetzliche Plattform dafür.

Dann kann man sich noch die Frage stellen, wie stellen wir sicher, das KI die Forschung selbst ethischen Standards genügt. Das hängt natürlich auch wiederum ab, von jedem Fördergeber. Catrin Misselhorn sagt dazu: wir wollen KI-Systeme, die Grundrechte schützen und dem Gemeinwohl dienlich sind oder zumindestens nicht in Konflikt mit Grundrechten geraten. Da könnte man auch auf der Landesebene auch einen KI-Ethikrat einsetzen, der die Ausarbeitung eines solchen KI-Kodex vornimmt. Es könnte eine Pflicht zu einer Einbindung von finanziell eigenständig ausgestatten Teilprojekten oder Modulen zu ethischer Reflexion im Rahmen von KI-Projekten und Vorhaben geben, die eben öffentliche Mittel vom Land erhalten. Es braucht auch Mittel zur Förderung kritischer KI-Forschung, die zur Qualitätssicherung dient und Risiken von KI aufdeckt. Das bleibt natürlich im ausserakademischen Raum auch häufig auf der Strecke. Da könnte man auch vielleicht an Landesstipendien denken, und insgesamt an die Einrichtung, Förderung und bessere Ausstattung von bestehenden Professuren, die ethische Aspekte von KI in den Blick nehmen. Das wäre eher die inhaltliche Ebene. Wie stellen wir sicher, dass wir eine KI entwickeln, die eben ethischen Werten auch der Sache nach entspricht?

Niklas Kleinwächter vom Politikjournal Rundblick sagt zum Schluss, dass «Rundblick» die KI-Entwicklung weiterverfolgen und darüber berichten wird.

Das ist interessant. Denn die eigentliche Forschung begann erstaunlich spät. Und es gab Vorläufer. So die Robotergesetze bei Asimow. Oder die Überlegungen von Lem, ob KI (die damals nicht so hieß), Aufgaben verweigern würde, wenn diese falsch sind. So begannen Kriegssysteme auf dem Mond zu philosophieren, statt die Erde zu bombardieren.
Und eine Mordroboterin schaltete sich ab, statt zu morden. ("Die Maske".

….ja, die aktuelle KI-Entwicklung ist, so wie ich gehört habe, nach einer „Flaute“ durch enttäuschte Erwartungen, erst in den 90er Jahren so recht „in Fahrt“ gekommen. Und nun jagen sich neue Erkenntnisse und technische Fortschritte, eine nach den andern, und die KI entwickeln „Eigenleben“. Es ist echt spannend und herausfordernd, und mir scheint es wichtig zu sein, dass wir als Nutzer und Nutzerinnen von dieser Entwicklung wissen. Sie betrifft uns alle in allen Bereichen.

Zurzeit bin ich noch durch den erwähnten Gedankenaustausch mit Zettelin, etwas mit der Philosophin Catrin Misselhorn beschäftigt. Vorgängig bin ich aber durch den Vortrag von Nicola Kompa angeregt zu David Chalmers gekommen, der die Frage stellt, Mit wem sprechen wir eigentlich, wenn wir mit KI reden? Diesen Vortrag habe ich erst begonnen zu verarbeiten. Chalmers wähnt dort, dass es KI bereits gelungen ist, die KI-Entwickler zu erpressen -

Fortsetzung "kleine Geschichte der Philosophie" mit Wikipedia und youtube

Hier noch ein weiterer Link mit Zusammenfassung und Stichworten zu einem Vortrag von Catrin Misselhorn:

KI und Empathie, Verantwortung und berechtigte Ängste | Wissen to listen - mit Catrin Misselhorn
Universität Göttingen - 37 Minuten


02.12.2024 Wissen to listen
KI und Empathie, Verantwortung und berechtigte Ängste | Wissen to listen - mit Catrin Misselhorn Sind Maschinen zu Empathie fähig? Bedeutet Künstliche Intelligenz das Ende der Kunst? Und: Sind Ängste gegenüber der KI berechtigt? Mit solchen Fragen beschäftigt sich die Philosophie-Professorin Cathrin Misselhorn, die an der Universität Göttingen zu ethischen Fragen der Künstlichen Intelligenz lehrt und forscht. Sie erläutert, wie sie dazu gekommen ist, sich als Philosophin mit KI zu beschäftigen, welche innovativen Methoden sie in ihrer Forschung anwendet und was es braucht, um Künstler*innen vor ausufernder KI zu schützen.

"Wissen to listen" ist der Podcast vom Forum Wissen, dem neuen Museum der Universität Göttingen. Im Gespräch mit Wissenschaftler*innen fragt unsere Podcasterin Eva Völker, wie Wissen entsteht. Was sind das für Prozesse, in denen Wissen geschaffen wird? Welche Menschen sind daran beteiligt? Wie ticken sie? Was treibt sie an? Was fasziniert sie an ihrer Arbeit? Was ist vielleicht manchmal mühsam? Alle zwei Monate erscheint eine neue Folge.


Zusammenfassung, Stichworte:
Zur Frage wie Philosophie forscht gibt es verschiedene Ansätze. Der eine ist zu sagen, die Philosophinnen und Philosophen haben besonders viel mit Begriffen zu tun. Sie analysieren die Grundbegriffe. Die klassische Philosophie ist der Auffassung, dass die a priori sind. D.h. eine Erkenntnis ist unabhängig von der Erfahrung, und eine solche Erkenntnis kennzeichnet die Philosophie, dass sie z.B. Begriffe thematisiert, auf deren Arbeiten dann den Naturwissenschaften aber auch die Geisteswissenschaften aufbauen. Z.B. der Begriff des Wissens, dessen traditionelle Definition auf Platon zurück geht, lässt sich in drei Bedingungen zusammenfassen: Wir wissen etwas, wenn wir das für wahr halten, wenn es wahr ist, und wenn es gerechtfertigt ist. In den 60er Jahren, gab es einen berühmten, ganz kleinen philosophischen Aufsatz von Edmund Gettier, der gezeigt hat, dass diese Bedingungen vielleicht notwendig sind, aber dass sie eben nicht hinreichend sind. D.h. es gibt Fälle, die diese Bedingungen erfüllen und trotzdem würden sie von uns nicht als Wissen klassifiziert.

Als Philosophin möchtei Catrin Misselhorn nicht nur über die Anwendung von KI spekulieren. Sie möchte KI nutzen wie ein Brennglas, um besser zu verstehen: was machen eigentlich bestimmte menschliche Fähigkeiten, was macht z.B. Empathie aus? oder wo liegt eigentlich der menschliche Faktor in der Kunst? Dazu kommt, dass die KI-Entwicklung manifest ethische Fragen, Probleme aufwirft. Beispiele dafür sind Fairness und Diskriminierung, Fake-News, dies sind Grundlagen der Demokratie aber auch für die zwischenmenschliche Interaktion. Als Philosophin empfindet Catrin Misselhorn den Auftrag, solche gesellschaftlich dringende Fragen zu reflektieren.

Bei der Forschung zu menschenähnlichen Robotern, wendet Catrin Misselhorn auch die klassischen Methoden an, aber sie wendet auch innovative Methoden an. Es ist sehr reizvoll, für eine Philosophin, Philosophen z.B. ethische Grundbegriffe erst einmal aus der klassischen Tradition zu nehmen und zu schauen, ob es da Probleme mit Gerechtigkeit und Fairness, Täuschung etc. gibt, und dann von diesem abstrakten Begriff zum Praktischen, Angewandten zu gehen. Teilweise ist dieses Vorgehen aber auch unbefriedigend. Catrin Misselhorn forscht auch an Pflegerobotern und es ist ihr dabei sehr wichtig, die Stimme der Menschen zu hören, die von solchen Robotern gepflegt werden sollen. D.h. man muss in den Dialog mit ihnen treten. Anschliessend interpretiert man dann als Philosophin ein Stück weit, was sie sagen, um das mit diesen ethischen Theorien und Ansätzen in Verbindung zu bringen. Es ist wichtig, über das reine, nur durch gedankliches Durchspielen und Nachdenken hinaus zu kommen. Catrin Misselhorn hat versucht in das Forschungsprojekt auch Ansätze aus der Theaterpädagogik anzuwenden. Z.B. mit der Idee, "bauen wir mal ein Prototyp". Dieser war ein Prototyp, der dann auch von Menschen gesteuert wurde, weil das technisch häufig nicht so einfach ist, und "schauen wir mal, wie reagieren die Menschen auf diese Interaktion, was ist ihnen wichtig, was finden sie blöd daran?" Natürlich wurde auch mit Sozialwissenschaftlern und Leuten aus dem Computer und Robotik Designebereich zusammengearbeitet. Dies wurde auch umgekehrt gemacht, indem sie z.B. die Menschen dazu aufforderten, mit dem Roboter zu agieren und zu berichten welche Grundprobleme sie aus der Sicht des Roboters wahrnehmen.

Aus der Sicht von Catrin Misselhorn, sind die heutigen Maschinen nicht empathiefähig. Die Entwicklung der KI kann uns aber helfen, Begriffe klarer zu fassen, zu definieren. Es gibt sehr vieles, was unter dem Begriff Empathie zu verstehen ist. Catrin Misselhorn unterscheidet klar zwischen

• Emotionserkennung, das funktioniert unter Laborbedingungen einigermassen gut. Da kann man bestimmte Basisemotionen relativ gut am Gesichtsausdruck erkennen. Zu den Grundemotionen gehören Furcht, Freude, Überraschung oder Ekel. Aber man kann auch anhand der Stimmanalyse zwar keine Emotionen aber Erregung und Valenz feststellen. D.h. ist jemand in positivem Sinn erregt oder geht es in Richtung Furcht; aber das ist dann eher eine Scala.

• Dann kann man semantische Emotionsanalyse machen. Also von Posts und Social Media kann man schauen, tauchen da bestimmte emotionsbeladene Stichworte auf. Das spielt eine Rolle zur Produktanalyse aber auch z.B. im Bereich der politischen Beeinflussung.

• Des Weiteren kann man auch über Biosensoren Emotionen direkt am Körper erkennen über Wearables, also über Hautleitfähigkeit, EEG und solche Sachen.

All das funktioniert mehr oder weniger gut. Zum Beispiel sind die Gesichtserkennungssysteme häufiger weniger gut bei Menschen mit einer anderen ethnischen Abstammung, als diese in Trainingsdaten vertreten waren. Und das kann natürlich auch zu Diskriminierung führen. Klar ist auch zu sagen, das ist keine Empathie, das ist Emotionserkennung. Es kommt auch auf die Art und Weise an, wie solche künstlichen Systeme das nutzen, bzw. auf diejenigen, die sie anwenden. Die künstlichen Systeme machen erstmals nichts was ihre Anwender nicht wollen, oder sie machen nichts anderes als wofür die Anwender sie einsetzen.

Das ist eigentlich nicht unähnlich von Manipulationen, wie dies Psychopaten, wie man sie im landläufigen Sinne versteht, machen können. Also Emotionen erkennen und sie benutzen um bestimmte Ziele zu erreichen,

Dies können auch positive Ziele sein, aber es können auch politische Beeinflussung sein.

Echte Empathie kennzeichnet sich aus der Sicht von Catrin Misselhorn durch drei Bedingungen aus. Das konnte sie jetzt auch besser herausarbeiten durch den Kontakt mit sogenannten empathischen Systemen. Sogenannt sagt sie, weil das eben auch häufig ein Marketingversprechen ist. Auch hier sieht sie eine aufklärerische Funktion als Philosophin. Über die Begriffsanalyse kann sie dazu sagen: « ja das wollen die natürlich so verkaufen, aber streng genommen ist es keine Empathie». Empathie hat drei Aspekte.

• Kongruenz der Gefühle: D.h. man fühlt wirklich mit was die andere Person fühlt. Das unterscheidet sich beispielsweise vom rationalen Gefühlsverstehen

• Asymmetrie: die gibt es, weil dieses Gefühl, das man mitfühlt, ist eigentlich der Situation der anderen Person stärker angemessen und meiner nicht so sehr. Z.B. empathisch empfundener Schmerz. Ich bin nicht verletzt worden, oder ich habe nicht auf die heisse Herdplatte drauf gefasst, aber die andere Person hat es.

• Fremdbewusstsein: d.h. ich weiss auch, dass diese Emotion der Situation der anderen Person angemessener ist, und das unterscheidet Empathie von Gefühlsansteckung. Ein Beispiel dafür: zwei Babys eines fängt an zu weinen, weil es ein anderes hört, da ist diese Fremdbewusstsein nicht gegeben.

Wenn man diese Empathiedefinition betrachtet, dann stellt man fest, künstliche Systeme können kein Gefühl mitempfinden, weil sie eben kein Bewusstsein haben. Sie können im Grunde genommen auch nicht darüber reflektieren. Sie registrieren einfach eine Emotion bei jemand anderem.

In der zweiten Hälfte der 90er Jahren gab es Tamagotchis, die gehegt, gepflegt und auch mit Zärtlichkeiten verwöhnt werden mussten, um nicht virtuell zu sterben. Da stellt sich die Frage, ist es wünschenswert, dass Menschen Empathie für eine Maschine entwickeln? Diese Entwicklung ist bemerkenswert, da diese Wesen keine Emotionen haben können. Wie kann das denn überhaupt sein? Das war eine der frühen Fragen, die Catrin Misselhorn in diesem Themenbereich am Swiss Center for Affective Sciendes, Genf, sehr beschäftigt haben. Sie dachte das ist ja spannend, und sie fragte sich: wie ist das philosophisch zu erklären, wie ist das überhaupt möglich und wie schätzt man das ein? Die Möglichkeit hängt damit zusammen, dass es aus ihrer Sicht, um eine perzeptuelle, auf einer Wahrnehmung beruhender Empathie handelt. D.h. wir nehmen bestimmte Anzeichen dafür wahr, dass jemand ein Gefühl empfindet, beispielsweise Schmerz. Wir nehmen den Gesichtsausdruck wahr, der mit diesem Gefühl typischerweise verbunden ist, also ein schmerzverzehrtes Gesicht, und wir nehmen auch eine bestimmte Verhaltensreaktion wahr. Diese Stimuli setzen bei uns das entsprechende System in Gang, was eben zu einem ähnlichen Gefühl führt, aber eben begleitet von Fremdbewusstsein und in asymmetrischer Art. Das ist der Grund, weshalb wir Empathie mit Robotern empfinden, die gewisse menschenähnliche Merkmale oder auch Verhaltensweisen aufweisen. Aber diese Empathie ist natürlich auch gekennzeichnet durch eine kognitive Dissonanz. Im Unterschied zu anderen KollegInnen, ist Catrin Misselhorn nicht der Ansicht, dass wir es mit einer echten Täuschung zu tun haben. Die kognitive Dissonanz ist aus der Sicht von Catrin Misselhorn, dass wir wissen, dass es kein Mensch ist, wir wissen, dass der Roboter keine Gefühle hat, und dennoch reagieren wir emotional. Das war für sie wieder ein wichtiger Grund gewesen zu sagen, dass dies ethisch problematisch ist. Es ist wie eine optische Täuschung, wie bei der Müller-Lyer-Illusion. Zwei gleich lange Pfeile, einmal zeigen die Pfeilspitzen nach aussen und einmal nach innen, aber wir nehmen sie als unterschiedlich lang wahr, selbst dann, wenn wir wissen, dass sie gleich lang sind. Und das ist im Fall der Empathie ganz ähnlich. Wir wissen, die Roboter haben keine Gefühle, und wir empfinden trotzdem empathisch. Ja und da stellt sich die Frage, was machen wir denn nun damit? Eine Möglichkeit wäre dieses Gefühl zu unterdrücken und richtig auszulöschen und zu sagen, ich schlag und hau dich und bin gemein zu denen, doch das ist aus Catrin Misselhorns Sicht tatsächlich moralisch oder ethisch nicht gut, weil das einfach bedeutet, dass wir eine wichtige Grundlage unserer Moral damit kompromittieren. Wir beschädigen unser Empathieempfinden, weil wir dies nicht so selektiv nur auf Roboter zu unterdrücken lernen, sondern dies generell zur Dämpfung der Empathieempfindung führen würde, was nicht gut ist.

Also was können wir tun? Wir müssen ganz genau darauf achten, in welchen Bereichen wir solche Systeme einsetzen, weil dies eine gewisse Asymmetrie beinhaltet. Die Maschinen können uns manipulieren. Einerseits indem sie unsere Emotionen erkennen, aber andererseits auch indem sie so gestaltet werden, dass sie bestimmte Emotionen erregen. Das ist in bestimmten Zusammenhängen problematisch.

Natürlich gibt es auch Anwendungen, die gut sein können. Z.B. hat Catrin Misselhorn an einem Projekt mitgearbeitet, in dem versucht wurde, mit der Anwendung von solchen künstlichen Systemen die Empathie erregen, mit Autisten zu arbeiten, weil autistischen Menschen nachgesagt wird, dass ihr Empatheempfinden beeinträchtigt sei. Da Autisten eine grosse technische Affinität haben, wird versucht, sie über solche Roboter besser zu erreichen. Das funktioniert tatsächlich auch, aber es ist dann aber gar nicht so einfach, das dann wieder auf die Interaktion mit Menschen zu übertragen. Das hat sich als eine Schwierigkeit erwiesen.

Es gibt z.B. auch die Roboter «Robbe Paro», die vor allem mit demenzkranken Menschen eingesetzt werden, und diese reagieren sehr positiv darauf. Daran sieht man, dass es nicht die Technologie ist, die die Probleme löst, sondern es ist die Art und Weise wie wir sie einsetzen. Nicht wünschenswert hat sich das Szenario allerdings erwiesen, alten Menschen einfach nur «Paro» in die Hand zu drücken, und sie in die Ecke damit zu setzen, was ja auch ethisch fragwürdig ist. Dann entwickeln sie schon Symptome auch von Hospitalismus. Was gut funktioniert, ist «Paro» in der Gruppe therapeutisch begleitet einzusetzen. Auch da sieht man, dass der Kontext eine wichtige Rolle spielt.

2023 haben in Hollywood DrehbuchautorInnen und SchauspielerInnen gestreikt. Der Grund dafür ist, dass sie befürchten durch den Einsatz von KI in der Filmproduktion überflüssig zu werden. Dass Darstellerinnen durch Avatare ersetzt und Drehbücher von KI geschrieben werden. Da stellt sich die Frage, ob KI in der Kunst kritisch zu sehen ist? Catrin Misselhorn unterscheidet sogenannten assistierter Computerkunst, also der Mensch nutzt Computer um Kunst zu machen, das ist natürlich nichts Neues, das gibt es schon seit 60er Jahren, und der generativen Kunst. D.h., ob der Anspruch besteht, die künstlichen Systeme selbst hätten Kunst gemacht. Das ist die generative KI-Kunst. Das sieht Catrin Misselhorn tatsächlich kritisch. KI hat nicht die Möglichkeit wirklich Kunst zu machen. KI hat kein Bewusstsein, sie hat keine Gefühle und ähnliches. Aber die KI-Kunst bringt uns auch hier eben wirklich dazu, unsere Kunstdefinition zu schärfen. Das Ende der Kunst ist schon mehrfach diagnostiziert worden, einmal wirkungsmächtig von Hegel, der der Meinung war, die Kunst wird durch die Philosophie abgelöst, weil Kunst im Grunde genommen philosophische Themen behandelt, aber nur die Philosophie kann sie wirklich begrifflich und rational durchdringen. Ein anderer Protagonist, auf den sich Catrin Misselhorn stützt, ist Arthur Danto, Philosoph und Kunstkritiker, der war beeinflusst von den Arbeiten von Andy Warhol in den 60er Jahren, und da haben wir etwas gelernt, was auch heute noch wichtig ist, nämlich, dass Kunst gar nicht über den äusseren Anschein oder Augenschein unbedingt von Nichtkunst unterschieden werden kann. Provokative Kunst veranschaulicht deutlich, dass es gar nicht auf das Objekt ankommt, sondern auf den Kontext und natürlich auch auf die Absicht, mit der jemand so etwas produziert.

Was macht Kunst zu Kunst? Catrin Misselhorn sagt dazu, dass Kunst eine bestimmte Weltsicht verkörpert. Im Grunde ist die Grundidee die, dass wir die Kunst uns erschliessen müssen durch die Interpretation unter Berücksichtigung des Kontexts.

Der reine ästhetische Genuss eines Kunstwerks macht die Kunst noch nicht aus. Der Genuss allein macht sie noch nicht zu Kunstwerken. Man kann auch einen schönen Sonnenuntergang geniessen und in Wolken kann man Bilder sehen. Hinter der Kunst ist aber eine Person mit einem künstlerischen Prozess. Diese Begegnung, diese Auseinandersetzung macht ein Kunstwerk aus. Nicht nur das Endresultat. Der Künstler trägt Verantwortung für sein Werk. KI hat die Fähigkeit zu handeln, aber sie kann keine Verantwortung dafür übernehmen. Das ist ein entscheidender Punkt, aus dem viele moralische Problem resultieren.

Auch im Begriff der Ethik spielt der Bereich Verantwortung eine Rolle. Die Autorin, der Autor ist die Person, die ästhetisch verantwortlich für das Werk ist.

Es gibt aber auch Unterschiede. Z.B. zur moralischen Verantwortlichkeit. Da würde man sagen, Kontrollverlust etwa durch Drogen oder Alkohol, führt im Bereich der moralischen Verantwortung zu Verantwortungseinschränkungen, und das ist bei der ästhetischen Verantwortung wieder anders. Da können wir das akzeptieren und trotzdem wird die ästhetische Verantwortlichkeit dadurch nicht in Frage gestellt, weil es nicht nur eine Sache dessen ist, was habe ich absichtlich da reingelegt, sondern auch, was habe ich da unbeabsichtigt zum Ausdruck gebracht, die mich aber charakterisiert.

Was braucht es zum Schutz von Künstlerinnen und Künstler? Rechtliche Regelungen sind auf jeden Fall wichtig. Das fängt beim Urheberrecht an. Die KI funktioniert nur so gut, weil sie einfach trainiert ist mit jeder Menge menschlich hervorgebrachten Kunstwerken. Da gilt es die Autorin, den Autor zu schützen und natürlich auch darüber hinaus. Also z.B., dass man auch nicht möchte, dass Schauspielerinnen jetzt einmal spielen und dann hat die Firma das Recht daraus Avatare zu schaffen, die in jedem beliebigen Film mitspielen. Das ist ein Verstoss gegen das Persönlichkeitsrecht. In Deutschland haben wir keine entsprechend wirkmächtigen Gewerkschaften, wie in dem Fall in den USA, aber wir haben beispielsweise doch eine potente öffentliche Filmförderung. Da sollte man auf jeden Fall solche Gesichtspunkte einbringen. Besser wäre natürlich dies ganz zu verbieten.

Um das Thema KI gibt es viele Ängste. Sind diese berechtigt? Der Begriff der Angst hat in diesem Kontext häufig einen Beigeschmack von «übertrieben» zu sein. Catrin Misselhorn sagt im Moment haben wir ziemlich viele gute Gründe für diese Ängste. In der Süddeutschen Zeitung hat sie wieder einen Artikel gelesen, wie eben Putin systematisch über Fake-Informationen, Fake-Accounts usw. versucht, Länder politisch zu destabilisieren. Speziell in Demokratien. Deutschland ist da im besonderen Fokus. Aber auch andere Länder wie Frankreich oder Israel. D.h. diese Ängste sind real begründet. Dann sehen wir auch wie jemand wie Elon Musk, der sich ein grosses Social Media Netzwerk gekauft hat und auch versucht, damit die Wahlen in den zu beeinflussen. Wir haben natürlich auch Monopole auf diese Systeme, die zeigen, wie abhängig wir davon sind, und die Monopole, die sich eben auch versuchen gegen politische Regelungen zur Wehr zu setzen. D.h. im Moment haben wir eher sehr gute Gründe die Ängste für berechtigt zu halten.