Kontakt
Menü öffnen

NOESIS
Ethik in Zeiten datenbasierter Systeme

30.09.2026

NOESIS
Ethik in Zeiten datenbasierter Systeme

Zu sehen ist ein Banner vom Newsletter Noesis mit dem Beiträger Prof. Dr. Peter G. Kirchschläger

In der neuen Ausgabe von NOESIS sprechen wir mit Prof. Dr. Peter G. Kirchschläger, Leiter des Instituts für Sozialethik der Universität Luzern und Gastprofessor an der ETH Zürich, über die ethischen Chancen und Risiken datenbasierter Systeme. Dabei diskutieren wir die Rolle der Menschenrechte als globalen Maßstab, die Grenzen technologischer Entscheidungsfindung und die Frage, wie verantwortungsvolles Handeln in einer komplexen Welt möglich bleibt.

Im Gespräch mit Prof. Dr. Peter G. Kirchschläger

Herr Professor Kirchschläger, technologische Umbrüche, globale Krisen und gesellschaftliche Polarisierung stellen uns immer wieder vor neue Entscheidungsfragen. Welche ethische Herausforderung unserer Gegenwart wird aus Ihrer Sicht bislang noch zu wenig wahrgenommen?

Im Bereich von sogenannter „KI“ – ich würde basierend auf meiner Forschung vorschlagen, sie als „datenbasierte Systeme (DS)“ zu bezeichnen, weil sie keine Intelligenz darstellt – haben fünf bis zehn große multinationale Technologiekonzerne den technologischen Fortschritt für die Maximierung des eigenen Gewinns und der eigenen Macht in Geiselhaft genommen und beuten den Rest der Menschheit sowie den Planeten Erde aus. Dabei ist es mir wichtig zu betonen: Meine diesbezügliche ethische Kritik richtet sich selbstverständlich nicht gegen den technologischen Fortschritt an sich, sondern gegen diese Form des technologischen Fortschritts, der Menschenrechte und Kinderrechte und Umweltschutzstandards mit Füßen tritt.

Gegen all die Menschen- und Kinderrechtsverletzungen und die Klimazerstörung im Bereich von DS müssen wir etwas tun. Die ethischen Chancen und Risiken von DS sind präzis zu identifizieren, um das ethisch Positive und Negative nützen bzw. zu vermeiden zu können. Wir sollten umgehend dafür sorgen, dass DS der Menschheit und dem Planeten Erde eine menschenwürdige bzw. nachhaltige Zukunft eröffnen.

Basierend auf meiner Forschung schlage ich zur Förderung der ethischen Chancen und zur Vermeidung der ethischen Risiken von DS eine menschenrechtsbasierte globale Regulierung vor. Dies bedeutet konkret, dass im ganzen Lebenszyklus und in der gesamten Wertschöpfungskette von DS – d. h. bei der Schürfung der für DS notwendigen Rohstoffe, der Konzeption, der Gestaltung, der Entwicklung, der Herstellung, dem Vertrieb, der Nutzung von DS – die Menschenrechte respektiert, geschützt, durchgesetzt und realisiert werden. Und dass aufgrund von Menschenrechtsbedenken gewisse DS – z. B. automatisierte tödliche und grausame Waffensysteme – nicht verwendet werden.

Zudem sollten wir eine Internationale Agentur für datenbasierte Systeme (IDA) bei der UNO schaffen, um diese menschenrechtsbasierte Regulierung weltweit durchzusetzen. Die IDA soll nach dem Vorbild der Internationalen Atomenergiebehörde (IAEA) als „Institution mit Zähnen“ aufgebaut werden, da die IAEA dank ihrer rechtlichen Befugnisse, Funktionen, Durchsetzungsmechanismen und Instrumente in der Lage war, Innovationen und ethische Chancen zu fördern und gleichzeitig die Menschheit und den Planeten vor den existenziellen Risiken im Bereich der Nukleartechnologien zu schützen.

Menschenrechtsbasierte DS und die Schaffung der IDA bei der UNO werden nicht nur von einem wachsenden internationalen und interdisziplinären Netzwerk von Expert:innen gefordert, sondern auch u. a. von Papst Franziskus, Papst Leo XIV., Seiner Heiligkeit dem Dalai Lama, UNO-Generalsekretär António Guterres, Sam Altman (Gründer und Chef von OpenAI) und Bill Gates.

 

Menschen können durchaus erkennen, was ethisch geboten wäre, ohne anschließend entsprechend zu handeln. Warum fällt uns der Schritt vom ethischen Urteil zum konkreten Handeln häufig so schwer?

Das ethisch Gute oder ethisch Richtige ist nicht immer das Bequemste, Komfortabelste oder entspricht nicht immer unseren Vorlieben, Lüsten und Eigeninteressen. Auch kann es sein, dass wir beim ethisch verantwortungsvollen Handeln Widerspruch oder Widerstand aushalten müssen. Und es kann etwas kosten.

 

Globale Herausforderungen verlangen nach gemeinsamen Orientierungspunkten, zugleich leben wir in religiös, kulturell und weltanschaulich pluralen Gesellschaften. Wie lassen sich universelle ethische Maßstäbe begründen, ohne diese Vielfalt zu übergehen?

Die Menschenrechte als universeller ethischer Maßstab bilden einen Minimalstandard, der nur garantiert, dass alle Menschen physisch überleben und menschenwürdig – d. h. als Menschen – leben können. Zum einen ist es unmöglich, dagegen ein rational begründetes Argument gegen diesen Minimalstandard aufzuführen, d. h. ein Argument, dass dafürsprechen würde, dass nicht alle Menschen physisch überleben und menschenwürdig leben können sollen dürfen.

Zum anderen sind es die Menschenrechte, die überhaupt die religiöse, kulturelle und weltanschauliche Vielfalt und deren Praxis ermöglichen, schützen und fördern, indem sie jede und jeden Einzelnen von uns in unserer Freiheit und Selbstbestimmung schützen, unser Leben so zu verstehen und so zu gestalten, wie wir das möchten. Nur so kann Vielfalt entstehen. Nur so kann Vielfalt gelebt werden. Nur so ist friedliches Zusammenleben in Vielfalt möglich. Dies bedeutet in anderen Worten, dass jede religiöse, kulturelle und weltanschauliche Gemeinschaft in ihrer Existenz sowie religiös, kulturell und weltanschaulich plurale Gesellschaften auf die Menschenrechte angewiesen sind. Die Menschenrechte sind der Ast, auf dem sie sitzen. Daher sollten religiöse, kulturelle und weltanschauliche Gemeinschaften und religiös, kulturell und weltanschaulich plurale Gesellschaften auch nicht an den Menschenrechten sägen.

 

Besonders sichtbar wird die Frage nach ethischer Verantwortung beim Einsatz sogenannter Künstlicher Intelligenz. Wo können datenbasierte Systeme menschliche Entscheidungen sinnvoll unterstützen, und wo muss die Verantwortung zwingend beim Menschen bleiben?

Aus ethischer Sicht unterscheiden sich Menschen wesentlich von sogenannter „KI“ bzw. von datenbasierten Systemen (DS), deren Leistung auf ihrem Vermögen fußt, große Datenmengen zu generieren, zu sammeln, auszuwerten und darauf basierend Handlungen zu vollziehen. Einige Bereiche der menschlichen Intelligenz entziehen sich der technologiebasierten Erreichbarkeit. DS können der menschlichen Intelligenz in gewissen Intelligenzbereichen maximal ähnlich werden, aber nie gleich sein: Soziale und emotionale Intelligenz können Systeme nur simulieren, weil ihnen echte Emotionalität und Gefühle fehlen. Beispielsweise können Menschen einem Lernassistenzsystem antrainieren, dass es weinen soll, wenn die Lernenden in Tränen ausbrechen, um Mitgefühl zu zeigen. Dies wird das Lernassistenzsystem perfekt umsetzen. Niemand würde aber behaupten wollen, dass das Lernassistenzsystem authentisch Empathie für die Lernenden aufbringt, sondern es setzt einfach das um, was man ihm aufgetragen hat. Dem genau gleichen Lernassistenzsystem könnte auch beigebracht werden, dass es den Lernenden eine Ohrfeige geben soll, wenn sie zu weinen beginnen. Auch diesen Befehl würde die Maschine ohne Zögern und ohne Mitgefühl befolgen.

Gleichzeitig wird an diesem Beispiel auch erkennbar, dass von DS ebenso keine Moralfähigkeit ausgesagt werden kann, weil ihnen die dazu notwendige Freiheit fehlt, die bei – um im gleichen Beispiel zu bleiben – menschlichen Dozierenden die Verantwortung bewirken würde, dass sie sich dem Auftrag der Ohrfeige ethisch begründet widersetzen. DS werden von Menschen entworfen, entwickelt und gebaut, das heißt, sie werden heteronom produziert. Daher wird auch das Erlernen von ethischen Prinzipien und Normen von Menschen geleitet. In letzter Konsequenz werden DS immer von außen gesteuert bleiben. Bildlich gesprochen: DS – auch selbstlernende DS – werden auf eine erste Codezeile zurückgehen, die immer vom Menschen stammt. Moralfähigkeit umfasst das Potenzial der Menschen, für sich selbst ethische Prinzipien und Normen als verbindlich zu erkennen und zu setzen, um dann das eigene Entscheiden und Handeln danach auszurichten. Zu Letzterem sind auch DS fähig. Sie müssen sich aber dabei auf ihnen von Menschen vorgegebene Regeln stützen, anstatt diese Regeln selbst zu schreiben. DS können sich auch nicht selbst die ethische Qualität von Regeln erschließen. Sie befolgen schlicht die Regeln, die ihnen antrainiert worden sind – unabhängig davon, ob sich diese als legitim oder illegitim erweisen. Von DS kann also keine Moralfähigkeit und keine Autonomie ausgesagt werden. Den diesbezüglichen Unterschied zu Menschen als moralfähige Wesen untermauert noch zusätzlich das Fehlen von Verletzbarkeit, Gewissen, Freiheit und Verantwortung bei DS, die für Moralfähigkeit unerlässlich sind.

Wir sollten DS noch gezielter in den Intelligenzbereichen einsetzen, in denen DS Menschen massiv überragen (z. B. Rechnen, Umgang mit großen Datenmengen). Gleichzeitig sollten andere Intelligenzbereiche, die für DS unerreichbar sind, in den Händen von Menschen bleiben (z. B. ethische Entscheidungen, zwischenmenschliche Interaktion).

 

Was brauchen Menschen und Gesellschaften, um angesichts wachsender Komplexität nicht in Orientierungslosigkeit oder einfachen Antworten zu verharren, sondern zu begründeten und verantwortungsvollen Entscheidungen zu gelangen?

Hier kann der Ethik-SAMBA – ein Modell für ethisches Entscheiden mit Leichtigkeit und argumentativer Eleganz – weiterhelfen. Der Ethik-SAMBA vollzieht sich in den folgenden vier Schritten:

  1. See and Understand the Reality
  2. Analyze the Reality from a

     Moral Standpoint

  1. Be the Ethical Judge!
  2. Act Accordingly!

 

Beim ersten Schritt „See and Understand the Reality“ geht es um eine möglichst objektive Darstellung der Realität. Im Zuge dieses Schrittes erfolgt noch keine ethische Bewertung.

Beim zweiten Schritt des Ethik-SAMBA „Analyze the Reality from a Moral Standpoint“ soll geklärt werden, welcher ethische Kompass den Weg weisen und uns ethische Orientierung geben soll und wie diese Auswahl rational begründet werden kann. Dies bedeutet mit anderen Worten, dass wir zu klären versuchen, welche ethischen Prinzipien und Normen (z. B. Gerechtigkeit, Solidarität, Verantwortung, Ethik der Menschenrechte) oder welchen Ethikansatz (z. B. Pflichtenethik, Folgenethik, Tugendethik, Diskursethik) wir rational begründet zu Rate ziehen, um DS ethisch zu bewerten und um die ethischen Chancen und Risiken von DS zu identifizieren.

Ich möchte diesen Schritt noch mit einem anderen Bild veranschaulichen: Er ist vergleichbar mit dem Besuch eines Brillengeschäfts, in dem es nur Ethikbrillen gibt – eine Gerechtigkeitsbrille, eine Solidaritätsbrille, eine Verantwortungsbrille, eine Ethik-der-Menschenrechte-Brille, eine Pflichtenethikbrille, eine Folgenethikbrille, eine Tugendethikbrille, eine Diskursethikbrille … Wir müssen uns nun für eine dieser Brillen entscheiden, mit der wir dann die Wirklichkeit betrachten. Unsere Wahl haben wir rational zu begründen, d. h. wir können nicht einfach sagen, dass uns diese Brille besser gefällt als eine andere oder dass unser Bauchgefühl für jene Brille spricht, sondern wir müssen rationale Gründe aufführen, die für die von uns gewählte Brille gegenüber den anderen Brillen sprechen.

Der dritte Schritt des Ethik-SAMBA „Be the Ethical Judge!“ umfasst die ethische Bewertung. So können wir ethisch Positives und Negatives erkennen.

Der vierte Schritt des Ethik-SAMBA „Act Accordingly“ unterstreicht, dass die Erkenntnis des ethisch Richtigen bzw. Guten und des ethisch Falschen bzw. Schlechten auch zu korrespondierendem Handeln führen muss. Es geht also um die Entwicklung und den Vollzug konkreter Lösungsansätze, um das ethisch Negative von DS zu vermeiden oder zu bewältigen sowie das ethisch Positive zu verwirklichen und zu fördern.

Im Interview

Prof. Dr. Peter G. Kirchschläger ist Ordinarius für Theologische Ethik und Leiter des Instituts für Sozialethik ISE der Universität Luzern sowie Gastprofessor an der ETH Zürich. Zuletzt erschien die Neuauflage seines Lehrbuchs „Ethisches Entscheiden“ beim Nomos Verlag.

 

Mehr davon?

Unser Newsletter NOESIS versorgt Sie regelmäßig mit neuen Beiträgen, exklusiven Inhalten aus unserem Verlagsprogramm und aktuellen Hinweisen aus der philosophischen Community.
Für alle, die sich nicht mit einfachen Antworten zufriedengeben.

Ähnliche Artikel

Zu sehen ist ein Banner vom Newsletter Noesis mit dem Beiträger Prof. Dr. Thomas Gremsl

NOESIS
Wie soziale Medien zur digitalen Agora werden können

Artikel lesen
Zu sehen ist ein Banner vom Newsletter Noesis mit den Beiträgern Prof. Ulrich H. J. Körtner und Prof. Gerhard Kruip

NOESIS
Das Dilemma der Migrationsdebatte – Zwei Perspektiven

Artikel lesen
Zu sehen ist ein Banner vom Newsletter Noesis mit den Beiträgern PD Dr. Martin Hähnel und Prof. Dr. Peter Trawny

NOESIS
Heidegger und Habermas – ein kritisches Verhältnis?

Artikel lesen
Zu sehen ist ein Banner vom Newsletter Noesis mit dem Beiträger Prof. Dr. Dr. Alexander Brink

NOESIS
Ethik als normative Grundierung der Zwillingstransformation

Artikel lesen
Zu sehen ist ein Banner vom Newsletter Noesis mit dem Beiträger Jörg Phil Friedrich

NOESIS
Reflexe – Aristoteles und die Künstliche Intelligenz

Artikel lesen
Zu sehen ist ein Banner vom Newsletter Noesis mit dem Beiträger Prof. Dr. Axel Hutter

NOESIS
Philosophie und die Entdeckung des Selbstverständlichen

Artikel lesen
Zu sehen ist ein Banner vom Newsletter Noesis mit der Beiträgerin Prof. Dr. Birgit Recki

NOESIS
Mythisches Bewusstsein: die gefühlte Einheit von Zeichen und Sache

Artikel lesen
Zu sehen ist ein Banner vom Newsletter Noesis mit der Beiträgerin Prof. Dr. Corine Pelluchon

NOESIS
‚Die Demokratie von innen heraus nähren‘ – Levinas neu gelesen

Artikel lesen