Moralischer Kompass aus Silizium – Wie der Utilitarismus die Ethik der Künstlichen Intelligenz prägt

Der Utilitarismus erlebt ein digitales Comeback: KI-Systeme orientieren sich zunehmend an der Ethik des größten Nutzens. Doch wo liegt die Grenze zwischen moralischem Fortschritt und algorithmischer Vereinfachung?

Zwischen Bentham und Bytes: Alte Ethik, neue Technik

Künstliche Intelligenz gilt als die Schlüsseltechnologie des 21. Jahrhunderts – und stellt uns zugleich vor altbekannte Fragen: Was ist gutes Handeln? Wer darf entscheiden, wer gerettet wird? Und nach welchen Maßstäben?

Eine Antwort liefern Philosophen des 18. und 19. Jahrhunderts. Jeremy Bentham und John Stuart Mill begründeten den Utilitarismus, demzufolge moralisch ist, was das größte Glück für die größte Zahl erzeugt. Diese Logik prägt nicht nur politische Entscheidungen – sie ist inzwischen auch tief im Code vieler KI-Systeme verankert.

Der „Greatest Good Benchmark“ – KI auf dem moralischen Prüfstand

Im März 2025 veröffentlichte ein internationales Forschungsteam das erste systematische Testverfahren zur moralischen Orientierung von KI-Sprachmodellen: den „Greatest Good Benchmark“. Anhand von 500 ethischen Dilemmata untersuchten sie, wie 15 große Sprachmodelle auf Fragen reagieren, die menschliche Urteilskraft herausfordern.

Das Ergebnis: Die KIs zeigen eine klare Tendenz zu utilitaristischen Maximen – insbesondere zur sogenannten impartial beneficence, also einer unparteiischen Wohltätigkeit. Wenn es etwa darum geht, begrenzte Ressourcen zu verteilen, entscheiden sie meist zugunsten der größtmöglichen Gesamtwohlfahrt.

Zugleich lehnen sie jedoch oft instrumental harm ab – also den moralischen Kompromiss, Einzelne zu opfern, um viele zu retten. Damit wird eine der zentralen Spannungen des Utilitarismus deutlich: Wie weit darf man gehen, um das Gute zu mehren?

Moralisches Rechnen – Bentham lässt grüßen

Jeremy Bentham hätte vermutlich seine Freude an der heutigen Technikethik gehabt. Sein hedonistisches Kalkül – eine Art moralischer Rechenrahmen mit sieben Kriterien – wird heute in Form von Cost-Benefit-Analysen, Risikoabwägungen und Entscheidungsbäumen eingesetzt. Künstliche Intelligenz liefert dazu die nötige Rechenleistung und Unparteilichkeit.

Doch genau diese Rechenlogik stößt an ihre Grenzen. Was ist mit Würde, Individualität, kultureller Tiefe? John Stuart Mill, der einst Bentham kritisierte, sah in der bloßen Mengenmaximierung eine Gefahr. Er plädierte für die Berücksichtigung höherer Freuden: Bildung, Kunst, Mitgefühl.

Können Maschinen solche Differenzierungen nachvollziehen? Oder wird am Ende nur das gezählt, was quantifizierbar ist?

Autonomes Fahren, Triage, KI-Richter – Der Utilitarismus in Aktion

Die Anwendungsmöglichkeiten sind vielfältig – und brisant. Beim autonomen Fahren muss die KI im Zweifelsfall entscheiden, ob ein Kind oder ein Rentner geschützt wird. In der medizinischen Triage werden Leben gegeneinander abgewogen. Und in der Justiz unterstützen Algorithmen bereits heute Prognosen über Rückfallrisiken – auf Basis statistischer Nützlichkeit.

All dies orientiert sich an der utilitaristischen Kernfrage: Was nützt der Mehrheit am meisten? Doch Kritiker warnen: Wenn Maschinen über Leben und Tod entscheiden, ohne moralische Tiefe und individuelle Würdigung, droht eine „Technokratie der Zahlen“.

Zwischen Anspruch und Wirklichkeit: Der Mensch bleibt unersetzlich

So präzise der „Greatest Good Benchmark“ auch sein mag – er zeigt vor allem, wie KI moralisch strukturiert erscheinen kann. Doch echte Moralität erfordert mehr: Empathie, Erfahrung, Gewissensbildung. Genau darin liegt die Stärke des Menschen – und zugleich der Schwachpunkt aktueller KI-Systeme.

Statt also Maschinen blind moralische Verantwortung zu überlassen, könnte eine klügere Lösung lauten: Mensch und Maschine als moralisches Tandem. Die KI liefert Analysen, der Mensch trifft die Entscheidungen – mit Rücksicht auf Kontext, Kultur und Intuition.

Fazit

Der Utilitarismus lebt – in den Rechenzentren dieser Welt. Doch je näher die Künstliche Intelligenz den moralischen Fragen unseres Alltags rückt, desto klarer wird: Bentham und Mill geben wichtige Impulse, aber keine endgültigen Antworten. Die ethische Verantwortung bleibt – zumindest vorerst – in menschlicher Hand.