Was den Menschen zum Menschen macht

Nominelle Aufsicht

7 Min. Lesezeit

🇬🇧 English version: Nominal Oversight

Hinweis: Die ethischen Urteile auf dieser Seite beziehen sich ausschließlich auf die Handlung — niemals auf die Person, die sie ausführt oder durch sie entstanden ist. Vgl. Hinweis zu ethischen Urteilen.

Nominelle Aufsicht ist eine formal zugewiesene, sachlich nicht einlösbare menschliche Aufsicht über einen automatisierten Entscheidungsprozess. Ein Verantwortlicher ist benannt, er ist erreichbar, er unterschreibt — und er zeichnet ab, was er mangels Erklärbarkeit des Systems, mangels Zeit oder mangels Zugang zu den Entscheidungsgründen nicht prüfen kann. Die Aufsicht besteht als Zuständigkeit und fehlt als Vollzug.

Der Begriff benennt keine Nachlässigkeit einzelner Personen. Er benennt eine Betriebsform. Wer in fünf Minuten über eine Ausgabe zu befinden hat, die aus Merkmalen zustande kam, die das System nicht mitteilt und die es auch auf Nachfrage nicht mitteilen könnte, hat keine schlechte Prüfung vorgenommen — er hatte keine Prüfung zur Verfügung. Genau deshalb ist die nominelle Aufsicht ein struktureller und kein moralischer Vorwurf an den Aufsichtsführenden.

Ontologische Einordnung

Der Ausschluss gegenüber der wirklichen menschlichen Kontrolle ist kein Definitionsspiel, sondern die Pointe. Wo Recht menschliche Aufsicht verlangt, verlangt es sie als Kontrolle, nicht als Zuständigkeitsvermerk. Nominelle Aufsicht erfüllt die Anforderung dem Wortlaut nach und verfehlt sie der Sache nach — und beides zugleich ist der Grund, warum sie so schwer zu bemerken ist.

Die tragende These

Die geläufige Beschreibung der Verantwortungslücke geht davon aus, dass niemand zuständig ist: Der Hersteller hat die Einzelentscheidung nicht vorhergesehen, der Betreiber hat sie nicht freigegeben, die Maschine kann nicht schuldfähig sein. Diese Beschreibung trifft den ungeregelten Fall.

Im geregelten Betrieb liegt es anders, und die These dieser Seite ist: Nicht das Fehlen eines Verantwortlichen erzeugt die Lücke, sondern das Vorhandensein eines Verantwortlichen ohne Prüfmöglichkeit. Das ist die gefährlichere Gestalt, und zwar aus drei Gründen. Erstens erfüllt sie formal alle Anforderungen: Es gibt einen Namen, eine Unterschrift, ein Protokoll. Zweitens löst sie keinen Alarm aus — sie zeigt sich nicht als Regelverstoß, sondern als Regeltreue. Drittens erzeugt sie einen Anschein von Kontrolle, der die Kontrolle ersetzt: Weil ein Mensch abgezeichnet hat, gilt die Entscheidung als menschlich getroffen, und die Frage, ob sie es war, wird nicht mehr gestellt.

Die offene Lücke ist insofern das ehrlichere Problem. Sie ist sichtbar, sie erzeugt Streit über Zuständigkeit, sie hält die Frage wach. Die nominelle Aufsicht schließt die Frage, ohne sie zu beantworten.

Warum sie sich stabilisiert

Nominelle Aufsicht ist kein Zustand, der sich von selbst korrigiert. Sie wird durch die Automatisierungsverzerrung gefestigt — die empirisch gut belegte Neigung, der Maschinenausgabe zu folgen, und zwar gerade dann, wenn die eigene Urteilsgrundlage dünn ist. Wer eine Ausgabe nicht nachvollziehen kann, hat keinen Anlass zum Widerspruch; und wer widerspricht und im Nachhinein falsch lag, trägt die Begründungslast allein, während Zustimmung sie teilt. Die Anreizlage begünstigt das Abzeichnen.

Hinzu kommt ein Rückkopplungseffekt: Je zuverlässiger ein System im Normalbetrieb erscheint, desto seltener wird geprüft, und je seltener geprüft wird, desto weniger Übung besteht in der Prüfung. Die Fähigkeit zur Aufsicht verkümmert an dem Ort, an dem die Aufsicht organisatorisch verankert ist. Der Aufsichtsführende bleibt formal die letzte Instanz und wird sachlich zum Durchleiter.

Für die Verantwortung hat das eine unangenehme Folge. Sie ist nicht verschwunden, sondern zugewiesen — an jemanden, der sie nicht tragen kann, weil ihm die Bedingung ihres Tragens fehlt: die Möglichkeit, anders zu entscheiden, und das heißt: die Möglichkeit zu wissen, worüber entschieden wird.

Reichweite

Der Begriff ist an der algorithmischen Embryoselektion gewonnen, aber nicht auf sie beschränkt. Er greift überall dort, wo Recht oder Berufsordnung „menschliche Aufsicht” verlangt und die Praxis sie zur Unterschrift verkümmern lässt:

  • bei autonomen Waffensystemen, wo die Freigabe eines Zielvorschlags innerhalb weniger Sekunden erfolgen soll und die Zielbildung selbst nicht offenliegt;
  • bei algorithmischer Personalauswahl, wo eine Rangliste von Bewerbern bestätigt wird, deren Zustandekommen der Bestätigende nicht kennt;
  • bei medizinischer Entscheidungsunterstützung, wo eine Empfehlung gegenzuzeichnen ist, für deren Überprüfung die Konsultationszeit nicht reicht;
  • bei automatisierten Verwaltungsentscheidungen, wo die Sachbearbeitung eine Vorlage bestätigt, die aus Merkmalskombinationen entstand, die in der Akte nicht dokumentiert sind.

In allen Fällen ist die Struktur dieselbe: eine rechtlich geforderte Prüfung, eine tatsächlich nicht mögliche Prüfung, eine gleichwohl erteilte Bestätigung.

Der stärkste Einwand gegen diese Bewertung

Der ernsthafteste Gegeneinwand lautet: Jede Aufsicht ist unvollständig. Der Chefarzt prüft nicht jede Laboranalyse nach, der Richter rechnet das Gutachten nicht selbst, der Vorstand liest nicht jeden Vertrag. Arbeitsteilung heißt immer, dass jemand für etwas einsteht, das er nicht in allen Teilen selbst nachvollzogen hat. Wenn „nominelle Aufsicht” schon dort vorliegt, wo nicht vollständig geprüft wird, trifft der Begriff jede Delegation und wird nutzlos — ein Vorwurf, der auf alles passt, unterscheidet nichts.

Der Einwand ist berechtigt und verlangt eine Grenzziehung, die nicht im Grad der Prüfung liegen kann, sondern in ihrer Möglichkeit. Wer ein Laborergebnis nicht nachrechnet, könnte es nachrechnen: Das Verfahren ist beschrieben, die Rohdaten liegen vor, im Streitfall ist die Prüfung erzwingbar, und der Prüfende weiß, worauf er sich verlässt und welche Fehler diese Methode typischerweise macht. Delegation dieser Art ist begründetes Vertrauen — sie behält die Prüfung als Reserve.

Nominell wird die Aufsicht, wo diese Reserve fehlt. Drei Kennzeichen benennen das genauer. Erstens: Der Aufsichtsführende kann die Entscheidungsgründe auch bei vollem Einsatz und unbegrenzter Zeit nicht erreichen, weil das System sie nicht ausweist. Zweitens: Die Aufsicht hat kein Kriterium, an dem sich ein Widerspruch begründen ließe — sie kann zustimmen oder ablehnen, aber nicht prüfen, und Ablehnung ohne Kriterium ist Willkür, nicht Kontrolle. Drittens: Die Häufigkeit der Abweichung liegt strukturell bei null; wo über lange Zeiträume nie widersprochen wird, ist der Vorgang keine Prüfung mehr, sondern ein Vollzug.

Wo alle drei Kennzeichen zutreffen, liegt nominelle Aufsicht vor. Wo nur unvollständig geprüft wird, weil Zeit knapp ist, aber Prüfbarkeit besteht, liegt sie nicht vor — dort besteht ein Organisationsproblem, das durch Organisation lösbar ist. Diese Unterscheidung hat einen praktischen Preis: Sie verlangt eine Aussage darüber, was ein System offenlegt und was nicht, und diese Aussage ist selten leicht zu treffen. Der Begriff ist damit weder trennscharf noch beliebig; er ist so scharf, wie die Erklärbarkeit des jeweiligen Systems beurteilbar ist.

Was offen bleibt: Diese Grenzziehung ist eine Bestimmung, kein Messverfahren. Ob in einem konkreten Fall die zweite Bedingung erfüllt ist — ob wirklich kein Widerspruchskriterium besteht oder nur keines eingeübt wurde —, ist eine Interpretationsleistung. Wer den Begriff verwendet, schuldet dafür eine Begründung am Einzelfall.

Siehe auch

Quellenangaben: Generiert via Abfrage aus der Personseins-Ontologie. Recherchestand 29. Juli 2026.

Weitere Quellen:

  • Matthias, Andreas (2004): „The responsibility gap: Ascribing responsibility for the actions of learning automata”. Ethics and Information Technology 6(3), S. 175–183.
  • Sparrow, Robert (2007): „Killer Robots”. Journal of Applied Philosophy 24(1), S. 62–77.
  • Koplin, J. J., Johnston, M., Webb, A. N. S., Whittaker, A., Mills, C. (2025): Ethics of artificial intelligence in embryo assessment: mapping the terrain. Human Reproduction 40(2): 179–185.
  • Dikasterien für die Glaubenslehre und für Kultur und Bildung (2025): Antiqua et nova. Note über das Verhältnis von künstlicher Intelligenz und menschlicher Intelligenz, Nr. 74.

Graphansicht

Backlinks