Kalibrierung von Entscheidungen mit KI

Im Kontext organisationaler Veränderung wird Entscheidungsfindung häufig als eine Folge der Strategie betrachtet, die erst einsetzt, wenn Ziele festgelegt und Strukturen etabliert sind. In der Praxis jedoch verlaufen Entscheidungen oft unterschiedlich, nicht weil offener Widerstand besteht, sondern weil sich die zugrunde liegenden Annahmen je nach Rolle, Kontext und Zeitpunkt verändern. Diese Variabilität wird selten sichtbar gemacht, hat jedoch spürbare Folgen: Sie schwächt die strategische Ausrichtung, verzögert Handlungen und untergräbt die Verhaltenskohärenz, die für erfolgreiche Transformation erforderlich ist. Die zentrale These dieses Artikels lautet, dass solche Abweichungen nicht zufällig entstehen, sondern strukturell bedingt sind. Ihrer Bewältigung bedarf es nicht stärkerer Kontrolle, sondern einer präziseren Kalibrierung. KI-Systeme können dabei eine Schlüsselrolle übernehmen, wenn sie nicht zur Automatisierung von Entscheidungen eingesetzt werden, sondern dazu, ihre Ausrichtung zu unterstützen.

Bias ist nicht das Problem – Noise schon

Ein Großteil der aktuellen Debatte über entscheidungsunterstützende Systeme konzentriert sich auf kognitive Verzerrungen. Tatsächlich beeinflussen Verzerrungen wie Status-quo-Präferenz, Verlustaversion oder Ergebnis-Frames organisationales Urteilsvermögen in systematischer und vorhersehbarer Weise. Diese Effekte sind gut dokumentiert und haben in vielen Bereichen zu verhaltenswissenschaftlich fundierten Interventionen geführt.

Doch Bias ist nur ein Teil des Problems. Eine ebenso weit verbreitete und oft sogar schädlichere Fehlerquelle liegt in dem, was Kahneman, Sibony und Sunstein (2021) als Noise bezeichnen: zufällige Variabilität im Urteilsvermögen unter vergleichbaren Bedingungen. Anders als kognitive Verzerrungen (Bias), die Entscheidungen in eine konsistente Richtung verschieben, erzeugt Noise Inkonsistenz – zwischen Personen, zwischen Fällen, über die Zeit hinweg. Dieselben Daten, präsentiert an zwei gleichermaßen qualifizierte Entscheidungsträger, führen nicht zu systematisch falschen, sondern zu unterschiedlichen Ergebnissen.

In organisationalen Kontexten verstärkt die strukturelle Komplexität von Veränderungsprozessen diese Variabilität: verteilte Verantwortlichkeiten, unklare Schwellenwerte für Eskalationen, schwankende Aufmerksamkeit und asynchrone Zeitpläne. Eine Führungskraft handelt früh und entschlossen, eine andere zögert aus Vorsicht. Ein Team interpretiert eine Transformationsinitiative als strategische Neuausrichtung, ein anderes als administrative Belastung. Keine dieser Reaktionen ist für sich genommen irrational, doch in der Summe erzeugen sie Inkonsistenz in großem Maßstab.

Die meisten Change-Frameworks sind nicht darauf ausgelegt, diese Form der Divergenz zu erkennen. Sie konzentrieren sich auf Motivation – auf die Frage, warum Menschen sich widersetzen oder zurückziehen – und übersehen, wie Urteilsvermögen selbst instabil wird. Monitoring-Systeme erfassen in der Regel Ergebnisse: ob Aufgaben erledigt werden, ob Beteiligung nachlässt. Sie zeigen jedoch selten, wie sich Interpretationen im Verlauf verändern. So wächst Fehlanpassung leise, bleibt in Kennzahlen unsichtbar und lässt sich kaum zurückverfolgen – bis sie die praktische Umsetzung von Veränderung beeinträchtigt.

Dieses Problem erfordert mehr als nur Einblicke in die Gründe für menschliches Verhalten. Es verlangt diagnostischen Zugang zu den Prozessen, wie Entscheidungen gebildet werden, und zu dem Maß, in dem sie kohärent sind. Verhaltensausrichtung hängt nicht allein von Absicht oder Haltung ab. Sie setzt voraus, dass Urteilsbildung innerhalb eines kalibrierten Rahmens erfolgt, der lokale Entscheidungen mit einer gemeinsamen strategischen Richtung verbindet. Genau hier können KI-gestützte Entscheidungssysteme ansetzen – nicht indem sie Konsistenz erzwingen, sondern indem sie sichtbar machen, wo sie ausbleibt, und warum.

Warum Noise bestehen bleibt

Rauschen (Noise) bleibt in Organisationen nicht deshalb bestehen, weil es schwer zu beseitigen wäre, sondern weil es schwer zu erkennen ist. Die meisten Systeme erfassen keine Inkonsistenzen im Urteilsvermögen, sondern lediglich, ob Aufgaben erledigt werden, Fristen eingehalten sind oder Teilnahmeraten stimmen. Solange Entscheidungen im jeweiligen lokalen Kontext plausibel wirken, bleibt ihre Abweichung von parallelen Entscheidungen unbemerkt. Es gibt kein Warnsignal, wenn Interpretationen zu driften beginnen, nur dann, wenn die Koordination spürbar zusammenbricht.

Dieses Fehlen von Detektion ist kein Zufall, sondern Ausdruck einer tieferliegenden strukturellen Gegebenheit: Organisationen verteilen Entscheidungsverantwortung, definieren jedoch selten gemeinsame Referenzpunkte dafür, wie Entscheidungen gebildet, interpretiert oder miteinander verglichen werden. Nur wenige legen fest, welches Maß an Abweichung in der Interpretation als akzeptabel gilt. Dadurch bleibt Divergenz unsichtbar, bis sie die Umsetzung stört.

In der Praxis führt diese Annahme dazu, dass sich interpretative Abweichungen stillschweigend anhäufen. Dieselbe Initiative wird in einer Einheit als strategische Neuausrichtung verstanden, in einer anderen als regulatorischer Druck und an anderer Stelle als operative Störung. Jede dieser Lesarten ist für sich genommen plausibel, keine ist mit den anderen synchronisiert. Da keine Funktion damit beauftragt ist zu beobachten, wie sich Begründungsmuster im Laufe der Zeit fragmentieren, wird Divergenz nicht als strukturelle Eigenschaft erkannt, sondern als tolerierbare Hintergrundvariation.

Wird Reibung sichtbar, wird sie in der Regel Kommunikationsdefiziten, inkonsistenter Führung oder mangelnder Beteiligung zugeschrieben. Selten wird sie als Folge fehlender gemeinsamer Annahmen erkannt. Das macht Noise strukturell persistent: Es gilt nicht als Versagen des Verständnisses, sondern als hinnehmbarer Nebeneffekt von Autonomie.

Die Lösung liegt nicht in überzeugenderer Kommunikation, sondern in einer veränderten Aufmerksamkeit: nicht nur darauf, was entschieden wird, sondern auch darauf, wie Begründungen entstehen, wo sie auseinanderlaufen und wann sie wieder in den gemeinsamen Fokus gerückt werden müssen. Diese Arbeit kann sich nicht allein auf Beobachtung stützen. Sie erfordert Systeme, die Variabilität im Urteilsvermögen gezielt erfassen – früh, unauffällig und bevor sich die Auswirkungen operativ bemerkbar machen.

Das Plädoyer für Ausrichtung

In adaptiven Organisationen ist Entscheidungsfindung selten zentralisiert. Teams reagieren auf ihren jeweiligen Kontext, interpretieren Ziele im Licht lokaler Rahmenbedingungen und handeln autonom. Das ist kein Mangel, sondern ein Merkmal von Agilität. Wenn Urteilsvermögen jedoch verteilt ist, kann Kohärenz nicht vorausgesetzt werden. Sie muss sichtbar gemacht werden.

Die meisten Organisationen überwachen Leistung, nicht jedoch die dahinterliegende Begründung. Gemessen wird, ob eine Aufgabe erledigt wurde, nicht, wie sie verstanden wurde oder welche Annahmen die Entscheidung geprägt haben. Solange Ergebnisse im erwarteten Rahmen liegen, wird die dahinterliegende Logik nicht hinterfragt. Variabilität im Urteilsvermögen bleibt jedoch nicht folgenlos. Zwei Teams können dasselbe Ziel völlig unterschiedlich deuten: Das eine sieht darin eine Chance, das andere ein Risiko. Das eine beschleunigt, das andere verschiebt. Keine dieser Reaktionen ist unvernünftig, doch ohne gemeinsame Bezugspunkte löst sich strategische Ausrichtung nicht in der Absicht, sondern in der Wirkung auf.

Die Kosten werden oft erst zeitverzögert sichtbar, etwa als Fehlkommunikation, doppelte Arbeit, verspätete Eskalationen oder schleichender Abbau gemeinsamer Standards. Menschen setzen um, was sie glauben, dass die Organisation von ihnen erwartet, und stellen später fest, dass ihre Entscheidungen nicht kompatibel sind. Verloren geht dabei nicht der Einsatz, sondern die gemeinsame Richtung.

Die eigentliche Gefahr ist nicht der Fehler, sondern die stille Inkonsistenz. Wenn Begründungsmuster fragmentieren, ohne dass es bemerkt wird, schwindet Verantwortlichkeit. Nicht, weil bewusst gegen die Strategie gehandelt wird, sondern weil es keine Struktur gibt, die prüft, ob alle noch auf dasselbe Ziel hinarbeiten.

Ausrichtung bedeutet nicht, Einheitlichkeit zu erzwingen. Sie bedeutet, rechtzeitig zu erkennen, wenn Entscheidungen von inkompatiblen Logiken geleitet werden, und darauf zu reagieren, bevor sich diese Unterschiede verfestigen. Dafür braucht es Systeme, die solche Abweichungen früh sichtbar machen und handhabbar halten, ohne sie zu einem Konflikt werden zu lassen.

Technologie kann diese Arbeit unterstützen. Ausrichtung ist jedoch kein technischer Zustand, sondern eine Führungsaufgabe. Sie erfordert die Fähigkeit, Begründungsmuster sichtbar zu machen, Raum für Klärung zu schaffen und geteilte Verantwortlichkeit für Kohärenz zu fördern, ohne Unterschiede zu nivellieren.

Wie KI hilft, Divergenzen zu erkennen

In komplexen Umgebungen kündigt sich Fehlanpassung selten an. Sie entsteht schrittweise aus einzelnen Entscheidungen, die für sich genommen plausibel wirken, bis sich Widersprüche häufen oder Abweichungen von gemeinsamen Zielvorgaben erkennbar werden. Häufig liegt das Problem nicht darin, dass eine Entscheidung falsch getroffen wurde, sondern darin, dass zu spät bemerkt wird, wo sich das Verständnis auseinanderentwickelt hat.

KI-Systeme können helfen, solche Inkonsistenzen zu identifizieren. Sie zeigen auf, wo ähnliche Ausgangsdaten zu unterschiedlichen Reaktionen führen, wo Teams dieselben Signale unterschiedlich deuten oder wo sich Muster ohne erkennbaren Grund verändern. Sichtbar wird dadurch nicht ein Versagen, sondern eine Fragmentierung.

Ziel dieser Form der Erkennung ist nicht die Erzwingung von Einheitlichkeit, sondern die Sichtbarmachung von Variation. So können Organisationen unterscheiden, welche Abweichungen Ausdruck konstruktiver Anpassung sind und welche auf strukturelle Inkohärenz hinweisen. Nicht jede Abweichung ist problematisch, aber manche sind es. Der Wert liegt darin, diese Unterscheidung treffen zu können.

Dafür ist Interpretierbarkeit entscheidend. Wenn Systeme Warnhinweise erzeugen, die sich nicht in verständlicher Form erklären lassen, untergräbt dies das Vertrauen, anstatt Einsicht zu fördern. Selbst die genaueste Analyse wird ignoriert, wenn sie willkürlich wirkt. Menschen müssen verstehen können, was das System markiert hat und warum. Klarheit lädt zur Auseinandersetzung ein, mangelnde Nachvollziehbarkeit führt zu Ablehnung.

Auch die Wahrnehmung von Fairness spielt eine Rolle. KI-Systeme gewinnen Vertrauen, wenn ihre Funktionsweise nachvollziehbar ist, ihre Logik transparent dargelegt wird und ihr Einsatz auf den jeweiligen Kontext abgestimmt ist. Ein System, das Abweichungen bei der Personalgewinnung oder der Ressourcenverteilung markiert, kann in einem Bereich akzeptiert und in einem anderen abgelehnt werden, abhängig davon, wie groß der Ermessensspielraum ist und ob das System Raum für fachliche Entscheidungen lässt.

Deshalb ist die Möglichkeit, Ergebnisse zu hinterfragen, kein optionaler Schutzmechanismus, sondern ein Gestaltungsprinzip. Wenn Teams die Hinweise des Systems weder korrigieren noch in den Kontext einordnen oder infrage stellen können, schwindet ihre Beteiligung. Die Möglichkeit zur Auseinandersetzung stellt sicher, dass KI ein Partner in der Entscheidungsfindung bleibt und nicht zu einer Instanz wird, die nicht hinterfragt werden darf.

Der Unterschied zwischen Unterstützung und Kontrolle liegt letztlich im Maß an Handlungsfreiheit. Fühlen sich Menschen lediglich beobachtet, ohne gehört zu werden, wird Ausrichtung zur Formalität. Werden sie jedoch eingeladen, das vom System Gezeigte zu interpretieren und ihr eigenes Urteil einzubringen, wird KI zu einem Instrument der Reflexion und nicht der Disziplinierung.

Sorgfältig konzipierte KI-Systeme erzwingen keine Einigkeit. Sie machen sichtbar, wo Kohärenz zu erodieren beginnt, nicht um Schuld zuzuweisen, sondern um frühzeitig die Möglichkeit zu schaffen, Begründungsmuster wieder in Einklang zu bringen, bevor sich Entscheidungen dauerhaft voneinander entfernen.

Vorhersage braucht Urteilsvermögen

Vorhersage ist günstiger geworden, aber nicht sicherer

Vorhersagen zu erzeugen war noch nie so einfach wie heute und gleichzeitig noch nie so schwierig zu interpretieren. Systeme des maschinellen Lernens liefern probabilistische Ergebnisse mit hoher Geschwindigkeit, in großem Umfang und zu sinkenden Kosten. Wie Agrawal, Gans und Goldfarb (2018) darlegen, ist Vorhersage kein Engpass mehr, sondern eine infrastrukturelle Funktion: weit verbreitet, hochgradig automatisierbar und zunehmend fest in Entscheidungsabläufe integriert.

Doch Fülle ist nicht gleichbedeutend mit Verständnis. Wenn ein prädikatives Ergebnis als Handlungsanweisung behandelt wird, ohne dass es interpretiert wird, verwechseln Organisationen zumeist rechnerische Wahrscheinlichkeit mit strategischer Orientierung. Sie gehen davon aus, dass ein Modell, das aufzeigt, was wahrscheinlich ist, zugleich auch vorgibt, was zu tun ist. Das ist keine Automatisierung, sondern eine Abgabe von Verantwortung.

Nate Silver (2012) hat davor gewarnt, dass die meisten Fehlschläge bei Vorhersagen nicht auf fehlende Daten zurückzuführen sind, sondern auf das Missverständnis, bei zufälliger Streuung ein Signal zu sehen. Moderne KI-Systeme sind hervorragend darin, Regelmäßigkeiten zu finden, können jedoch nicht bestimmen, welche davon relevant sind. Muster zu erkennen ist leicht, ihnen Bedeutung zu geben nicht. Ein Modell kann anzeigen, dass ein Ereignis statistisch wahrscheinlich ist, beantwortet damit jedoch nicht die Frage, ob es wünschenswert, bedeutsam oder umsetzbar ist.

Die eigentliche Gefahr liegt in einer übersteigerten Sicherheit. Vorhersagen werden oft mit numerischer Präzision und visueller Autorität präsentiert, was den Eindruck erweckt, die Unsicherheit sei ausgeräumt. Kahneman, Sibony und Sunstein (2021) erinnern jedoch daran, dass Variabilität im Urteilsvermögen – also Noise – sowohl systemisch als auch unsichtbar ist. Prognosesysteme beseitigen diese Variabilität nicht, sie verbergen sie oft. Je überzeugender ein Modell seine Ergebnisse präsentiert, desto geringer ist die Wahrscheinlichkeit, dass sie hinterfragt werden.

Vorhersage liefert kein Urteilsvermögen, sondern eine Verdichtung. Sie reduziert vergangene Muster zu einer gegenwärtigen Wahrscheinlichkeit. Sie beantwortet die Frage, was geschehen könnte, nicht jedoch die schwierigeren Fragen: Warum ist es relevant? Welche Zielkonflikte bestehen? Wer trägt die Verantwortung für die Folgen?

Prädiktion verringert Komplexität nicht, sie verpackt sie neu. Wenn Organisationen nicht bewusst festlegen, wie Vorhersagen interpretiert, gewichtet und in Entscheidungen integriert werden, laufen sie Gefahr, auf Signale zu reagieren, deren Bedeutung sie nicht verstehen und die sie nicht verteidigen können.

Vorhersage ist nicht mehr knapp. Knapp und zunehmend strategisch entscheidend ist die Fähigkeit zu bestimmen, welche Bedeutung eine Vorhersage hat und wann sie handlungsleitend sein sollte.

Prädiktion ≠ Urteilsvermögen: Was Maschinen nicht entscheiden können

Vorhersagen liefern Entscheidungsgrundlagen, sie ersetzen jedoch nicht den eigentlichen Prozess der Entscheidungsfindung. Diese Unterscheidung ist nicht nur theoretischer Natur, sondern prägt unmittelbar, wie Handlungen begründet und legitimiert werden. Agrawal, Gans und Goldfarb (2018) betonen, dass Vorhersage beschreibt, was wahrscheinlich eintreten wird, während Urteilsvermögen festlegt, was relevant ist, was akzeptabel erscheint und welche Handlung daraus folgen sollte.

Das Risiko entsteht, wenn diese beiden Ebenen vermischt werden. In vielen organisatorischen Systemen entfällt die bewusste Ausübung von Urteilsvermögen, sobald eine Vorhersage vorliegt, oder sie wird stillschweigend als Teil des Outputs interpretiert. Das Modell prognostiziert, und die Handlung folgt unmittelbar. Selten wird gefragt, ob die Wahrscheinlichkeit in diesem Kontext tatsächlich relevant ist oder ob die Reaktion mit den übergeordneten Zielen übereinstimmt.

Vorhersage löst Mehrdeutigkeit nicht auf, sie quantifiziert sie. Diese Einsicht formulierte Herbert Simon bereits vor über sechzig Jahren: Entscheidungen entstehen stets unter den Bedingungen begrenzter Rationalität. Organisationen verfügen nie über vollständige Informationen und verarbeiten Unsicherheit nicht linear. KI-Systeme erweitern zwar die Informationsbasis, heben diese Grenzen jedoch nicht auf, sondern verschieben sie. Auch nach einer Prognose muss jemand die Frage beantworten, welche Handlung angesichts der gegebenen Zielkonflikte angemessen ist.

Diese Frage kann kein Algorithmus beantworten, denn sie erfordert Werturteile, Kontextwissen und Verantwortlichkeit. Urteilsvermögen bedeutet, Relevanz unter Einschränkungen zu gewichten. Fehlt eine klare Festlegung, wie und an welcher Stelle dieses Urteilsvermögen eingebracht wird, übernimmt die Vorhersage diese Rolle – nicht, weil sie dazu geeignet ist, sondern weil niemand sonst sie wahrnimmt.

Das Problem verschärft sich durch den Anschein von Verständlichkeit. Ananny und Crawford (2018) haben gezeigt, dass algorithmische Systeme eine Form von Sichtbarkeit erzeugen, die leicht mit echtem Verständnis verwechselt wird. Wenn ein Modell eine Anomalie meldet oder eine Rangfolge ausgibt, wirkt das Ergebnis selbsterklärend. Es suggeriert Ordnung, Muster und sogar Fairness. Tatsächlich spiegelt es jedoch lediglich die innere Struktur des Modells wider: Trainingsdaten, Merkmal-Auswahl und implizite Prioritäten. Die Klarheit ist prozedural, nicht erkenntnisbasiert.

Wird dieser Unterschied nicht deutlich gemacht, beginnen Vorhersagesysteme, Urteilsvermögen zu ersetzen, anstatt es zu unterstützen. Die Organisation folgt dann der internen Logik des Modells, ohne zu prüfen, ob diese für den jeweiligen Zweck geeignet ist. Die Qualität von Entscheidungen sinkt nicht, weil die Vorhersagen falsch wären, sondern weil der Raum für menschliche Begründung stillschweigend verschwindet.

Vorhersage kann Urteilsvermögen nicht ersetzen, sie setzt es voraus. Die Herausforderung besteht nicht darin, KI intelligenter zu machen, sondern Organisationen zu befähigen, bewusster mit dem umzugehen, was KI sichtbar macht.

Entscheidungsfindung an Prädiktion ausrichten

Prädiktionen ermöglichen es Organisationen, abzuschätzen, was mit hoher Wahrscheinlichkeit eintreten wird. Sie legen jedoch nicht fest, welche Handlung daraus folgen sollte. Der Raum zwischen statistischem Ergebnis und zielgerichteter Handlung muss durch Entscheidungsfindung gefüllt werden. Je schneller und leichter Prädiktionen verfügbar sind, desto größer wird der Bedarf an klar strukturierten Entscheidungsprozessen – nicht geringer.

Agrawal, Gans und Goldfarb (2018) beschreiben Prädiktion als einen Teil eines umfassenderen Entscheidungsprozesses, der aus drei Elementen besteht: Prädiktion, Entscheidungsfindung und Handlung. Während die Prädiktion klärt, was wahrscheinlich ist, bewertet die Entscheidungsfindung, was in einer konkreten Situation angemessen ist, und die Handlung setzt diese Entscheidung um. Steht die Prädiktion nahezu unbegrenzt zur Verfügung, steigt der Bedarf an bewusster Bewertung. Fehlt jedoch eine klare Struktur, um prognostische Signale zu interpretieren, werden Entscheidungen oft automatisch aus dem Output abgeleitet. Die Prädiktion wird zur Entscheidung – nicht aus Absicht, sondern aus Unterlassung.

Die Herausforderung ist weniger technischer als institutioneller Natur. Entscheidungsfindung verschwindet nicht, sie verlagert sich in unausgesprochene Annahmen – etwa darüber, welches Risiko vertretbar ist, welcher Zeitpunkt geeignet erscheint oder welche Schwellenwerte innerhalb der Organisation gelten. Solche Annahmen verfestigen sich zu Routinen, auch wenn sie nie ausdrücklich formuliert wurden.

Diese implizite Delegation birgt erhebliche Risiken. Wie Eubanks (2018) gezeigt hat, neigen Systeme, die auf Prädiktionen reagieren, ohne Raum für Interpretation oder Widerspruch zu lassen, dazu, bestehende Muster zu verstärken – einschließlich Ungleichheit und Ausschluss. Nicht, weil der Algorithmus fehlerhaft wäre, sondern weil seine Nutzung von kritischer Reflexion abgeschirmt ist. Wird nicht gefragt, warum eine Vorhersage relevant ist oder wie sie verstanden werden sollte, verschwindet Verantwortlichkeit aus dem Prozess.

Ein ähnliches Risiko besteht in Bezug auf Inkonsistenz. Kahneman, Sibony und Sunstein (2021) haben gezeigt, dass Variabilität im Urteilsvermögen weit verbreitet und oft unsichtbar ist. Von KI-Systemen wird häufig erwartet, diese Variabilität zu verringern. In der Praxis verlagern sie sie jedoch oft – vom menschlichen Denken in die Modellarchitektur, von professioneller Erfahrung in technische Designentscheidungen. Die Variabilität bleibt bestehen, ist jedoch weniger sichtbar.

Deshalb muss Entscheidungsfindung strukturell verankert sein – nicht innerhalb des Algorithmus, sondern innerhalb der Organisation. Es braucht klare Verfahren, um zu definieren, welche Bedeutung eine Prädiktion hat, und zu entscheiden, wann und ob sie eine Handlung rechtfertigt. Dazu gehören:

• Schwellenwerte festlegen, die eine Handlung oder Überprüfung auslösen.
• Eskalationswege bestimmen, wenn Prädiktionen der lokalen Expertise widersprechen.
• Routinen einführen, die eine Interpretation vor der Umsetzung vorsehen.
• die Frage normalisieren: Ergibt diese Prädiktion in diesem Kontext Sinn?

Entscheidungsfindung ist keine Quelle von Ineffizienz. Sie ist die Voraussetzung dafür, dass Prädiktion ihren Sinn entfalten kann. Ohne sie liefert Prädiktion keine Orientierung für Entscheidungen, sondern ersetzt sie stillschweigend.

Prädiktion kann Handlungen anstoßen. Doch nur eine klar strukturierte Entscheidungsfindung kann bestimmen, wann eine Handlung tatsächlich gerechtfertigt ist.

Ethische Rahmenbedingungen

KI-Systeme berechnen nicht nur Ergebnisse. Sie bestimmen, welche Informationen sichtbar werden, welche Signale Priorität erhalten und was als handlungsrelevant gilt. Damit wirken sie nicht außerhalb des Entscheidungsprozesses, sondern sind ein aktiver Bestandteil davon. Diese Einflussnahme bleibt jedoch oft unbemerkt. Was als Unterstützung von Entscheidungen präsentiert wird, kann in der Praxis verändern, wie Probleme definiert, welche Aspekte als bedeutsam angesehen und wer als zuständig betrachtet wird. Solche Effekte sind nicht technischer, sondern normativer Natur.

Berendt (2019) weist darauf hin, dass algorithmische Entscheidungssysteme niemals neutral sind. Sie enthalten implizite Annahmen darüber, was als Problem gilt, welche Daten relevant sind und wie Erkenntnisse aufbereitet werden. Diese Annahmen spiegeln sich in Gestaltungsentscheidungen wider: in der Auswahl der sichtbar gemachten Informationen, in der Festlegung von Schwellenwerten und in der Definition der zu optimierenden Ergebnisse. Das Resultat ist kein objektives Abbild der Realität, sondern ein konstruiertes Wahrnehmungsfeld. Was das System nicht erfassen kann, bleibt auch für diejenigen unsichtbar, die sich auf seine Ausgaben stützen. Sichtbarkeit wird damit zu einer Form der Steuerung – nicht zwingend aus Absicht, sondern durch das Design selbst.

Transparenz allein schafft jedoch kein Vertrauen. Araujo et al. (2020) zeigen, dass Menschen KI-Systeme nicht primär nach technischer Genauigkeit bewerten, sondern danach, ob diese verständlich, interpretierbar und kontextbezogen sind. Ein System, das korrekte Ergebnisse liefert, sich aber nicht nachvollziehbar erklären kann, führt eher zu Zurückhaltung als zu Vertrauen. Und ein System, das zwar Erklärungen liefert, aber keine inhaltliche Auseinandersetzung ermöglicht, erzeugt lediglich den Anschein eines Dialogs. Interpretierbarkeit ist daher keine optionale Funktion, sondern eine Voraussetzung für Legitimität.

Die Unterscheidung zwischen Lesbarkeit und Verständnis ist hier entscheidend. Ananny und Crawford (2018) warnen, dass strukturierte, logisch wirkende oder scheinbar faire Ausgaben eines KI-Systems nicht automatisch bedeuten, dass diese im Kontext sinnvoll sind. Was für das System klar erscheint, kann für diejenigen, die damit arbeiten, unverständlich bleiben. Formale Ordnung kann das Fehlen substanzieller Erklärung verschleiern. Ohne eine solche Erklärung kann jedoch kein fundierter Entscheidungsprozess stattfinden.

Fehlt die Möglichkeit, KI-Ausgaben zu hinterfragen, in den Kontext einzuordnen oder ihnen zu widersprechen, diffundiert Verantwortung ins Unbestimmte. Eubanks (2018) hat dokumentiert, wie prädiktive Systeme im sozialpolitischen Kontext Menschen nicht durch explizite Ablehnung ausschließen, sondern durch stille Automatisierung – Entscheidungen, die nicht anfechtbar, Signale, die nicht neu interpretierbar, und Ergebnisse, die nicht korrigierbar sind. Die Gefahr liegt weniger im Irrtum als in der Endgültigkeit.

Für Organisationen ergibt sich daraus eine klare Konsequenz: Die ethische Qualität von Entscheidungssystemen bemisst sich nicht nur an ihrer Leistungsfähigkeit, sondern ebenso daran, wie sie in bestehende Strukturen eingebettet sind. Systeme müssen so konzipiert sein, dass sie eine Interpretation vor der Umsetzung und eine Reflexion nach der Umsetzung ermöglichen. Andernfalls läuft die Organisation Gefahr, ohne Urteilsvermögen zu handeln und Verantwortung unbemerkt zu delegieren. Was auf den ersten Blick effizient wirkt, kann so unkontrollierbar werden.

Ethisches Design bedeutet daher nicht, den Handlungsspielraum von KI einzuschränken, sondern sicherzustellen, dass Organisationen für das, was KI sichtbar macht, rechenschaftspflichtig bleiben. Dazu gehört, dass statistische Regelmäßigkeiten nicht als normative Standards missverstanden werden, dass lokale Expertise nicht durch algorithmische Ergebnisse verdrängt wird und dass Entscheidungsfindung als kontextbezogener Prozess erhalten bleibt, anstatt zu reiner Verfahrenslogik zu werden.

Legitimität beruht nicht auf Fehlerfreiheit, sondern auf Beteiligungsmöglichkeiten. Systeme, die Widerspruch, Erklärung und Reflexion zulassen, garantieren keine Fairness, schaffen aber die Voraussetzung dafür. Wird KI in Entscheidungsprozessen eingesetzt, die Verhalten, Zugang oder Chancen betreffen, muss sie nicht nur anzeigen, was wahrscheinlich ist, sondern auch offenbleiben für das, was sie nicht erfasst.

Fazit

KI-gestützte Entscheidungsfindung hat nicht das Ziel, menschliches Urteilsvermögen zu ersetzen. Ihr Wert liegt darin, die Bedingungen, unter denen Urteile zustande kommen, transparenter und rechenschaftspflichtiger zu machen. Fehlanpassungen in Organisationen entstehen selten aus mangelnder Absicht, sondern aus Unterschieden in der Art und Weise, wie Entscheidungen gebildet, interpretiert und über Rollen und Kontexte hinweg koordiniert werden. Prädiktive Systeme können solche Divergenzen sichtbar machen. Sie können jedoch nicht festlegen, welche Signale relevant sind, wie Zielkonflikte abgewogen werden sollten oder welcher Handlungsweg angemessen ist.

Die Wirksamkeit KI-gestützter Entscheidungsprozesse hängt daher nicht allein von der Genauigkeit der Modelle ab, sondern ebenso von den institutionellen Strukturen, in die sie eingebettet sind: von der Art und Weise, wie Organisationen prädiktive Ergebnisse interpretieren, wie sie Verantwortung zuweisen und wie sie sicherstellen, dass Entscheidungen im gesamten System erklärbar und legitim bleiben.

KI ist in diesem Sinne kein Ersatz für strategische Entscheidungsfindung, sondern ein diagnostisches Instrument, das bestehende Muster schärfer erkennbar macht. Entscheidend ist, ob Organisationen diese Linse nutzen, um prozedurale Kohärenz zu stärken, gemeinsame Begründungen zu fördern und die Grenzen von Ermessensspielräumen zu klären. Ziel ist nicht, schneller zu entscheiden, sondern fundierter.

 

Referenzen

Agrawal, A., Gans, J. and A. Goldfarb (2018), Prediction Machines: The Simple Economics of Artificial Intelligence, Boston: Harvard Business Review Press

Ananny, M. and K. Crawford, K. (2018), Seeing Without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability, New Media & Society, 20, 973-989.

Araujo, T., Helberger, N., Kruikemeier, S. and C. H. de Vreese (2020), In AI we trust? Perceptions about automated decision-making by artificial intelligence, Information, Communication & Society, 23(4), pp. 550–565.

Berendt, B. (2019), AI for the Common Good?! Pitfalls, challenges, and ethics-by-design. Paladyn, Journal of Behavioral Robotics, 10(1), pp. 44–65.

Eubanks, V. (2018), Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor, New York: St. Martin’s Press.

Kahneman, D., O. Sibony, and C. R. Sunstein (2021), Noise: A Flaw in Human Judgment, New York: Little, Brown Spark

Silver, N. (2012), The Signal and the Noise: Why So Many Predictions Fail – but Some Don’t, New York: Penguin Press