Wie eine KI-Ausgabe zur Entscheidungsgrundlage wird
Eine Software stuft einen Angeklagten als hohes Rückfallrisiko ein. Welches Gewicht darf diese Bewertung bei der Strafzumessung haben? Am US-Gerichtsfall State v. Loomis untersucht der Artikel, wie Berichte und Verfahrensregeln einer maschinellen Bewertung Einfluss geben und wer für ihre Verwendung verantwortlich bleibt.

Im US-Gerichtsfall State v. Loomis ging es unter anderem darum, wie ein Gericht eine maschinelle Risikobewertung bei der Strafzumessung verwenden darf. Die Software COMPAS ordnete Angaben aus Strafakte und Interview Risikogruppen zu. Der Supreme Court von Wisconsin erlaubte 2016 eine begrenzte Nutzung: Der Wert durfte berücksichtigt werden, aber weder Haft noch Strafhöhe bestimmen und auch nicht für die Möglichkeit einer Aufsicht außerhalb des Gefängnisses ausschlaggebend sein.1
Die Bewertung gelangte über einen Vorbereitungsbericht in das Verfahren. Die Staatsanwaltschaft verwendete sie als Argument, das Gericht neben anderen Gründen in seiner Begründung. Die genaue Gewichtung der Eingaben blieb als Geschäftsgeheimnis verborgen. Das Urteil zeigt, wie mehrere Beteiligte einer Softwareausgabe Einfluss auf eine Entscheidung gaben.
Diese Frage betrifft auch heutige KI-Systeme: Wann wird eine Ausgabe zur Entscheidungsgrundlage, wer darf sie bestreiten und wer verantwortet ihre Verwendung? Der Fall liefert dafür ein konkretes Beispiel, ohne COMPAS mit einem heutigen Sprachmodell gleichzusetzen.
Die enge rechtliche Grenze
COMPAS war kein generatives KI-System, sondern verband Angaben aus Strafakte und Interview zu Risikogruppen. Das Gericht sah Loomis auf drei Skalen als hohes Risiko, begründete den Ausschluss einer Bewährung aber auch mit Tatenschwere, Vorgeschichte und früherer Aufsicht. Loomis konnte Eingaben und Ergebnisse bestreiten, nicht die proprietäre Gewichtung; außerdem beanstandete er die Berücksichtigung des Geschlechts. Der Supreme Court erlaubte diese konkrete Nutzung, weil unabhängige Gründe die Entscheidung trugen.
Die vorgeschriebenen Warnhinweise begrenzten die Aussage des Scores weiter: Er beschrieb Gruppen statt individueller Rückfallwahrscheinlichkeiten, war damals nicht für Wisconsin kreuzvalidiert und war ursprünglich für Behandlung, Aufsicht und Bewährung statt für das Strafmaß entwickelt worden. Auch mögliche Verzerrungen bei der Einstufung ethnischer Minderheiten sowie die Notwendigkeit fortlaufender Überwachung und Neunormierung mussten sichtbar bleiben.1 Das Urteil löste die verborgene Gewichtung nicht auf; es erlaubte nur eine Verwendung, deren Wirkung durch Verfahrensregeln begrenzt war.
Warum ein kompakter Output so leicht weiterreist
Niklas Luhmann bezeichnet als Unsicherheitsabsorption, dass spätere Kommunikation das Ergebnis einer früheren Auswahl übernimmt, ohne deren gesamte Unsicherheit erneut zu bearbeiten.2 Diese Verdichtung ist für Organisationen notwendig. Andernfalls müsste jede Entscheidung sämtliche Daten, Alternativen und Begründungsschritte ihrer Vorgeschichte wiederholen.
COMPAS verdichtete Angaben aus Akte und Interview, Vergleichsdaten, Modellannahmen und verborgene Gewichtungen zu drei Risikobalken. „Hohes Rückfallrisiko“ ließ sich leicht in einen Bericht und von dort in eine Begründung übernehmen. Gruppenbezug, Validierungsgrenzen und Berechnungsmethode reisten weniger leicht mit.
Für die Gestaltung markiert das den kritischen Übergang: Wann gilt ein zusammengefasstes Ergebnis als belastbar genug für den nächsten Schritt? Genau dort müssen Zweck, Unsicherheit und ausgeschlossene Verwendungen sichtbar sein. Genau dort braucht es außerdem einen Widerspruch, der den weiteren Prozess noch verändern kann.
Die Entscheidungen vor dem Einzelfall
Organisationen arbeiten mit Entscheidungsprämissen: Programme, Zuständigkeiten, Kommunikationswege und Personalentscheidungen strukturieren spätere Entscheidungen, ohne jeden Einzelfall vollständig festzulegen.2 Im Loomis-Fall bestimmte das Berichtsformat, welche Kategorien das Gericht sah; die Praxis der Strafvollzugsbehörde prägte den vorgesehenen Gebrauch. Der Supreme Court änderte diese Prämissen für spätere Fälle durch Verbote, Warnhinweise und die Pflicht zu eigenständigen Gründen.
Bei heutigen KI-Systemen liegen vergleichbare Entscheidungen oft lange vor dem einzelnen Output. Jemand legt Kategorien und Schwellen fest, bestimmt Folgeaktionen und weist Rollen das Recht zu, einen Wert zu übergehen. Diese Vorgaben prägen viele Fälle, auch wenn ihre Urheber bei der späteren Entscheidung nicht anwesend sind.
Luhmanns Begriff der Entscheidungskommunikation macht eine weitere Trennung sichtbar. Ein Output ist noch keine zurechenbare Auswahl der Organisation. Im Loomis-Verfahren erhielt die Einstufung institutionelles Gewicht durch Bericht, Argumentation und gerichtliche Begründung; die Strafentscheidung blieb eine Entscheidung des Gerichts.2 Die Formulierung „das System hat entschieden“ verdeckt die Rollen, die den Output autorisiert, eingeordnet und verwendet haben.
Was daraus für KI-Verfahren folgt
Elena Esposito verschiebt in Artificial Communication die Frage von einer Ähnlichkeit zwischen menschlichem Denken und lernenden Algorithmen darauf, wie Menschen mit algorithmischen Ausgaben kommunizieren und sie in weitere soziale Kommunikation übernehmen.3 Das erklärt, warum die Darstellung und Weitergabe eines Outputs zu seiner Wirkung gehören. Esposito formuliert damit keine Rechtsregel für Loomis, ebenso wenig ist Luhmanns Organisationstheorie bereits ein Governance-Standard.
Für Intelligence Architecture folgen daraus drei Gestaltungsaufgaben:
- Status festlegen: Ein Output dient entweder nur der Information, löst eine zusätzliche Prüfung aus, gilt als widerlegbare Vermutung oder aktiviert eine verbindliche Vorgabe. Erlaubte und ausgeschlossene Nutzungen stehen in den Verfahrensregeln und an der Stelle, an der der Output erscheint.
- Widerspruch wirksam machen: Betroffene und Prüfende können Eingaben korrigieren, die Auslegung bestreiten und eine begründete neue Entscheidung verlangen. Das Protokoll zeigt, welcher Output von wem in welcher Funktion verwendet und wie auf einen Einwand reagiert wurde.
- Verantwortung zuordnen: Eine benannte Stelle verantwortet Validierungsbasis, zulässige Folgehandlungen sowie Änderung oder Aussetzung der Regeln. Für den Einzelfall bleibt verantwortlich, wer den Output als Grund übernimmt.
Rechtsmittel bestimmt das jeweils geltende Recht; technische und organisationale Architektur müssen ihre Ausübung ermöglichen. Ein KI-Output gewinnt seine institutionelle Kraft nicht allein aus dem Modell, sondern aus den Entscheidungen, die ihn sichtbar machen, ihm einen Status geben und ihn in Handeln übersetzen.
Footnotes
-
Wisconsin Supreme Court, State v. Loomis, 2016 WI 68, offizielle Entscheidung vom 13. Juli 2016. Die Rekonstruktion der COMPAS-Funktion, der Verfahrensgeschichte sowie der Grenzen und Warnhinweise folgt der Mehrheitsentscheidung. ↩ ↩2
-
Niklas Luhmann, Organization and Decision, englische Ausgabe, Cambridge University Press 2018; deutsches Original Organisation und Entscheidung (2000), insbesondere die Kapitel zur Unsicherheitsabsorption und zu Entscheidungsprämissen. ↩ ↩2 ↩3
-
Elena Esposito, Artificial Communication: How Algorithms Produce Social Intelligence, MIT Press 2022. Die hier gezogene normative Folgerung stammt nicht aus dem Buch, sondern aus der redaktionellen Verbindung mit dem Loomis-Fall. ↩

