Eine kurze Geschichte des blinden Vertrauens
KI-Systeme haben in den letzten Jahren beeindruckende Ergebnisse geliefert. Sie klassifizieren, prognostizieren, empfehlen. Und sie tun das oft mit einer Treffsicherheit, die menschliche Experten überfordert.
Aber sie tun es ohne Erklärung.
„Das Modell sagt X" ist die Antwort. Warum es X sagt, auf welcher Grundlage, mit welcher Sicherheit und unter welchen Annahmen, bleibt verborgen. In der Blackbox.
Für viele Anwendungsfälle ist das akzeptabel. Für sicherheitskritische Entscheidungen reicht das nicht.
Warum Erklärbarkeit in kritischen Domänen keine Option ist
Wenn ein Analysesystem einer Sicherheitsbehörde meldet: „Situation: erhöhte Risikoeinstufung, Maßnahme empfohlen." Auf welcher Grundlage? Unbekannt. Das Modell hat es so berechnet.
In sicherheitskritischen Kontexten stehen Entscheider vor einer Wahl: dem System blind vertrauen oder die Empfehlung ignorieren. Beides ist unbefriedigend. Beides ist gefährlich.
Das ist das Kernproblem von Systemen, die auf Trust-us-Architektur aufgebaut sind.
Was Verifiable AI bedeutet
Verifiable AI ist keine neue Produktkategorie. Es ist ein Designprinzip.
Ein System ist verifiably intelligent, wenn jede seiner Aussagen auf die Eingabedaten und Regeln zurückgeführt werden kann, die zu ihr geführt haben: vollständig, maschinenlesbar, auditierbar.
Verifiable AI setzt auf eine andere Architektur: symbolische Repräsentation, formale Logik, Wissensgraphen.
Die drei Dimensionen der Verifizierbarkeit
Dimension 1: Datentransparenz. Welche Datenpunkte haben zur Aussage beigetragen? Ein verifizierbares System kann diese Frage für jede einzelne Ausgabe beantworten, nicht als statistisches Aggregat, sondern als konkrete, benennbare Quellen.
Dimension 2: Regellogik. Welche Regeln wurden angewendet? In einer ontologie-basierten Architektur sind die Schlussfolgerungsregeln explizit modelliert. Sie können von Fachleuten gelesen, hinterfragt und angepasst werden.
Dimension 3: Auditierbarkeit. Kann eine externe Stelle, ein Datenschutzbeauftragter, eine Kontrollbehörde, ein unabhängiger Gutachter, die Entscheidungslogik des Systems nachvollziehen? In einem verifizierbaren System lautet die Antwort: ja.
Zwei Philosophien. Ein Unterschied, der zählt.
Manche Analyseplattformen, insbesondere solche, die aus dem angloamerikanischen Rüstungs- und Geheimdienstumfeld stammen, sind auf eine bestimmte Nutzungsphilosophie ausgelegt: Das System liefert Ergebnisse. Wie es dazu kommt, bleibt intern. Wer es einsetzt, vertraut dem Anbieter.
Das ist eine bewusste Designentscheidung. Und für bestimmte Kontexte eine nachvollziehbare.
Für europäische Sicherheitsbehörden, öffentliche Institutionen und regulierte Infrastrukturen ist sie es häufig nicht. Hier gelten Datenschutzrecht, Nachweispflichten und parlamentarische Kontrolle. Hier braucht es Systeme, die nicht nur funktionieren, sondern zeigen können, warum sie zu einem Ergebnis kommen.
MAKOR wurde mit dieser Anforderung als Ausgangspunkt gebaut: Jede Aussage des Systems ist zurückführbar. Jede Regel ist explizit. Jede Datenquelle ist benannt. Das System erklärt sich selbst.
Manche nennen das Verifiable AI. Wir nennen es: die einzig sinnvolle Grundlage für Entscheidungen, die Konsequenzen haben.
Was das in der Praxis verändert
Entscheidungssicherheit. Entscheider können die Grundlage einer Empfehlung beurteilen und damit beurteilen, ob sie ihr folgen wollen.
Fehlerdiagnose. Wenn das System falsch liegt, kann analysiert werden, warum. Blackboxes können das nicht.
Rechtssicherheit. „Das KI-System hat es empfohlen" ist keine Begründung. „Auf Basis der Datenpunkte A, B, C und der Regel X ergibt sich Schlussfolgerung Y" ist eine.
Vertrauen durch Kontrolle. Echtes Vertrauen entsteht nicht dadurch, dass man einem System blind glaubt, sondern dadurch, dass man es überprüfen kann und es dieser Prüfung standhält.
Ausblick: Was Verifiable AI für die Zukunft bedeutet
Mit dem EU AI Act tritt in Europa ein Rechtsrahmen in Kraft, der für Hochrisikoanwendungen explizit Anforderungen an Transparenz, Erklärbarkeit und menschliche Aufsicht formuliert.
MAKOR ist Compliance-kompatibel, weil das Architekturprinzip selbst die Antwort auf diese Anforderungen ist.
Verify us. Das ist kein Versprechen. Es ist eine Einladung.