KI sollte nicht über Ihre Fälle entscheiden

Die gesamte Branche überbietet sich darin, Ihnen dasselbe Versprechen zu verkaufen: Unsere KI kann mehr. Sie übernimmt für Sie die Priorisierung, bewertet für Sie den Schweregrad. Schon bald wird sie Fälle für Sie abschließen. Das Versprechen lautet Geschwindigkeit: Lassen Sie die Maschine entscheiden, und Ihr Team wird schneller arbeiten.

Für eine Compliance-Funktion ist jedoch Geschwindigkeit allein das falsche Ziel. Und eine KI, die eigenständig entscheidet, ist in einer regulierten Untersuchung geradezu gefährlich.

Wenn eine Ihrer Fallentscheidungen hinterfragt wird – von einer Aufsichtsbehörde, einem Gericht oder einem Journalisten –, fragt niemand, wie schnell Sie den Fall abgeschlossen haben. Entscheidend ist, ob die Entscheidung einer Prüfung standhält: Wer hat sie getroffen, auf welcher Grundlage und können Sie dies belegen? Dabei geht es um Verantwortlichkeit und Belege – und „die KI hat entschieden“ ist auf keine dieser Fragen eine Antwort.

Eine KI, die eigenständig den Schweregrad festlegt und einen Fall abschließt, führt zu einer Entscheidung, für die kein Mensch Verantwortung übernimmt und die niemand vollständig erklären kann. Das ist keine schnellere Untersuchung, sondern eine Entscheidung, die einer Prüfung nicht standhält. Sobald eine Aufsichtsbehörde, ein Gericht oder eine gegnerische Partei einen einzelnen Fall herausgreift und Sie auffordert, das Ergebnis zu begründen, wird eine autonome KI-Entscheidung zur Schwachstelle Ihres gesamten Compliance-Programms.

Es gibt eine klare Grenze zwischen einer KI, die die untersuchenden Personen unterstützt, und einer KI, die sie ersetzt. Diese Grenze entscheidet auch darüber, ob Ihre Falldokumentation belastbar oder angreifbar ist.

Eine KI auf der richtigen Seite dieser Grenze übernimmt Aufgaben, die für Menschen zeitaufwändig und fehleranfällig sind: Sie fasst die Inhalte von Beweismitteln zusammen, identifiziert die in einer Meldung genannten Personen und schlägt auf Grundlage Ihrer eigenen Definitionen einen Schweregrad vor. Die Einstufung der KI ist unverbindlich. Eine namentlich benannte Person entscheidet dann, wenn sie den Fall bearbeitet, ob sie diese übernimmt oder ändert. Diese Entscheidung wird dokumentiert. Die KI ermöglicht der untersuchenden Person, schneller und fundierter zu arbeiten. Die Entscheidung liegt weiterhin beim Menschen. Und die Dokumentation macht genau das nachvollziehbar.

Das ist KI, die die Belastbarkeit Ihrer Dokumentation stärkt, statt sie zu untergraben – mit genau der Effizienz, die der Markt verspricht, ohne Ihre Verantwortung an eine Blackbox abzugeben.

Dasselbe Prinzip gilt für Ihre Beweismittel. KI kann den Inhalt eines Dokuments zusammenfassen, eine Sprachaufzeichnung transkribieren und die in einer Meldung genannten Personen identifizieren – damit Personen, die Gegenstand einer Meldung sind, keinen Zugriff auf diesen Fall erhalten. Sie darf jedoch nicht das fachliche Urteilsvermögen der untersuchenden Person ersetzen. Der Wert liegt nicht darin, dass die KI „entschieden“ hat, was relevant ist. Entscheidend ist, dass die untersuchende Person Beweismittel schneller finden, bewerten und dokumentieren kann – und die Schlussfolgerung weiterhin selbst verantwortet.

Das Unbequeme daran: Viele Compliance-Teams haben KI-Funktionen bereits aktiviert, ohne die entscheidenden Fragen zu klären. Hat ein Mensch die Kontrolle über die Entscheidung? Werden jeder Vorschlag und jede Änderung dokumentiert? Könnten Sie einen konkreten Fall rekonstruieren, auch wenn er erst in einem Jahr infrage gestellt wird?

Meist wirkt alles solide. Bis es auf die Probe gestellt wird.

EQS Integrity Line basiert auf einem klaren Prinzip: Unsere KI übernimmt die aufwändigen Aufgaben und schlägt auf Grundlage Ihrer eigenen Definitionen einen Schweregrad vor – entscheidet jedoch niemals eigenständig. Jeder Vorschlag wird einem Fallmanager angezeigt, der ihn ändern kann, bevor der Fall weiterbearbeitet wird. Jeder Vorschlag und jede Änderung werden dokumentiert.

Dasselbe gilt für die Inhalte, die mit einer Meldung eingehen. Angehängte Dateien werden zusammengefasst, Sprachaufzeichnungen transkribiert und die in einer Meldung genannten Personen dem Fallmanager zur Bestätigung angezeigt. Ohne eine Bestätigung wird einem Fall nichts hinzugefügt.

Sie profitieren von der Geschwindigkeit der KI und einer Dokumentation der Untersuchung, für die weiterhin ein Mensch verantwortlich ist und die diese Person bei einer Überprüfung vertreten kann.

Wenn Sie nicht sicher sind, wie Ihr eigenes Setup einzuordnen ist, lohnt es sich, drei Minuten zu investieren, um es herauszufinden. Machen Sie den Check: Ist Ihre KI-gestützte Untersuchung belastbar? Acht Fragen zeigen Ihnen, wo Ihre Dokumentation der Untersuchung einer Überprüfung standhält – und wo nicht.