KI-Agenten-Governance in Banken und Versicherern
KI-Agenten-Governance ist das Regelwerk, das festlegt, was ein KI-Agent tun darf und wer dafür einsteht. Allgemeine KI-Governance prüft die Ausgabe eines Modells; Agenten-Governance prüft Handlungen, denn ein Agent ruft Werkzeuge auf und kann Zahlungen auslösen. Termine zu KI im Finanzwesen stehen im Kalender unten.
Was zur Agenten-Governance gehört
Am Anfang stehen ein benannter Verantwortlicher für jeden Agenten und ein Verzeichnis aller eingesetzten Agenten, so wie Banken ein Modellinventar führen. Dann folgen Grenzen: welche Werkzeuge und Daten ein Agent nutzen darf, welche Beträge er bewegen darf und wann ein Mensch freigeben muss. Jede Handlung wird protokolliert, damit die Bank eine Entscheidung Monate später nachvollziehen kann. Bain (auf Englisch) beschreibt eine Bank, die ihre Agenten nach einer festgelegten Zeit automatisch abschaltet.
Ein eigenes Risiko ist die Kette von Schritten. Jede einzelne Handlung kann erlaubt sein, während die Abfolge ein Ergebnis erzeugt, das niemand freigegeben hat. Agenten-Governance prüft deshalb ganze Abläufe und testet sie, bevor ein Agent mehr Autonomie erhält.
Rahmenwerke der Aufsicht
Die Infocomm Media Development Authority in Singapur veröffentlichte das Model AI Governance Framework for Agentic AI (auf Englisch). Es hat vier Teile: Risiken vorab bewerten und begrenzen, etwa durch Grenzen für Autonomie, Werkzeuge und Datenzugriff; Menschen wirksam verantwortlich machen, mit Freigaben an wichtigen Punkten; technische Kontrollen einsetzen und Agenten schrittweise einführen; Endnutzer informieren, wenn Agenten im Einsatz sind. Die KASIKORN Business-Technology Group, Technologietochter der thailändischen KBank, schreibt im Factsheet, dass sie Agenten in der ganzen Bank einführt und das Rahmenwerk für ihre Governance nutzt.
In den USA beschreibt die FINRA in ihren Beobachtungen zu KI-Agenten (auf Englisch) sechs Arten von Agenten bei Mitgliedsfirmen, von Dialog- und Programmieragenten bis zu Handels- und Geldwäscheüberwachung und Orderausführung. Die FINRA merkt an, dass Agenten die Transparenz und Vorhersehbarkeit fehlen kann, von der die Aufsichtspraxis ausgeht.
Regeln in der EU und in Deutschland
Die KI-Verordnung kennt keine eigene Kategorie für Agenten; die Pflichten folgen dem Anwendungsfall. Ein Agent, der Verbraucherkredite bewertet, ist ein Hochrisiko-System und braucht menschliche Aufsicht. Die Prinzipien der BaFin für Algorithmen in Entscheidungsprozessen verlangen klare Verantwortung in jeder Phase eines Modells, und ihre Orientierungshilfe zu IKT-Risiken bei KI wendet DORA auf die Werkzeuge an, die ein Agent erreicht.
Für eine deutsche Bank ist Agenten-Governance damit eine Erweiterung dessen, was sie schon betreibt: Modellrisikomanagement, das Register der IKT-Drittdienste und das Vier-Augen-Prinzip. Den allgemeinen Rahmen beschreibt die Seite KI-Governance in Banken.
Kommende Events zu KI und Finanzen in Deutschland
Was ist KI-Agenten-Governance?
KI-Agenten-Governance ist der Rahmen aus Verantwortlichen, Grenzen, Freigaben und Protokollen, der steuert, was autonome KI-Agenten in einer Organisation tun dürfen, vom Entwurf bis zur Abschaltung.
Was unterscheidet sie von KI-Governance?
KI-Governance kontrolliert Modelle und ihre Ergebnisse. Agenten-Governance kontrolliert zusätzlich Handlungen: welche Werkzeuge ein Agent aufruft und welche Transaktionen er ohne einen Menschen auslösen darf.
Gibt es eine Regulierung für KI-Agenten?
Kein Gesetz ist allein für Agenten geschrieben. Singapurs freiwilliges Rahmenwerk ist bislang die genaueste Vorgabe; in der EU gelten KI-Verordnung und DORA für Agenten über ihren Anwendungsfall und die Systeme, die sie erreichen.
KI-Agenten-Governance und Finance Loop
Finance Loop bringt die Entwickler von Agenten mit den Risiko- und Compliance-Fachleuten zusammen, die diese Agenten freigeben müssen. Finance Loop behandelt Agenten-Governance im Track Risk & Compliance, und die KI Exchange in Hamburg hatte Agentic Banking im Programm. Anbieter für Governance und Prüfung stellen sich in einem Webinar vor, Fachleute kommen über die Mitgliedschaft dazu.
Finance Loop ist ein Experten-Netzwerk und will neue Technologien im Finanzwesen voranbringen, wie KI, digitale Zahlungen sowie Cloud- und Blockchain-Lösungen. Finance Loop hilft seinen Mitgliedern, Fähigkeiten und persönliche Netzwerke in diesen Feldern aufzubauen: Investment & digitale Vermögenswerte, Payments & digitales Geld, Digitale Infrastruktur & Souveränität und Risk & Compliance.