In einem aktuellen Interview warnte der Vorsitzende der US-Börsenaufsicht SEC (Securities and Exchange Commission, SEC), Gary Gensler, erneut vor den Risiken, die künstliche Intelligenz (KI) für die Finanzmärkte mit sich bringt. Obwohl in der Branche seit vielen Jahren unterschiedliche Versionen der KI-Technologie eingesetzt und verschiedene Maßnahmen zur Betrugsprävention und Compliance eingesetzt werden, kann künstliche Intelligenz immer noch Risiken für die Entscheidungsfindung von Anlegern darstellen.
„Auf der Mikroebene denke ich, dass Sie völlig Recht haben: Der Einsatz von KI zum Abschluss von Krediten, Versicherungen usw. kann zu Voreingenommenheit führen“, sagte Gensler.
Er erklärte, dass beispielsweise ein Robo-Advisor oder Broker-Dealer sorgfältig programmiert werden muss, um die besten Interessen des Kunden und nicht des Beraters zu optimieren.
Gleichzeitig sagte Gensler, dass es auch systemische Risiken gebe und dass sowohl für Finanzunternehmen als auch für Investoren Risiken bestehen könnten, die dieselben Tools der künstlichen Intelligenz nutzen. Dies kann zu einem „Herdeneffekt“ auf dem Markt führen, der auftritt, wenn Gruppen oder Institutionen alle dasselbe tun oder sich auf dieselben Instrumente verlassen, anstatt unabhängig zu handeln.
„Die natürliche Wirtschaft wird zu einer Monokultur führen, es wird einen Basisdatensatz oder ein Basismodell geben, und große Teile des Finanzsektors werden sich darauf verlassen … um auf dieser Grundlage Handel und Underwriting zu betreiben“, sagte Gensler. „Die FICO-Wertung war jahrzehntelang monokulturell, das ist also nichts Ungewöhnliches oder Neues.“
Der FICO-Kredit-Score ist eine Methode zur Quantifizierung und Beurteilung der Kreditwürdigkeit einer Person. In den Vereinigten Staaten werden FICO-Scores bei 90 % der Entscheidungen über Hypothekendarlehensanträge verwendet. Die Werte reichen von 300 bis 850, wobei Werte im Bereich von 670 bis 739 als „gute“ Kreditwürdigkeit gelten.
Gensler warnte davor, dass diejenigen, die sich auf voreingenommene und fehlerhafte KI-Modelle verlassen, „finanzielle Instabilität erleiden könnten, wenn sie einen großen Teil des Marktes von einem einzigen Datensatz abhängig machen … Herding könnte uns unbeabsichtigt in die Tiefe stürzen.“
Tatsächlich warnte Gensler Anfang des Jahres, dass Unternehmen sich auf einige wenige dominante KI-Modelle verlassen würden, was letztendlich die Wahrscheinlichkeit einer Krise erhöhen würde.