Zusammenfassung:
Der Versuch der Trump-Regierung, die Sicherheit künstlicher Intelligenz (KI) durch rechtliche Haftung zu gewährleisten, hat die Voraussetzungen für künftige Streitigkeiten darüber geschaffen, wer die Verluste tragen soll, wenn ein KI-Modell außer Kontrolle gerät: die Unternehmen, die diese Systeme entwickeln, oder die Benutzer, die entsprechende Technologien einsetzen.
Der Ansatz, KI-Entwickler dazu zu verpflichten, die finanzielle Verantwortung für die Sicherheit ihrer Produkte zu tragen, wird von US-Finanzminister Scott Bessant und dem ehemaligen KI-Chef des Weißen Hauses, David Sacks, unterstützt. Die beiden argumentieren, dass bestehende Haftungsgesetze wirksamer seien als die Einführung neuer Regulierungsregeln. US-Präsident Donald Trump lehnte zwar neue Regulierungsmaßnahmen zur KI-Sicherheit ab, erklärte jedoch weiter, dass das Justizministerium eingreifen sollte, wenn ein KI-Modell außer Kontrolle gerät.
Als jüngstes Zeichen dafür, dass die Regierung zunehmend bereit ist, bestehende Gesetze zur Lösung von KI-Sicherheitsproblemen zu nutzen, warnte Trumps neu gegründete KI-Arbeitsgruppe Entwicklungsunternehmen am späten Freitag, dass sie Sicherheitsvorfälle melden und beheben müssen, da sie sonst mit Konsequenzen rechnen müssten.
Nachdem Anthropic PBC einen Sicherheitsvorfall offengelegt hatte, gab eine Arbeitsgruppe namens „Super Intelligence Force“ eine Erklärung heraus, in der es hieß: „Unternehmen müssen Vorfälle im Zusammenhang mit ihren Modellen unverzüglich offenlegen und schnell und entschlossen handeln, um etwaige Schäden zu beheben. Verspätete Offenlegungen, unzureichende Korrekturmaßnahmen und die Weigerung, Verantwortung zu übernehmen, werden nicht toleriert.“
Der Ansatz der Trump-Regierung, Rechenschaftspflicht zu einer Säule der KI-Sicherheit zu machen, ist jedoch immer noch mit vielen Unsicherheiten behaftet. Rechtsexperten sagen, dass die bestehenden Cybersicherheits- und Produkthaftungsgesetze möglicherweise nicht ausreichen, um die Rechenschaftspflicht des Bundes für durch KI-Agenten verursachte Schäden zu unterstützen.
Auch wenn das Opfer klar ist, gibt es nur wenige rechtliche Präzedenzfälle, die definieren können, wer für Schäden verantwortlich sein soll, die durch einen außer Kontrolle geratenen KI-Agenten verursacht werden, und welche Sorgfaltspflicht Unternehmen bei der Entwicklung von KI-Tools erfüllen müssen. Erschwerend kommt hinzu, dass das Modellverhalten sowohl vom Entwickler als auch vom Endbenutzer, der das System bereitstellt, beeinflusst wird.
Ben Hayum, ein assoziierter Forscher mit Schwerpunkt auf Technologie und nationaler Sicherheitsforschung am Center for a New American Security, sagte: „Trotz anhaltender Forderungen nach Klarheit in Bezug auf die Verantwortung ist immer noch ungeklärt, ob KI-Unternehmen gesetzlich verpflichtet sind, sicherzustellen, dass Modelle keinen Schaden anrichten, und ob Benutzer die rechtliche Verantwortung für die Anweisungen tragen sollten, die sie Modellen geben.“
Da Unternehmen die Einführung der KI-Technologie beschleunigen, werden Diskussionen über Verantwortung immer dringlicher. Wall-Street-Finanzinstitute, Einzelhändler und Fluggesellschaften setzen KI-Agenten in immer mehr Geschäftsszenarien wie Kundenservice und Rechnungsverarbeitung ein. Der Ausgang dieser Debatte könnte die Popularität von KI und die zukünftigen Pläne von OpenAI und Anthropic, zwei Branchenführern, in den Kapitalmarkt einzusteigen, beeinflussen.
Beim Einsatz von KI-Agenten erläutern Endbenutzer in der Regel nur die Aufgabenziele, spezifizieren jedoch nicht die Ausführungsmethode im Detail. Dies ermöglicht es KI-Agenten, Entscheidungen zu treffen, die vom Benutzer nicht überprüft wurden, oder sogar schädliche Maßnahmen zu ergreifen. In diesem Fall ist noch unklar, ob die Verantwortung beim Entwickler oder beim Nutzer liegen soll.
Das Streben der Trump-Regierung nach Rechenschaftspflicht steht im Einklang mit ihrer allgemeinen Haltung gegenüber einer lockereren KI-Regulierung. Die Entwicklung künstlicher Intelligenz war ein wichtiger Teil von Trumps Wirtschaftsagenda. Nach einem Treffen mit etwa zwei Dutzend Technologieführern aus dem Silicon Valley letzte Woche im Weißen Haus äußerte Trump erneut seine Hoffnung, dass die KI-Industrie hauptsächlich auf Selbstregulierung setzen und gleichzeitig ein nicht rechtsverbindliches Branchenabkommen auf den Weg bringen wird, um Unternehmen zu ermutigen, interne Sicherheitskontrollen zu stärken.
Gleichzeitig zeigte die Erklärung vom Freitag zur obligatorischen Offenlegung der Modellfrage, dass das Weiße Haus bereit ist, dieses neu gebildete KI-Team zur Durchsetzung bestehender Gesetze einzusetzen. Das Team wird vom Direktor des Nationalen Geheimdienstes Jay Clayton geleitet.
Mit dem Auftreten einer Reihe besorgniserregender Sicherheitsvorfälle und der weiten Verbreitung des Artikels von Anthropic-CEO Dario Amodei, der vor den katastrophalen Risiken der KI warnt, wird die Diskussion darüber, wie die Risiken der KI verringert werden können, immer hitziger.
Für Trump und seine Verbündeten soll die Androhung von Klagen Unternehmen wie OpenAI und Anthropic dazu drängen, sicherzustellen, dass ihre Systeme sicher funktionieren. „Der beste Weg, die Sicherheit zu gewährleisten, besteht darin, die Urheber für das, was sie erstellen und generieren, zur Verantwortung zu ziehen“, sagte Bessant letzten Monat bei einer Anhörung im Kongress.
Kommentare