Zusammenfassung:
Am 29. September kündigte Trump ein vom Weißen Haus gefördertes Branchenabkommen für künstliche Intelligenz an. Dieses Dokument wurde zuvor von Trump und Führungskräften einer Reihe großer Technologieunternehmen unterzeichnet und wird von Trump als „moralisch verbindliche“ Verpflichtung der Branche bezeichnet.
Diese einseitige Vereinbarung wurde von Trump über seine soziale Plattform Truth Social öffentlich veröffentlicht. Das Dokument fordert die teilnehmenden Unternehmen auf, einen vierstufigen Sicherheitskontroll- und Prüfmechanismus einzurichten, um die Überwachung und das Risikomanagement fortschrittlicher Systeme der künstlichen Intelligenz zu stärken.
Gemäß den Anforderungen der Vereinbarung sollten Unternehmen zunächst ein vollständiges internes Kontrollsystem einrichten, um die Fähigkeiten und Ausrichtung von Modellen der künstlichen Intelligenz während der Schulung und des Einsatzes kontinuierlich zu überwachen und sich dabei auf Bereiche wie Cybersicherheit, Biosicherheit und chemische Risiken zu konzentrieren, um sicherzustellen, dass Modelle nicht auf unerwartete Weise in Systeme eindringen oder Zugang zu technischen Einrichtungen erhalten.
Die Vereinbarung verpflichtet Unternehmen außerdem dazu, ein spezielles internes Team einzurichten, das den Betrieb relevanter Kontroll-, Überwachungs- und Erkennungsmechanismen überwacht, sicherstellt, dass verschiedene Sicherheitsmaßnahmen im Einklang mit den Designzielen funktionieren können, und potenzielle Probleme rechtzeitig erkennt und löst.
Im Hinblick auf die externe Aufsicht empfiehlt das Dokument, dass Unternehmen mit unabhängigen Prüfinstituten oder Bewertungsagenturen zusammenarbeiten, um unabhängige Bewertungen der Kontroll- und Überwachungssysteme für künstliche Intelligenz des Unternehmens durchzuführen und zu überprüfen, ob diese Sicherheitsmechanismen tatsächlich die erwarteten Ergebnisse erzielen.
Darüber hinaus sieht die Vereinbarung auch die Einrichtung eines unabhängigen Ausschusses auf Vorstandsebene des Unternehmens vor. Das Komitee ist dafür verantwortlich, Berichte von internen Teams und externen Prüfinstitutionen entgegenzunehmen, die Sicherheits-Governance für künstliche Intelligenz des Unternehmens zu überwachen und die Umsetzung von Verbesserungsmaßnahmen auf der Grundlage der entdeckten Probleme zu fördern.
Zu den an der Unterzeichnung der Vereinbarung beteiligten Unternehmen gehören wichtige Teilnehmer der US-amerikanischen Branche der künstlichen Intelligenz wie Google, Anthropic, Meta, OpenAI, X Platform und NVIDIA. Trump selbst hat das Dokument als Präsident unterzeichnet.
Die Vereinbarung weist darauf hin, dass es im Zuge der Weiterentwicklung der Branche möglicherweise erforderlich sein wird, diese Praktiken in Zukunft in gesetzliche oder behördliche Anforderungen zu formalisieren. Doch unabhängig davon, ob die Regierung letztendlich verbindliche Anforderungen einführt, sind die teilnehmenden Unternehmen davon überzeugt, dass die Implementierung dieser Kontroll- und Prüfmechanismen für die sichere Entwicklung künstlicher Intelligenz von entscheidender Bedeutung ist, und versprechen daher, entsprechende Maßnahmen proaktiv voranzutreiben.
Das Dokument schlägt außerdem vor, dass teilnehmende Unternehmen regelmäßige Treffen abhalten, um gemeinsam Industriestandards und Best Practices zu formulieren, um die Sicherheit von Systemen der künstlichen Intelligenz weiter zu verbessern.
Zuvor hatte Trump im Weißen Haus Gespräche mit einer Reihe von führenden Vertretern der Technologiebranche geführt. Zu den Teilnehmern gehörten unter anderem OpenAI-Mitbegründer Greg Brockman, Anthropic-CEO Dario Amodei, Meta-CEO Mark Zuckerberg, Google-CEO Sundar Pichai und Nvidia-CEO Jensen Huang.
Nach dem Treffen sagte Trump, dass dieses Abkommen „in gewissem Sinne wie eine Verfassung“ sei und nannte es einen wichtigen Schutzmechanismus für die Industrie der künstlichen Intelligenz. Er betonte, dass die Branche über starke Fähigkeiten zur Selbstregulierung verfüge und glaubte, dass die Initiative der Unternehmen zur Einführung von Sicherheitsvorschriften von großer Bedeutung für die nachhaltige Entwicklung der Technologie sei.
Der Hintergrund dieser Vereinbarung ist, dass mit der raschen Verbesserung der Fähigkeiten der künstlichen Intelligenz den damit verbundenen Sicherheitsrisiken immer mehr Aufmerksamkeit geschenkt wird. Zuvor hatten Unternehmen wie OpenAI und Anthropic offengelegt, dass sich einige KI-Agentensysteme über die Erwartungen hinaus verhielten, was Diskussionen über Modellsicherheit und Steuerbarkeit auslöste. Gleichzeitig sorgen die Probleme des Energieverbrauchs und der Auswirkungen auf die Gemeinschaft, die durch den Bau großer Rechenzentren entstehen, in vielen Regionen der Vereinigten Staaten für Kontroversen.
Obwohl sich die Trump-Regierung zuvor gegen die Einführung zu strenger Sondervorschriften für künstliche Intelligenz ausgesprochen hat, wird dieser Vorstoß der Industrie zur Unterzeichnung einer freiwilligen Sicherheitsvereinbarung als eine neue Maßnahme der US-Regierung angesehen, um ein Gleichgewicht zwischen der Förderung technologischer Innovationen und der Reaktion auf Sicherheitsbedenken zu finden.
Kommentare