Das britische AI ​​Security Research Institute ist zu einem politischen Modell geworden, und die Länder haben begonnen, das große Modell zu testen.

Die New York Times berichtete, dass Forscher des British AI Security Institute (AISI, ehemals AI Safety Institute) modernste KI-Modelle testen werden, um Sicherheitslücken und Risikogrenzen zu finden, und dieser Ansatz wird von anderen Regierungen kopiert.

In den letzten Jahren blieb die KI-Regulierung oft bei den Worten Transparenz, Verantwortung, Grundsätze, Risikomanagement und freiwillige Selbstverpflichtungen stehen. Nun ist die Frage konkreter: Wird ein Modell Hackern helfen, bevor es veröffentlicht wird? Wird die Schwelle für die Herstellung gefährlicher Stoffe gesenkt? Werden Sicherheitsbeschränkungen in kritischen Szenarien umgangen?

Diese Frage können Unternehmen nicht alleine beantworten. Unternehmen können Red-Team-Tests durchführen und Sicherheitsberichte veröffentlichen, aber wenn die Regierung nicht über eigene Bewertungsmöglichkeiten verfügt, kann sie nur zwischen Pressekonferenzen, Papieren und Unternehmensverpflichtungen urteilen. Der Wert des britischen AI Security Research Institute liegt in der Einbeziehung der Regierung in den Testprozess.

Dieses Modell hat begonnen, sich auf die internationale Zusammenarbeit auszudehnen. Die britische Regierung gab am 25. Mai bekannt, dass das britische AI ​​Security Institute mit dem australischen AI Security Institute zusammenarbeiten wird, um hochmoderne KI-Risiken zu verfolgen, einschließlich der Frage, wie KI-Systeme für Cyberangriffe eingesetzt werden und wie sie zur Stärkung der Abwehr eingesetzt werden können. In der Ankündigung wurde auch erwähnt, dass die beiden Parteien Erkenntnisse über KI-Fähigkeiten austauschen, Untersuchungen zu neu auftretenden Risiken durchführen und internationale Best Practices für KI-Tests und -Bewertungen fördern werden.

Auch die USA gehen in eine ähnliche Richtung. Das Center for AI Standards and Innovation (CAISI) des US-Handelsministeriums hat kürzlich eine Vereinbarung mit Google DeepMind, Microsoft und xAI getroffen, um nationale sicherheitsbezogene Bewertungen durchzuführen, bevor das Modell öffentlich veröffentlicht wird. Microsoft kündigte außerdem gleichzeitig die Aufnahme einer Zusammenarbeit mit der US-amerikanischen CAISI und der britischen AISI an, um hochmoderne Modelle zu testen, den Sicherheitsschutz zu bewerten und die nationale Sicherheit und große Risiken für die öffentliche Sicherheit zu verringern.

Dies bedeutet, dass sich Spitzenunternehmen in Zukunft nicht nur einem Marktwettbewerb gegenübersehen müssen, sondern auch einem Prozess, der immer mehr einer „Pre-Release-Sicherheitsbewertung“ ähnelt. In solchen Kooperationsrahmen wie dem Vereinigten Königreich und den Vereinigten Staaten ist es umso wahrscheinlicher, dass Unternehmen den staatlichen Testbehörden mehr Materialien und Zugangsrechte zur Verfügung stellen müssen, je stärker die Modellfähigkeiten sind. Wenn sich öffentliche Beschaffung, Unternehmensbeschaffung oder grenzüberschreitende Compliance für Startups in Zukunft stärker auf diese Art der Bewertung beziehen, werden Sicherheitstestfunktionen Teil des Produktwettbewerbs.

Künftig wird die KI-Aufsicht nicht mehr nur fragen: „Hat das Unternehmen eine Sicherheitsverpflichtung geschrieben?“ aber ich werde anfangen zu fragen: „Hat es tatsächlich jemand getestet?“ Das ist problematischer als eine Grundsatzerklärung und näher an der Realität.