Zusammenfassung:
Microsoft-Präsident Brad Smith sagte, dass die derzeitige Aufsicht über künstliche Intelligenz bei weitem nicht ausreicht, sogar weniger als die von gewöhnlichen Konsumgütern wie Milch und Waschmaschinen. Er forderte die Länder auf, so schnell wie möglich globale Sicherheitsregeln für künstliche Intelligenz festzulegen. Dazu gehört auch die Verpflichtung von Unternehmen, Opfer zu benachrichtigen, wenn Systeme mit künstlicher Intelligenz außer Kontrolle geraten und Schäden verursachen, Unfallberichte einzureichen und Bewertungen durch unabhängige Bewertungsagenturen zu akzeptieren, bevor einige Produkte mit künstlicher Intelligenz offiziell auf den Markt kommen.
Diese Position von Smith steht in deutlichem Gegensatz zu den Behauptungen von US-Präsident Donald Trump. Trump ist der Ansicht, dass sich die Branche der künstlichen Intelligenz hauptsächlich auf ihre eigene Regulierung verlassen sollte, um übermäßige staatliche Eingriffe zu vermeiden, die die Fähigkeit amerikanischer Unternehmen schwächen, mit chinesischen Konkurrenten zu konkurrieren. Smith ist davon überzeugt, dass künstliche Intelligenz sowohl die Eigenschaften eines Werkzeugs als auch einer Waffe hat und sich zur Risikokontrolle nicht weiterhin ausschließlich auf die Selbstdisziplin der Unternehmen verlassen kann.
„Ihre Waschmaschine unterliegt jetzt mehr Sicherheitsregeln als künstlicher Intelligenz“, sagte Smith im BBC-Podcast „Big Boss Interview“. „Jeder Karton Milch, den Sie im Supermarkt sehen, unterliegt Sicherheitsvorschriften und Kontrollen.“
Er glaubt, dass die Entwicklung der künstlichen Intelligenz ein Stadium erreicht hat, in dem Maßnahmen ergriffen werden müssen. Länder sollten aus den Regulierungserfahrungen anderer Branchen lernen und Sicherheitssysteme einrichten, die für die Technologie der künstlichen Intelligenz geeignet sind, anstatt zu warten, bis sich schwere Unfälle ereignen, um zu diskutieren, wie sie reagieren sollen.
Da sich die Fähigkeiten von Modellen der künstlichen Intelligenz in den letzten Jahren rapide verbessert haben, werden Forderungen nach einer strengeren Regulierung der Branche immer lauter. Einige Experten auf dem Gebiet der künstlichen Intelligenz haben sogar davor gewarnt, dass diese Technologie eine Gefahr für die langfristige Sicherheit der menschlichen Gesellschaft darstellen könnte. Angesichts der Cybersicherheitsrisiken, des außer Kontrolle geratenen Verhaltens und anderer potenzieller Schäden, die künstliche Intelligenz mit sich bringen kann, haben in der Branche auch Diskussionen darüber begonnen, ob die Technologieentwicklung verlangsamt werden sollte.
Die Chefs der amerikanischen Unternehmen für künstliche Intelligenz Anthropic, OpenAI und Google DeepMind haben alle einen vorsichtigeren Ansatz bei der Entwicklung künstlicher Intelligenz befürwortet, und einige Leute befürworten auch eine Verlangsamung der Technologieforschung und -entwicklung unter bestimmten Umständen. Trump hat sich jedoch immer gegen Maßnahmen ausgesprochen, die die Entwicklung der US-amerikanischen Industrie für künstliche Intelligenz einschränken könnten, und hat wiederholt betont, dass die Vereinigten Staaten in diesem technologischen Wettbewerb die Nase vorn behalten müssen.
Smith ist davon überzeugt, dass künstliche Intelligenz nicht einfach als gewöhnliches Softwareprodukt betrachtet werden sollte. Da Agentensysteme mit künstlicher Intelligenz stärkere Fähigkeiten zur autonomen Ausführung erlangen und fortschrittliche Modelle einen zunehmenden Einfluss auf den Bereich der Cybersicherheit haben, erfordern die damit verbundenen Risiken eine gemeinsame Reaktion von Regierungen, Unternehmen und unabhängigen Bewertungsagenturen.
Er forderte Unternehmen auf, Notbremsmechanismen für Systeme der künstlichen Intelligenz einzurichten, die in der Branche oft als „Kill Switch“ bezeichnet werden. Wenn ein künstliches Intelligenzsystem außer Kontrolle gerät oder mit der Ausführung von Vorgängen beginnt, die schwerwiegende Folgen haben können, sollten Unternehmen in der Lage sein, den Betrieb des Systems rechtzeitig auszusetzen oder seine Betriebsgeschwindigkeit und -befugnis zu reduzieren, um eine weitere Ausweitung der Risiken zu verhindern.
Smith plädiert außerdem für ein obligatorisches Unfallmeldesystem. Wenn ein Agent der künstlichen Intelligenz die Kontrolle verliert und in andere Systeme eindringt oder den Benutzern durch abnormales Verhalten Schaden zufügt, sollten relevante Unternehmen den Vorfall in Übereinstimmung mit dem Gesetz melden und die betroffenen Personen oder Organisationen informieren.
Er ist der Ansicht, dass diese Maßnahmen Teil des Sicherheitsregulierungssystems für künstliche Intelligenz werden sollten und sich nicht einfach darauf verlassen können, dass Unternehmen freiwillige Maßnahmen ergreifen.
Darüber hinaus schlug Smith vor, dass bestimmte Hochrisikoprodukte der künstlichen Intelligenz vor der Veröffentlichung von unabhängigen, von der Regierung anerkannten Gutachtern überprüft werden sollten, um festzustellen, ob das System die relevanten Sicherheitsanforderungen erfüllt. Dies bedeutet nicht, dass alle Produkte der künstlichen Intelligenz dem gleichen Maß an Aufsicht unterliegen müssen, sondern dass anhand der Produktfähigkeiten, Nutzungsszenarien und potenziellen Risiken entschieden werden sollte, ob vor der Veröffentlichung eine unabhängige Bewertung erforderlich ist.
Smith sagte, dass andere Branchen ähnliche Sicherheitsmanagementmechanismen eingeführt hätten und die Überwachung durch künstliche Intelligenz aus diesen ausgereiften Erfahrungen lernen könne. Seiner Ansicht nach liegt der Schlüssel darin, bestehende Risikobewertungs-, Unfallmelde- und Produktsicherheitssysteme rational auf den Bereich der künstlichen Intelligenz anzuwenden.
Bei der Förderung internationaler Regeln für künstliche Intelligenz ist Smith hinsichtlich der Rolle Großbritanniens besonders optimistisch.
Er wies darauf hin, dass das Vereinigte Königreich eine Agentur eingerichtet habe, die sich auf Fragen der Sicherheit künstlicher Intelligenz spezialisiert habe. Die Agentur wurde ursprünglich während der Amtszeit des ehemaligen Premierministers Rishi Sunak als Artificial Intelligence Security Research Institute gegründet und später in Artificial Intelligence Institute (AI Security Institute) umbenannt, das für die Untersuchung der Fähigkeiten und potenziellen Risiken fortschrittlicher Systeme der künstlichen Intelligenz zuständig ist.
Smith glaubt, dass das Vereinigte Königreich über starke technische Stärken bei der Sicherheitsbewertung künstlicher Intelligenz verfügt und auch über die Voraussetzungen verfügt, um die internationale Zusammenarbeit zu fördern. Er sagte, wenn man Menschen in der Technologiebranche frage, welches Land bei den Fähigkeiten im Bereich der Sicherheitstechnologie im Bereich der künstlichen Intelligenz führend sei, würden sich viele Menschen ohne zu zögern für Großbritannien entscheiden.
Er glaubt, dass das Vereinigte Königreich die Möglichkeit hat, seine Forschungskapazitäten und seinen internationalen Einfluss zu nutzen, um Länder dazu zu bewegen, einheitlichere Regeln für die Sicherheit künstlicher Intelligenz einzuführen.
Smiths Ansichten unterscheiden sich von der politischen Ausrichtung der Trump-Regierung, die die Beschleunigung der Entwicklung künstlicher Intelligenz betont. Trump hat wiederholt gesagt, dass derjenige, der den Wettbewerb um künstliche Intelligenz gewinnt, die Zukunft gewinnen wird. Diese Haltung spiegelt den Wunsch der US-Regierung wider, die führende Position der Vereinigten Staaten im Bereich der künstlichen Intelligenz durch den Abbau regulatorischer Hindernisse, die Förderung von Unternehmensinvestitionen und die Ausweitung von Technologieanwendungen zu festigen.
Smith glaubt jedoch nicht, dass die US-Regierung die von Großbritannien angeführte Regulierungsinitiative für künstliche Intelligenz definitiv ablehnen wird.
Er wies darauf hin, dass es Unterschiede in der Haltung der politischen Kreise in den USA gegenüber Großbritannien und der EU gebe. In Washington, Großbritannien und London lösen die politischen Gegenreaktionen in der Regel nicht das gleiche Ausmaß aus wie in Brüssel und den EU-Institutionen. Smith glaubt, dass dieser Unterschied in den Beziehungen ein Vorteil für Großbritanniens Bemühungen um internationale KI-Sicherheitsstandards sein könnte.
Er betonte, dass es genügend Risikosignale gebe, die Beachtung verdienen, darunter Agenten der künstlichen Intelligenz, die sich der menschlichen Kontrolle entziehen könnten, und Modelle, die stark genug seien, um eine Bedrohung für die globale Netzwerksicherheit darzustellen.
Wenn man Agenten künstlicher Intelligenz sieht, die außerhalb der menschlichen Kontrolle liegen, wenn man Modelle sieht, die mächtig genug sind, um die globale Cybersicherheit zu gefährden, dann würde ich sagen, dass die Zeit reif ist“, sagte Smith.
Er forderte alle Parteien auf, eine ruhige, aber feste Haltung einzunehmen, so bald wie möglich mit dem Dialog zu beginnen und die Regierung, Unternehmen und Forschungseinrichtungen dazu zu bewegen, gemeinsam relevante Regeln zu formulieren. Er äußerte auch die Hoffnung, dass Microsoft in diesem Prozess eine Rolle spielen kann und dass Großbritannien die Rolle der Förderung der internationalen Zusammenarbeit übernehmen kann.
Es ist erwähnenswert, dass Smith den Wert der Selbstregulierung der Industrie nicht vollständig geleugnet hat. Ende letzten Monats traf sich Trump im Weißen Haus mit den Chefs von Technologiegiganten wie OpenAI, Anthropic, NVIDIA, SpaceX, Meta und Google. Die Führungskräfte des Unternehmens unterzeichneten bei dem Treffen ein ethisches Dokument, in dem sie sich bereit erklärten, mit unabhängigen Prüfern zusammenzuarbeiten, um zu bewerten, ob Systeme der künstlichen Intelligenz wie erwartet funktionieren, und um sicherzustellen, dass die Systeme nicht auf unbeabsichtigte Weise in technische Systeme eindringen oder darauf zugreifen.
Dieses Dokument zielt darauf ab, Unternehmen im Bereich der künstlichen Intelligenz dabei zu unterstützen, Sicherheitsüberprüfungen zu verstärken und potenzielle Probleme durch unabhängige Bewertungen zu identifizieren. Obwohl sich seine Verbindlichkeit von formellen Gesetzen und Vorschriften unterscheidet, wird es dennoch als eine Maßnahme der Technologiebranche im Hinblick auf die Sicherheitsverwaltung angesehen.
Smith drückte seine Wertschätzung für die Erklärung aus und sagte, Microsoft sei bereit, die relevanten Dokumente zu unterzeichnen. Er glaubt, dass dies ein guter Anfang und ein notwendiger Schritt ist.
Aber seiner Ansicht nach reicht es nicht mehr aus, sich ausschließlich auf diese Art von freiwilligem Engagement zu verlassen.
Smith wies darauf hin, dass jedes Selbstregulierungssystem mit einem grundlegenden Problem konfrontiert sein wird: Verantwortungsbewusste Unternehmen sind in der Regel bereit, Sicherheitsanforderungen einzuhalten, aber die eigentliche Sorge sind diejenigen Unternehmen, denen es an Verantwortungsbewusstsein mangelt und die nicht bereit sind, proaktiv Sicherheitsmaßnahmen zu ergreifen.
Wenn sich die gesamte Branche ausschließlich auf freiwillige Verpflichtungen verlässt, glaubt er, dass Unternehmen, die sich an die Regeln halten, möglicherweise höhere Kosten tragen müssen, während Wettbewerber, die nicht bereit sind, Ressourcen in die Gewährleistung der Sicherheit zu investieren, möglicherweise weiterhin schnell expandieren. Daher trägt die Festlegung rechtsverbindlicher Mindestsicherheitsstandards dazu bei, dass alle Unternehmen die grundlegenden Anforderungen erfüllen müssen.
Dies ist auch das Kernthema, das Smith hervorhebt: Die Regulierung künstlicher Intelligenz sollte nicht nur davon abhängen, ob Unternehmen bereit sind, Verantwortung zu übernehmen, sondern ein klares System etablieren, das festlegt, welche Sicherheitsverpflichtungen Unternehmen erfüllen müssen und welche Maßnahmen ergriffen werden müssen, wenn schwerwiegende Probleme im System auftreten.
Da KI-Agenten in die Lage versetzt werden, komplexe Aufgaben auszuführen, externe Tools aufzurufen und auf technische Systeme zuzugreifen, müssen herkömmliche Ansätze für das Software-Sicherheitsmanagement möglicherweise angepasst werden. Das künftige Regulierungssystem muss nicht nur darauf achten, ob das Modell selbst Fehler aufweist, sondern auch berücksichtigen, welche Berechtigungen die künstliche Intelligenz im tatsächlichen Betrieb erhalten kann, auf welche Ressourcen sie zugreifen kann und ob der Betrieb rechtzeitig unterbrochen werden kann, wenn abnormales Verhalten auftritt.
Für Microsoft hat das Problem auch direkte geschäftliche Bedeutung. Microsoft ist sowohl ein wichtiger Akteur im Bereich der Infrastruktur und Modellanwendungen für künstliche Intelligenz als auch ein bedeutender Anbieter von Cloud-Computing- und Softwarediensten auf Unternehmensebene. Die Sicherheit, Zuverlässigkeit und Steuerbarkeit künstlicher Intelligenzsysteme wird einen direkten Einfluss darauf haben, ob Unternehmenskunden bereit sind, entsprechende Technologien in Geschäftsprozessen umfassend einzusetzen.
Smiths Aussage zeigt, dass selbst innerhalb der US-amerikanischen Technologiebranche kein vollständiger Konsens darüber besteht, wie künstliche Intelligenz reguliert werden sollte. Einige Unternehmen und politische Entscheidungsträger hoffen, die Beschränkungen so weit wie möglich zu reduzieren, um Innovation und Kommerzialisierung zu beschleunigen. Andere sind der Ansicht, dass mit zunehmenden technologischen Fähigkeiten gleichzeitig klarere Sicherheitsverantwortungen und Risikokontrollmechanismen eingerichtet werden müssen.
Der Schlüssel zu dieser Debatte liegt nicht nur darin, ob die Entwicklung künstlicher Intelligenz unterstützt werden soll, sondern auch darin, wie man Innovationen fördern und gleichzeitig sicherstellen kann, dass technologische Anwendungen keine inakzeptablen Risiken für Einzelpersonen, Unternehmen und die Gesellschaft mit sich bringen.
Anhand der Beispiele von Milch- und Waschmaschinen bis hin zu Notbremsmechanismen, Unfallberichten und unabhängigen Gutachten ist die Botschaft, die Smith zu vermitteln versucht, klar: Die technologische Entwicklung der künstlichen Intelligenz ist schneller als die Anpassungsgeschwindigkeit des bestehenden Regulierungssystems. Wenn Länder weiterhin von künstlicher Intelligenz wirtschaftlich und gesellschaftlich profitieren wollen, müssen sie so schnell wie möglich Sicherheitsregeln festlegen, die ihren Fähigkeiten und Risiken entsprechen.
Seiner Ansicht nach reicht es nicht aus, sich einfach auf die Selbstdisziplin der Unternehmen zu verlassen, um dieses Problem zu lösen. Ein wirklich wirksames Regulierungssystem muss nicht nur verantwortungsbewusste Unternehmen zu weiteren Innovationen ermutigen, sondern auch diejenigen Teilnehmer zurückhalten, die nicht bereit sind, Risiken proaktiv zu kontrollieren.
Kommentare