Zusammenfassung:
„Die eigentliche Frage ist: Wenn Sie der Meinung sind, dass Sie langsamer fahren sollten, laufen Sie nicht mit hoher Geschwindigkeit und warten Sie nicht, bis äußere Kräfte Sie zum Anhalten zwingen.“ Dies sagte der stellvertretende Vorsitzende und Präsident von Microsoft, Brad Smith, zu Alan Murray während der Generalversammlung der Vereinten Nationen. Das von ihm besprochene Thema lautete: Sollten hochmoderne Großmodellhersteller auf das Bremspedal treten, um sicherzustellen, dass die von ihnen entwickelte Technologie der Menschheit keine Katastrophe bringt.
Am selben Tag, an dem er diese Bemerkungen machte, sprachen Dario Amodei, CEO von Anthropic, und Sam Altman, CEO von OpenAI, vor den Vereinten Nationen und forderten die Länder auf, KI-Sicherheitsschutzmechanismen einzurichten, um die Entwicklung von KI außerhalb der menschlichen Kontrollmöglichkeiten zu verhindern.
Smith, der über langjährige Branchenerfahrung verfügt, sagte: „Wenn Sie als CEO eines Unternehmens der Meinung sind, dass Ihr Produkt Sicherheitsrisiken birgt, sollten Sie es dann weiterhin vermarkten? Ich denke, die Antwort liegt auf der Hand: Nein. Unternehmen tragen Verantwortung für die öffentliche Sicherheit.“
Dennoch fügte er hinzu: „Die Einführung bestimmter Regulierungsmaßnahmen wird irgendwann unumgänglich sein.“ In der Vergangenheit waren viele Produkte auf Regulierung angewiesen, um eine sichere Implementierung zu erreichen. Früher gab es beispielsweise Probleme mit Milchverunreinigungen, „also haben wir eine Landwirtschaftskontrollabteilung eingerichtet und entsprechende Gesetze erlassen. Wenn man jetzt in den Supermarkt geht, sind alle Milchsorten sicher und trinkbar.“
Als Smith vorschlug, dass es die Möglichkeit geben sollte, „das KI-System direkt zu verlangsamen oder herunterzufahren“, bestätigte Moderator Allen, dass er über den Notausschalter der KI (Kill-Switch) sprach, und fragte dann: „Halten Sie das für eine gute Idee?“
Smith antwortete: „Natürlich. … Der Modellentwickler sollte die Befugnis haben, es abzuschalten; Cloud-Infrastrukturanbieter wie Microsoft sollten diese Befugnis haben; und die für die Kontrolle des KI-Agenten zuständige Behörde sollte auch die Möglichkeit haben, ihn abzuschalten. Selbst wenn dieser Mechanismus gesetzlich vorgeschrieben wäre, wäre das keine schlechte Sache.“
Alan fragte ihn, wie Unternehmensmanager mit KI-Sicherheitsproblemen in ihren Unternehmen umgehen sollten. „Mein Punkt ist, hören Sie nicht auf, KI zu verwenden. KI ist eine grundlegende Innovation und ein wichtiges Werkzeug zur Verbesserung der Produktivität. Aber es ist wichtig, sich daran zu erinnern, dass Technologie Governance erfordert. ... Die Governance dieser Technologie ist genauso wichtig wie die Technologie selbst.“
Er erinnerte auch daran: „Ich wache nicht jeden Tag auf und habe das Gefühl, dass die Wahrscheinlichkeit des Aussterbens der Menschheit bei 10 % liegt. Aber mir wäre es lieber, wenn wir uns zu viele Sorgen machen, als zu wenig zu tun. Schließlich geht es bei uns um das Überleben der Menschheit. Um Gottes Willen, diese Angelegenheit ist wichtiger als die neueste Technologie, und wir müssen sie ernst nehmen.“
Kommentare