Zusammenfassung:
OpenAI fordert die Vereinigten Staaten nachdrücklich auf, gemeinsam mit anderen Ländern die Führung bei der Entwicklung von Standards für hochmoderne künstliche Intelligenz (KI) zu übernehmen, um auf die wachsende Besorgnis über den möglichen Schaden von KI zu reagieren. OpenAI sagte am Montag in einem Blogbeitrag, dass es zur sicheren Entwicklung künstlicher Intelligenz notwendig sei, internationale technische Standards zu entwickeln, insbesondere um zu definieren, welche Arten von Vorfällen mit KI-Modellen gemeldet werden sollten, um zu klären, wie Länder bei der KI-Entwicklung zusammenarbeiten können, und um den Zugang zu der für die Entwicklung solcher Technologien erforderlichen Rechenleistung zu verbessern.
„Um weitere Fortschritte in der KI sicher und vorteilhaft zu machen, ist es notwendig, eine abgestimmte Forschung voranzutreiben und gemeinsame Standards zu entwickeln, um Leitlinien für die KI-Entwicklung in Labors und Ländern zu bieten“, sagte OpenAI.
OpenAI sagte, sein CEO Sam Altman plane, am Mittwoch vor dem Sicherheitsrat der Vereinten Nationen über KI und internationale Sicherheitsfragen zu sprechen.
USA Finanzminister Bessent sagte am vergangenen Wochenende, die Vereinigten Staaten hätten vorgeschlagen, einen Meldemechanismus einzurichten, um KI-Vorfälle mit Auswirkungen auf die nationale Sicherheit abzudecken.
OpenAI betonte in einem Blogbeitrag, dass Länder zusammenarbeiten sollten, um ergänzende nationale und internationale Standards für die Entwicklung der leistungsfähigsten KI-Modelle zu entwickeln. OpenAI schlägt vor, dass diese Arbeit durch bestehende KI-Sicherheitsbehörden in mehreren Ländern gefördert werden kann, einschließlich des Center for AI Standards and Innovation (CAISI) des US-Handelsministeriums, das beim Testen von KI-Modellen und der Entwicklung relevanter Richtlinien hilft.
OpenAI forderte außerdem die Entwicklung von Standards, um der zunehmenden Fähigkeit der KI, autonom zu arbeiten, gerecht zu werden, und stellte fest, dass eine „völlig autonome“ rekursive Selbstverbesserung – bei der die KI letztendlich in der Lage ist, ihren eigenen Code zu ändern oder ihre Fähigkeiten ohne jegliches menschliches Eingreifen zu verbessern – nicht angestrebt werden sollte, „es sei denn, die Sicherheit kann gewährleistet werden“.
Kommentare