Zusammenfassung:
Schwergewichte der Branche der künstlichen Intelligenz (KI) haben sich in Schottland versammelt, wo der König sie aufgefordert hat, sicherzustellen, dass sie nicht die Kontrolle über die Technologie verlieren. König Karl III. berief ein Gipfeltreffen mit führenden Vertretern der Technologiebranche und anderen einflussreichen Persönlichkeiten ein, um sich auf die wachsenden Risiken der KI zu konzentrieren. Das Thema ist diese Woche zu einem globalen Fokus geworden. Die bei dem Treffen anwesenden Führungskräfte verpflichteten sich nicht öffentlich zu irgendwelchen Änderungen, einige reagierten jedoch direkt auf Sicherheitsbedenken.
„Diejenigen von uns, die KI entwickeln, müssen Systeme rigoros testen“, sagte Nvidia-CEO Jensen Huang kurz bei der königlichen Veranstaltung am Donnerstag. „Wenn das Produkt nicht sicher genug ist, sollten wir mit der Freigabe warten.“
Mit Jen-Hsun Huang nahmen auch Sarah Friar, Finanzchefin von OpenAI, und Demis Hassabis, Mitbegründerin von Google DeepMind, am schottischen Gipfel teil. Tino Cuéllar, Direktor für öffentliche Angelegenheiten bei Anthropic PBC, nahm ebenfalls am KI-Forum im Dumfries Estate teil. Zu den weiteren Teilnehmern gehörten Leiter von Technologieunternehmen, gemeinnützigen Organisationen und Bildungseinrichtungen, darunter die Tsinghua-Universität.
„Diejenigen von uns auf dieser Welt, die die Menschheit und ihre lebenswichtigen moralischen Werte wertschätzen, suchen sehnsüchtig nach Ihrer Zusicherung – Zusicherung, dass wir die Kontrolle über unser eigenes Schicksal nicht verlieren werden“, sagte Karl III. in seiner Eröffnungsrede. Der Buckingham Palace sagte in einer Erklärung, dass die Veranstaltung darauf abzielte, zu diskutieren, wie die Technologie zum Nutzen der Gesellschaft und der Natur genutzt werden könnte.
Britischer König Charles III (links), Google DeepMind (Mitte) und Nvidia-CEO Jensen Huang am 17. September im Dumfries Estate in Cumnock, Schottland.
Dieser Gipfel kommt zum richtigen Zeitpunkt. Anthropic-CEO Dario Amodei veröffentlichte am vergangenen Wochenende einen Artikel, in dem er dazu aufrief, die Entwicklung modernster Modelle zu verlangsamen, was eine weltweite Diskussion über die steigenden Risiken von KI auslöste.
„In letzter Zeit gab es viele hitzige Debatten über die katastrophalen Risiken dieser Technologie“, sagte Hassabis auf dem Gipfel. Der britische Wissenschaftler ist kürzlich von seiner Funktion als Leiter des KI-Geschäfts von Google zurückgetreten. Er sagte, er habe zwei Hauptsorgen hinsichtlich leistungsstarker KI: Zum einen sei das autonome System außer Kontrolle geraten, zum anderen würden „böswillige Akteure“ KI nutzen, um Böses zu tun. Er glaubt jedoch, dass die Industrie diese Probleme lösen kann. „Ich habe volles Vertrauen in den menschlichen Einfallsreichtum“, sagte er.
Karl III. warf auf dem Gipfel zwei Schlüsselfragen auf: „Erstens: Wie können wir die Vorteile der KI voll ausschöpfen und gleichzeitig die Sicherheit gewährleisten? Zweitens: Wie bauen wir internationale Zusammenarbeit und Konsens auf, um dieses Ziel zu erreichen, sicherzustellen, dass kein Land zurückgelassen wird, und wie schützen wir die Zukunft der Menschheit?
Laut dem bei der Veranstaltung verteilten Zeitplan führte Karl III. während des Gipfels auch Gespräche hinter verschlossenen Türen mit Huang Jen-Hsun, Hassabis, Cuéllar, Friar und fünf weiteren Gästen.
Kommentare