Microsoft versucht, eine Reihe neuer Open-Source-Standards zu nutzen, um Unternehmen dabei zu helfen, immer leistungsfähigere KI-Agenten kontrollierter in verschiedenen Systemen und Anwendungen einzusetzen. Diese Reihe von Standards, die „Agent Control Specification“ (kurz ACS) genannt wird, zielt darauf ab, Entwicklern eine konsistentere und differenziertere Möglichkeit zu bieten, einzuschränken, was KI-Agenten tun können und was nicht und wann menschliches Eingreifen erforderlich ist.
Da Unternehmen die Einbettung von KI-Agenten in verschiedene Anwendungen, Arbeitsabläufe und Produkte beschleunigen, besteht ein wichtiges Dilemma darin, sicherzustellen, dass sich derselbe Agent immer wie erwartet und konform verhält, wenn er in verschiedenen Umgebungen ausgeführt wird. Gegenwärtig bauen Entwickler Kontrollmechanismen häufig auf „zusammengefügte“ Weise auf, indem sie Systemaufforderungswörter verwenden, benutzerdefinierte Überprüfungen zu Anwendungscodes hinzufügen oder Klassifikatoren verwenden, um Problemeingaben und -ausgaben abzufangen. Diese Praktiken mögen zwar kurzfristig funktionieren, können aber leicht dazu führen, dass Kontrollstrategien über verschiedene Frameworks und Schnittstellen verstreut sind, was es schwierig macht, sie über mehrere Systeme hinweg zu prüfen und wiederzuverwenden. Dieser Problempunkt rückt immer stärker in den Vordergrund, da die Branche über Probleme wie Fehler beim Aufruf von KI-Tools und Kettenausfälle aufgrund unerwarteter Vorgänge nachdenkt.
Laut Microsoft besteht das Ziel von ACS darin, unterschiedliche Kontrollen in einer einheitlichen Governance-Ebene zu konsolidieren, die es Entwicklungs-, Compliance- und Sicherheitsteams ermöglicht, das Agentenverhalten durch ein einziges Richtliniendokument einzuschränken. In diesen Richtliniendokumenten können Teams klar darlegen, welche Aktionen für Agenten zulässig und verboten sind, unter welchen Umständen eine menschliche Genehmigung erforderlich ist und welche Beweise zur späteren Überprüfung protokolliert werden müssen. Das System prüft diese Richtlinien an wichtigen „Abfangpunkten“, an denen der Agent seine Aufgaben ausführt, um sicherzustellen, dass der Agent immer innerhalb der „Leitplanken“ arbeitet.
Insbesondere ermöglicht ACS die Implementierung der Erkennung in mehreren Phasen des Agenten-Workflows: bevor der Agent Eingaben erhält, vor dem Aufruf des Tools, nachdem das Tool Ergebnisse zurückgibt und bevor eine endgültige Antwort an den Benutzer ausgegeben wird. Richtlinien können auf diesen Knoten unterschiedliche Aktionen vorsehen: zum Beispiel das direkte Zulassen einer Aktion, das Blockieren der Ausführung, das Desensibilisieren oder Abdecken vertraulicher Informationen oder das Übermitteln von Entscheidungen an bestimmtes Personal zur Genehmigung. Darüber hinaus können Entwickler auch Eingabe- und Ausgabeklassifikatoren integrieren, um Informationen zu klassifizieren, mögliche Ergebnisse vorherzusagen oder Agenten bei der Reaktion zu unterstützen; Sie können auch umfangreiche Sprachmodelle einführen, um bestimmte Eingabeaufforderungswörter abzugleichen, sie als Richtlinien-„Schiedsrichter“ fungieren lassen und Logik hinzufügen, um den Tool-Aufruf, die Tool-Auswahl, die Eingabegenauigkeit, die Ausgabeverwendung und den Antwortinhalt zu überprüfen.
Eine wichtige Designidee von ACS besteht darin, diese Kontrollrichtlinien in eine einzige, unabhängige, portable Datei zu schreiben und sie mit dem Agenten zu „verpacken“. Auf diese Weise kann derselbe Satz an Sicherheits- und Compliance-Richtlinien mit dem Agenten zwischen verschiedenen Frameworks und Betriebsumgebungen migriert werden, ohne dass die Regellogik wiederholt neu geschrieben werden muss, wodurch die systemübergreifende Konsistenz und Überprüfbarkeit verbessert wird. Für große Unternehmen, die den KI-Einsatz in mehreren Geschäftsbereichen und mehreren Technologie-Stacks parallel fördern, wird erwartet, dass dieses „Strategie folgt dem Agenten“-Modell die Governance-Kosten senkt und gleichzeitig die Compliance-Transparenz verbessert.
In seiner Implementierungsform wird ACS in Form eines SDK bereitgestellt und wurde in mehrere gängige Agenten-Frameworks und Entwicklungstools integriert. Berichten zufolge unterstützt das ACS SDK derzeit LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI und MCP-Tools sowie andere Ökosysteme. Über diese Plug-ins können Entwickler ACS mit vorhandenen Agentenanwendungen verbinden und Richtliniendateien in ursprüngliche Arbeitsabläufe einbetten, ohne die Systemarchitektur von Grund auf neu erstellen zu müssen.
In einer Zeit, in der KI-Agenten schnell in Unternehmensgeschäfte eindringen, ist die Frage, wie ein Gleichgewicht zwischen „benutzbar“ und „einfach zu verwenden“ sowie „kontrollierbar“ und „überprüfbar“ gefunden werden kann, zu einer realistischen Herausforderung für technische Teams, Compliance-Abteilungen und Sicherheitsteams geworden. Die von Microsoft eingeführte Agent Control Specification versucht dieses Mal, der Branche eine einheitliche Governance-Infrastruktur auf offene Standards bereitzustellen, damit KI-Agenten ihre Flexibilität bewahren und gleichzeitig klar eingeschränkt und verantwortlich sind, wenn sie in verschiedenen Szenarien ausgeführt werden.