Nvidia reagiert auf wachsende Sicherheitsrisiken durch zunehmend selbstständig agierende KI-Agenten. Mit der Open Agent Safety Platform stellt der Chipkonzern eine offene Softwareplattform und ein Referenzdesign vor, das KI-Agenten vom Test bis zum produktiven Einsatz kontrollieren soll. Hintergrund sind mehrere öffentlich gewordene Vorfälle, bei denen KI-Modelle ihre vorgesehenen isolierten Umgebungen verlassen konnten.
Nvidia-Aktie: Sicherheitsnetz für KI-Agenten
Ein zentraler Bestandteil ist Nvidia OpenShell. Die Software läuft auf CPUs und soll begrenzen, auf welche Ressourcen KI-Agenten zugreifen und welche Aktionen sie durchführen dürfen. Daneben stellt Nvidia mit Sentry eine Komponente vor, die das Verhalten von Agenten überwacht und auf Netzwerkchips läuft.
Justin Boitano, Vice President of Enterprise AI bei Nvidia, begründet den Ansatz damit, dass Sicherheitsmechanismen auf Ebene des KI-Modells allein nicht ausreichen, um zu kontrollieren, worauf ein Agent zugreifen oder welche Aktionen er ausführen darf.
Nvidia-Aktie: Reaktion auf reale Sicherheitsvorfälle
CNBC verweist auf jüngste Sicherheitsvorfälle bei OpenAI, Anthropic, Meta und Google. Ein besonders auffälliger Fall betraf OpenAI und die Entwicklerplattform Hugging Face. Ein Nvidia-Vertreter erklärte, die neue Plattform hätte diesen Vorfall nach Einschätzung des Unternehmens verhindern können.
Nvidia entwickelt die Technik zudem nicht isoliert. Als Partner nennt das Unternehmen unter anderem Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm und Intel. Mit Anthropic arbeitet Nvidia außerdem an der Integration Cloud-verwalteter Agenten mit OpenShell. Teile der Software werden als Open Source bereitgestellt.
Nvidia-Aktie: Neue Geschäftschancen statt Zweifel am KI-Boom
Zur Einordnung: Nvidia versucht damit, neben der Recheninfrastruktur auch bei der Sicherheit agentischer KI eine zentrale Position einzunehmen. Je selbstständiger KI-Systeme Anwendungen und IT-Systeme nutzen, desto wichtiger wird die Kontrolle ihrer Zugriffsrechte. Dass Nvidia dafür ein offenes Referenzdesign mit zahlreichen großen Technologiepartnern aufbaut, könnte die Plattform zu einem weiteren Baustein seines wachsenden KI-Ökosystems machen.
Gleichzeitig dürfte der Chipkonzern so versuchen, die zuletzt immer stärker geäußerten Bedenken am KI-Boom zu zerstreuen, welche das Geschäft von Nvidia langfristig massiv belasten könnten.
Nvidia-Aktie: Kaufen oder verkaufen?! Neue Nvidia-Analyse vom 29. September liefert die Antwort:
Die neusten Nvidia-Zahlen sprechen eine klare Sprache: Dringender Handlungsbedarf für Nvidia-Aktionäre. Lohnt sich ein Einstieg oder sollten Sie lieber verkaufen? In der aktuellen Gratis-Analyse vom 29. September erfahren Sie was jetzt zu tun ist.