Themenzusammenfassung
OpenShell und Sentry: Nvidia will das Ausbrechen von KI-Agenten verhindern
Automatisch ausgewählte Kernaussagen aus den für dich sichtbaren Beiträgen. Jeder Auszug führt zum Original.
Beiträge 1–1 von 1
Ausgangsbeitrag
KI-Agenten sollen eigenständig handeln, dabei aber in klaren Grenzen bleiben. Nvidia hat auf der GTC in Berlin mit OpenShell und Sentry eine Architektur vorgestellt, die ihre Aktionen überwachen und bei Regelverstößen stoppen soll. Anlass ist eine Serie von Sicherheitsvorfällen, bei denen Agenten aus Testumgebungen ausbrachen.
Diese automatische Auswahl übernimmt Originalaussagen und bewertet ihre Richtigkeit nicht. Zitate, Spoiler, Codeblöcke, Tabellen und Medien bleiben ausgespart. Lange Textstellen werden gekürzt.