Nvidia представила Open Agent Safety Platform — платформу для контроля ИИ-агентов. В неё входят программный инструмент OpenShell, который задаёт агентам границы действий, и система Sentry, следящая за их поведением независимо от самих агентов.
Как сообщает IT Home со ссылкой на Nvidia, OpenShell рассчитан на агентов, работающих на CPU, и поддерживает открытые и закрытые модели. Компания выпускает его с открытым исходным кодом; ПО также может работать на сторонних платформах, в том числе с продуктами Arm и Intel.
Sentry работает на BlueField-4 DPU — отдельном процессоре для обработки данных и задач безопасности. По заявлению Nvidia, система непрерывно отслеживает действия агента и, если тот пытается выйти за установленные программные границы, может изолировать и остановить его за миллисекунды. Независимое от агента выполнение правил безопасности — ключевое отличие Sentry от ограничений, заданных только в ПО.
Nvidia также сообщила о сотрудничестве с Anthropic, SpaceX и Scale AI по использованию OpenShell для их моделей и агентов.
Источник: IT Home.
