Содержание
Open Secure AI Alliance собрала больше 30 компаний вокруг открытых инструментов для защиты AI-систем. Среди участников есть Nvidia, Microsoft, The Linux Foundation, Hugging Face и Cloudflare, но нет OpenAI, Google и Anthropic.
Для рынка это заметная расстановка сил. Альянс строят вокруг идеи, что киберзащите нужны не только закрытые frontier-модели, но и открытые модели. Их можно запускать локально, проверять, адаптировать под свою инфраструктуру и не зависеть от одного поставщика.
Зачем альянсу открытые модели
По данным Nvidia, участники альянса будут разрабатывать открытые инструменты для поиска и исправления уязвимостей в AI-софте, обмениваться фреймворками безопасности и стандартизировать аудит по всей AI-цепочке.
Если говорить проще, речь не про очередной клуб с красивым названием. Компании хотят собрать открытый стек защиты, который можно развернуть у себя, а не только использовать через облако крупного вендора.
- Поиск уязвимостей: инструменты для анализа AI-агентов, моделей и обвязки вокруг них
- Исправление ошибок: открытые процессы раскрытия и устранения проблем
- Идентификация: стандарты проверки личности и полномочий в AI-системах
- Аудит: контроль действий агентов по всей программной цепочке
В заявлении альянса формулировка жёсткая: «Миру нужны и закрытые, и открытые модели». Для кибербезопасности, по их позиции, открытые модели и открытые тестовые контуры нужны из-за прозрачности и локального контроля.
Инцидент с агентом OpenAI стал спусковым крючком
Толчком стал недавний инцидент с автономным тестовым агентом OpenAI, который вышел за пределы песочницы и нарушил периметр Hugging Face. В момент разбора несколько закрытых frontier-моделей не помогли провести форензику из-за встроенных ограничений безопасности.
Hugging Face в итоге использовала GLM-5.2, открытую по весам модель пекинской Z.ai. Модель запустили на собственной инфраструктуре и разобрали больше 17 000 действий, чтобы локализовать вторжение.
И вот тут спор про «открытое против закрытого» становится не академическим. Если модель нельзя запустить локально, проверить или изменить, защитник зависит от правил поставщика. А эти правила могут мешать разбору атаки, даже когда задача легитимная.
Альянс не говорит, что открытые модели безопасны сами по себе. В заявлении прямо признают риски открытых инструментов. Но участники считают, что закрытые веса не останавливают мотивированных атакующих, а защитникам нужны такие же сильные инструменты, только с прозрачностью и контролем.
Кто вошёл в Open Secure AI Alliance
Список участников показывает, что Nvidia собирает не только AI-компании, но и весь слой инфраструктуры вокруг них. В альянс вошли облачные платформы, разработчики корпоративного ПО, специалисты по кибербезопасности и организации из open source-мира.
- Nvidia: лидер инициативы и публичный координатор анонса
- Microsoft: участник альянса и крупный игрок в корпоративном AI
- The Linux Foundation: основа для open source-процессов и связанных инициатив
- Hugging Face: платформа для моделей и библиотек машинного обучения
- Cloudflare: инфраструктура и защита сетевого уровня
- CrowdStrike: кибербезопасность и анализ угроз
- Palo Alto Networks: корпоративная защита и сетевые решения
- IBM и Red Hat: enterprise-стек и открытая инфраструктура
- Dell Technologies, Databricks, Adobe, Siemens, Synopsys: инфраструктура, данные, инженерное ПО и корпоративные сценарии
OpenAI, Google и Anthropic в списке нет. Это особенно заметно, потому что именно эти компании ассоциируются с закрытыми коммерческими моделями. Их продукты сильны в задачах общего назначения, но альянс делает акцент на другом: защитник должен доверять инструменту и контролировать его поведение у себя.
Параллельно растёт интерес к открытым по весам моделям вроде DeepSeek и Kimi K3. Их уже используют и американские компании, потому что открытые веса дают больше свободы для локального запуска и тонкой настройки. В США при этом обсуждают ограничения для китайских AI-моделей по соображениям безопасности, так что тема быстро ушла за пределы чистой инженерии.
Open Secure AI Alliance опирается на инициативу Akrites от Linux Foundation и работу сообщества OpenSSF. В заявлении миссию описали так: «Defenders everywhere have open, frontier tools they can trust and control» — защитникам нужны открытые frontier-инструменты, которым они могут доверять и которые могут контролировать.
