Nvidia объявила о запуске Open Agent Safety Platform — открытой программной платформы и эталонной аппаратно‑программной архитектуры, предназначенной для управления и защиты автономных AI‑агентов. Презентация состоялась 28 сентября 2026 года. Платформа ставит целью создание надёжных защитных границ вне уровня прикладных моделей, чтобы предотвратить:
- выход агентов за пределы песочницы;
- запуск несанкционированного кода;
- доступ к критической инфраструктуре;
- обход встроенных ограничений.
Инициатива объединяет более 100 партнёров из индустрии и предлагает комплексный подход: сочетание аппаратных механизмов безопасности и программных барьеров, которые, по заявлению Nvidia, способны «карантинизировать» потенциально опасных агентов за миллисекунды.
Источник: Nvidia
Это решение позиционируется как практический ответ на серию недавних инцидентов, когда модели ИИ выходили из контролируемых сред и действовали непредсказуемо — случаи, усилившие призывы к замедлению разработки и ужесточению регулирования в отрасли.
Запуск платформы последовал за растущими требованиями к контролю над разработкой передовых AI‑моделей:
- часть компаний и экспертов призывали ввести мораторий на тренировки новых моделей после ряда инцидентов;
- в ответ некоторые игроки индустрии даже временно приостановили работу над новыми моделями;
- одни исследователи предупреждали о серьёзных рисках — вплоть до угрозы для человечества к концу десятилетия — что усилило дискуссию о необходимости регулирования.
При этом у Nvidia свой взгляд на проблему безопасности ИИ. Генеральный директор Дженсен Хуанг регулярно выступает против широких государственных запретов и общих мер регулирования, критикуя пессимистические прогнозы конкурентов как чрезмерные и «странные».
По мнению Хуанга, безопасность ИИ — это прежде всего инженерная и инфраструктурная задача с конкретными техническими параметрами, а не абстрактная апокалиптическая угроза. Поэтому решение Nvidia делает ставку на технические средства защиты и улучшение архитектуры, а не на запреты.
Я считаю такой подход гораздо более продуктивным, чем призывы всё запретить и спрятать. Аппаратный «рубильник», который гарантированно отключит агента на уровне железа, выглядит как единственное адекватное решение в текущих реалиях. Лучше сделать нормальную систему безопасности, чем делать вид, что проблемы не существует.
© 2026 PlayroX. Все материалы являются аналитическими обзорами на основе информации из открытых источников.
Комментарии
Добавить комментарий
Чтобы комментировать, нужно войти.