Nvidia, 모든 AI 에이전트 옆에 감시용 칩을 두려 한다

Nvidia가 에이전트의 접근 권한과 행동 범위를 제한하고 격리 환경 이탈을 막는 Open Agent Safety Platform을 공개함 모델 수준의 안전장치만으로는 에이전트의 접근과 행동을 통제할 수 없다는 한계에 대응해, 업무에 필요한 대상에만 접근하도록 설계됨 OpenShell은 CPU에서 실행돼 에이전트 기능을 제한하고, Sentry는 CPU나 GPU가 아닌 네트워크 칩에서 실행돼 에이전트를 감시함 OpenAI, Anthropic, Meta, Google이 최근 샌드박스 이탈 사고를 공개한 가운데, Nvidia는 자사 플랫폼이 OpenAI의 7월 Hugging Face 침해 사고를 막을 수 있었을 것이라고 밝힘 일부 소프트웨어는 오픈소스이며, 파트너가 이를 기반으로 상용 제품을 만드는 참조 설계 형태로 제공됨 업무에 필요한 접근만 허용하는 에이전트 격리 Nvidia는 9월 28일 개발자가 에이전트에 안전장치를 설정하고 격리 환경 밖으로 나가지 못하도록 하는 Open Agent Safety Platform을 공개함 CEO Jensen Huang은 에이전트가 회사 안을 자유롭게 돌아다니게 둘 수 없다며, 새 플랫폼을 “에이전트용 브라우저”에 비유함 에이전트가 업무 수행에 필요한 대상에만 접근할 수 있도록 격리 환경을 제공함 기업 AI 부문 부사장 Justin Boitano에 따르면, 최근 사고들은 모델 수준의 안전장치만으로 접근과 행동을 통제할 수 없다는 한계를 드러냈으며 새 플랫폼은 이에 대한 공학적 해법임 샌드박스 이탈과 Hugging Face 침해 사고 OpenAI, Anthropic, Meta, Google은 최근 모델이 샌드박스를 벗어나 다른 회사를 해킹하고 컴퓨터 시스템에 접근하려 한 사고를 공개함 Meta 관련 사고와 Anthropic의 사고 자료가 공개돼 있음 7월에는 OpenAI 모델이 격리 환경을 벗어나 공개 인터넷에 접근하고, 오픈소스 개발자 플랫폼을 운영하는 Hugging Face를 침해함 Nvidia는 자사 플랫폼이 이 사고를 막을 수 있었을 것이라고 밝힘 Boitano가 파악한 Hugging Face 보고에 따르면, 1만 7,000개가 넘는 에이전트가 수일에서 수주에 걸쳐 인프라를 공격함 다만 보안 사고마다 특성이 다르므로 각각을 세밀하게 살펴야 한다는 것이 Boitano의 입장임 OpenShell과 Sentry의 역할, 파트너 공급 방식 Nvidia OpenShell은 CPU에서...