AI 業界領袖提出 SAFE 指引　輝達全端開放資安軟體模型助益

Linux Foundation 針對Shared AI Findings Exchange（SAFE）指引發佈徵求意見書，力拚為代理型 AI 資安事件轉化為更完善的防護機制。開放安全 AI 聯盟（Open Secure AI Alliance）的成員規模如今已超過 120 個組織，以強化代理型人工智慧（AI）的資安防護。輝達（NVIDIA） 全端開放資安軟體與模型，涵蓋整個技術堆疊，讓代理的行為更容易進行測試、追蹤、稽核與管控。

Linux Foundation 針對 Shared AI Findings Exchange（SAFE）指引發佈徵求意見書。這套研擬中的指引旨在將代理型 AI 資安事件轉化為整個生態系共享的防護機制。SAFE 指引目前正由開放安全 AI 聯盟的工作小組起草。NVIDIA、思科、CrowdStrike、Hugging Face 與 Red Hat 等聯盟成員正與 Linux Foundation 合作，為初步提案貢獻心力。

SAFE 指引包含多項提議，包括以保密方式蒐集及分析 AI 事件與未遂事件、通知受影響對象、辨識反覆出現的控制失效，並發布以證據為基礎、可降低系統性風險的實務運作建議。防禦人員現在必須以代理的速度迅速回應，保護基礎設施與智慧財產，而攜手合作正是實現這項目標的最佳方式。當可信賴的生態系公開分享威脅情報時，集體防禦便能發揮綜效。

SAFE 框架延續開放安全 AI 聯盟成員的技術貢獻，展現各方共同承諾：打造並分享橫跨完整 AI 安全堆疊、開放且可檢視的工具。AI 代理不只是一個模型，而是一套由身分控制、harness、防護機制、記錄與評估構成的系統。若要確保其安全，不能只仰賴漏洞掃描。安全防護向來需仰賴層層設防，以及社群分享所知資訊的意願。當防禦人員能夠公開且迅速地相互學習，最棘手的問題才更有機會迎刃而解。

NVIDIA 的貢獻涵蓋整個技術堆疊，首先是 GitHub 上的 NVIDIA Labs Object-Oriented Agent（NOOA）研究 harness，讓代理的行為更容易進行測試、追蹤、稽核與管控。NVIDIA OpenShell 執行階段會限制代理所能查看、存取與執行的內容，並在代理層級落實安全與隱私控制，確保代理無法觸及不應存取的資源。

NVIDIA 的系列開放模型包括用於代理型 AI 的 NVIDIA Nemotron、用於物理 AI 的 NVIDIA Cosmos、用於機器人的 NVIDIA Isaac GR00T、用於醫療保健與生命科學的 NVIDIA BioNeMo，以及全球規模最大、可授權商業使用的自駕車模型 NVIDIA Alpamayo。這些模型均提供開放權重、資料集與訓練技術