最近，NVIDIA 在 Hopper 架構中引入了一項開創性的安全功能，以保護敏感數據、AI 模型和應用程序。這項名為NVIDIA 機密計算 的新功能提供了一種基于硬件的解決方案，可以安全地處理正在使用的數據和代碼，防止未經授權的訪問和修改。
無論是部署在本地、邊緣還是云端，敏感數據都容易受到外部攻擊和內部威脅。NVIDIA 機密計算可確保您最關鍵的數據和代碼安全無虞，同時享受 NVIDIA H200 和 H100 Tensor Core GPU 的先進加速。
了解 NVIDIA 機密計算
簡單來說，“機密計算”（CC）通過在基于硬件且經過證明的可信執行環境（TEE）中執行計算來保護正在使用的數據。
NVIDIA H200 和 H100 GPU 在 CPU 上配備 CVM（機密虛擬機）TEE，錨定在片上信任根 (RoT) 中。在 CC-On 模式下啟動時，將啟用硬件保護以確保代碼和數據的機密性和完整性。這里的“機密性”是指防止攻擊者訪問數據或代碼，“完整性”是指防止在執行過程中進行修改。
工作原理
1、信任鏈：安全且經過測量的啟動序列建立了信任鏈。
2、安全連接：SPDM（安全協議和數據模型）會話促進與 CPU TEE 中的驅動程序的安全連接。
3、證明報告：經過加密簽名的證明報告可驗證系統完整性。
4、GPU 認證：必須認證 GPU 為支持機密計算的合法 NVIDIA GPU，涉及設備唯一私鑰和經過認證的公鑰。GPU 不得因 CC 被吊銷，并且必須驗證認證報告。
5、安全通道建立：驗證成功后，CVM 中的 NVIDIA 驅動程序使用會話密鑰與 GPU 硬件 TEE 建立安全通道，以傳輸數據、執行計算并檢索結果。CVM 和 GPU 之間的通信通過 CVM 外部的共享內存區域進行，并采用 AES-GCM 加密以防止主機系統讀取此通信。
6、內存管理：GPU 將所有輸入復制并解密到其內部內存，以純文本形式運行所有內容，同時阻止直接訪問。性能計數器被禁用以防止旁道攻擊。
此過程將機密計算環境從 CVM（或安全區域）擴展到 GPU，并具有證明、加密通信和內存隔離。
好處和積極影響
NVIDIA 機密計算具有多項顯著優勢：
基于硬件的安全性和隔離：在任何環境中實現虛擬機 (VM) 的完全隔離 - 本地、邊緣或云中。整個工作負載都通過內置硬件防火墻進行保護，可提供前所未有的保護。
通過設備認證實現可驗證性：確保只有經過授權的最終用戶才能部署數據和代碼，以便在 H200 或 H100 的 TEE 中執行。設備認證可驗證 NVIDIA GPU 的真實性，確保固件完整性和正確更新。
防止未經授權的訪問：敏感數據、AI 工作負載和知識產權受到保護，始終保持機密性和完整性。未經授權的實體（包括虛擬機管理程序、云提供商、主機操作系統以及任何具有物理訪問權限的人）在執行期間被阻止查看或修改 AI 應用程序和數據。
無需更改應用程序代碼：機密計算功能可無縫運行，無需更改 GPU 加速工作負載的代碼。
支持機密計算的 GPU 可實現多種用例，其中安全性、隱私性和法規遵從性至關重要。例如，即使在共享或遠程基礎設施上大規模分布和部署，也可以保護專有 AI 模型的知識產權。
隱私和機密性在 AI 訓練和推理過程中得到保護，尤其是在醫療、金融和公共部門等數據敏感且受監管的行業。促進多方之間的安全協作，以在參與站點之間構建和改進 AI 模型，適用于醫學成像、藥物開發和欺詐檢測等用例。組織、政府和個人可以將 AI 工作負載外包給云提供商，同時確保免受底層基礎設施的保護。
隨著對 GPU 資源的需求不斷激增，尤其是對于人工智能和機器學習應用的需求，確保這些資源的安全性和易于訪問變得至關重要。
捷智算平臺的去中心化架構旨在使全球尚未開發的 GPU 資源的訪問變得民主化，并高度強調安全性和用戶便利性。讓我們來揭秘捷智算平臺如何保護您的 GPU 資源和數據，并確保去中心化計算的未來既高效又安全。
