▲NVIDIA。(圖/記者高兆麟攝)
記者高兆麟/綜合報導
NVIDIA 與 Google Cloud 合作,運用 Blackwell HGX and DGX 平台及 NVIDIA 機密運算(NVIDIA Confidential Computing)技術保護資料安全,並將代理型 AI(agentic AI)帶給尋求在地端使用 Google Gemini 系列人工智慧(AI)模型的企業。
透過搭載 NVIDIA Blackwell 平台的 Google 分散式雲端(Google Distributed Cloud,GDC),企業的地端資料中心可以鎖定存取病患紀錄、金融交易和政府機密資訊等機敏資訊的權限,以符合法規要求和資料主權法令。NVIDIA 機密運算技術還能保護 Gemini 模型中的敏感程式碼,避免未經授權的存取與資料外洩。
Google Cloud 基礎設施與解決方案部門副總裁暨總經理 Sachin Gupta 表示:「藉由將我們的 Gemini 模型與 NVIDIA Blackwell 的突破性效能及機密運算能力相結合,我們讓企業能夠充分發揮代理型 AI 的潛力。這項合作有助於確保客戶能夠在不影響效能或操作便利性的情況下,安全地進行創新。」
NVIDIA Blackwell 的機密運算技術能為企業提供技術保障,包括 Gemini 模型應用程式介面的使用者提示及用於微調的資料,都能保持安全,無法被檢視或修改。
與此同時,模型所有者可以防止未經授權的存取或竄改,提供雙重保護,讓企業能夠在維護資料隱私的同時,利用 Gemini 模型進行創新。
隨著代理型 AI 重塑企業技術格局,帶來更強大解決問題的能力,這項全新解決方案應運而生。有別於根據學習到的知識來感知或生成內容的 AI 模型,代理型 AI 系統可以在動態環境中進行推理、適應與決策。例如在企業 IT 支援方面,以知識為基礎的 AI 模型可以檢索與提供故障排除指南,而代理型 AI 系統則能夠自主診斷問題、執行修復,以及將複雜的問題呈報到更高層級進行處理。
同樣地,在金融領域,傳統的 AI 模型可以根據既有模式標示潛在的詐欺交易活動,代理型 AI 系統則能更進一步調查異常情況,並主動採取行動,例如在交易發生前即進行封鎖,或是即時調整詐欺偵測規則。
雖然許多企業已經可以使用多模態推理的模型,整合文字、影像、程式碼和其他資料類型來解決複雜的問題,並建立雲端代理型 AI 應用,不過那些對安全或資料主權有著嚴格要求的企業卻還無法實現。
隨著這項消息的發表,Google Cloud 將成為首批提供機密運算功能的雲端服務供應商之一,以保護無論是在雲端或混合環境中的代理型 AI 工作負載。
這項解決方案由搭載 Blackwell GPU 與 NVIDIA 機密運算技術的 NVIDIA HGX B200 平台驅動,讓客戶能夠保護 AI 模型與資料安全。這樣可讓使用者在不影響資料安全性或模型完整性的情況下,達到突破性的效能與能源效率。
展望未來,Google Cloud 正致力於整合專為跨 AI 工廠服務與擴充推理 AI 模型而打造的開源函式庫 NVIDIA Dynamo,以提高代理型 AI 工作負載的可觀察性。
標題:NVIDIA攜手Google Cloud 為企業帶來代理型AI推理功能
聲明: 本文版權屬原作者。轉載內容僅供資訊傳遞,不涉及任何投資建議。如有侵權,請立即告知,我們將儘速處理。感謝您的理解。