さくらインターネット株式会社(大阪府大阪市、代表取締役社長 田中 邦裕、以下さくらインターネット)と、株式会社Acompany(アカンパニー、愛知県名古屋市、代表取締役CEO 高橋 亮祐、以下Acompany)は、さくらインターネットが国内データセンターで提供するベアメタル型GPUクラウドサービス「高火力 PHY」のNVIDIA H200環境において、NVIDIA Confidential Computing(NCC)※1 と Intel TDX※2 を有効化した状態で、データセンター運用者から秘匿化した状態を保ちながら、データやAIモデルを秘匿化したままGPUで推論を実行する環境構築の検証に成功いたしました。NCCとIntel TDXを組み合わせた国内データセンターにおける当該構成の検証事例としては国内初※3 となります。 ※1 NVIDIA Confidential Computing(NCC):NVIDIAのGPU(Hopper世代以降)が備える、処理中(実行中)のデータやAIモデルをハードウェアレベルで保護するセキュリティ機能。 ※2 Intel TDX(Trust Domain Extensions):Intel CPUが備えるConfidential Computing技術。仮想マシン(VM)全体をハードウェアで隔離・保護し、NCCを安全に利用するための信頼の起点(Confidential VM)を構成する。 ※3 Acompany調べ。 背景 近年、生成AIや大規模言語モデル(LLM)の業務活用が急速に進む一方で、プロンプトや機密ファイル、独自にチューニングしたAIモデルといった「価値の源泉となるデータ」を外部のクラウドに預けることへの懸念が高まっています。とりわけ、攻撃者によるシステム侵害や、クラウド事業者の特権管理者による覗き見といったリスクは、保存時・通信時の暗号化だけでは守りきれない「処理中(実行中)のデータ」の課題として残されていました。 この課題に対し、CPU側のIntel TDX/AMD SEV-SNPやGPU側のNVIDIA Confidential Computingといった、ハードウェアでデータを保護するConfidential Computing技術が登場しています。しかし、GPUのNCCを有効化した仮想マシンは、これまで一部のハイパースケーラーが米国・欧州などの海外リージョンで提供するものに限られており、国内リージョンで利用する現実的な選択肢が存在しませんでした。 一方で、政府によるガバメントクラウドや国産AI基盤の整備が進むなど、自国内でAIを開発・運用するソブリンAI(国家・組織がデータと計算基盤の主権を握るAI)や国産AIへのニーズは急速に高まっています。データを国内に置いたまま、かつ推論中も秘匿できる計算環境を国内で確保できるかどうかは、日本企業・公共機関がAIを安心して活用するための重要な論点となっていました。 検証の概要 本検証における両社の役割は以下のとおりです。 さくらインターネット:国内データセンターで提供するベアメタル型GPUクラウドサービス「高火力 PHY」(NVIDIA H200搭載)の提供 Acompany:Confidential Computing技術を用いた生成AI実行環境の構築・検証 さくらインターネットの「高火力 PHY」(NVIDIA H200)のベアメタルサーバー上にIntel TDXによるConfidential VMを構成し、その内部でNVIDIA H200をConfidential Computingモードで動作させることにより、データセンター運用者から秘匿化した状態を保ったまま、LLMの推論処理が実行可能となる環境を構築し、GPUにて推論処理が実行できることを確認しました。 ■主な検証内容 「高火力 PHY」(NVIDIA H200)上で、Intel TDX(Confidential VM)とNVIDIA Confidential Computingを組み合わせた起動・動作検証 CPU・GPUをまたいでデータを秘匿化した状態での推論処理の動作確認 リモートアテステーション機能の動作確認 これは、これまで主に海外リージョンで提供されてきたNCC対応GPU環境について、国内データセンターでの実装可能性を検証した成果です。これにより、機密性の要求が高い金融・製造・公共・防衛などの領域においても、データを国内に保持したまま推論処理中もデータセンター運用者から内容が参照されない形として、安心・安全なAI活用環境を実現できる可能性を示しました。 今後の展望 さくらインターネットとAcompanyは、本検証の成果をふまえ、機密性の高いデータを扱う領域におけ