經濟部與NVIDIA「Taipei-1」第四次徵案：免費開放AI算力申請

【公告】經濟部與NVIDIA「Taipei-1」第4次徵案申請須知

經濟部「領航企業研發深耕計畫」(簡稱大A+計畫)，吸引國際級大廠在臺從事前瞻創新研發活動，NVIDIA來台設立「人工智慧創新研發中心」，建置超級電腦「Taipei-1」(系統說明詳附件1)，自113年7月起至116年2月止，免費分享算力給我國各界研發使用，歡迎我國廠商、學校、研究機構及新創團隊提出申請。

1. 徵案說明

• 本次徵案期間:自公告日起至114年8月1日(五)下午5時整截止收件，採線上申請(含檔案上傳；DGX申請書格式詳附件2、OVX申請書格式詳附件3)。

• 算力使用期間:專案時程為114年9月22日至115年3 月13日止，預計推薦6隊(DGX 4隊、OVX 2隊)。

• DGX共分四批：每批涵蓋DGX1隊，每隊依序使用6周算力。

• OVX共分二批：每批涵蓋OVX1隊，每隊依序使用12周算力。

2. 申請資格

• 接受單獨一家公司/法人單位，或多家公司/法人單位聯合申請。

• 聯合申請需由一家公司/法人單位主導，並擔任專案主持人。聯合申請之主導單位必須具法令地位法人(legal entity)，且具大算力使用經驗，負責規劃與協調團隊成員的算力資源配置與使用，並綜整聯合提案之結案報告，請各團隊成員予以配合。

• 基於NVDIA算力管理規定，申請單位必須完整使用16台DGX或8台OVX，且一次須完整使用6周或12周，為充分運用算力資源，如算力需求未滿16台DGX或8台OVX之申請單位，請組隊進行聯合申請。

3. 審查重點

採批次收件、批次審查，由經濟部產業技術司籌組專家委員會，針對提案申請書進行審議，分就DGX與OVX進行審查及核定。審查重點如下：

• 專案主題具前瞻性與商業化潛力

• 提案單位須具備大算力執行經驗及訓練資料

• 算力需求合理性，且能充分運用DGX 16台或OVX 8台算力

• 預期產出與效益

4. 整體作業時程

• 徵案期間:自公告日起至114年8月1日(五)下午5時整截止收件。

• 9月上中旬：進行審議並擇優推薦，獲推薦單位將公告於A+企業創新研發淬鍊計畫網站（https://service.moea.gov.tw/EE514/tw/aiip）。

• 各批次之專案執行：依審查結果，按排序優先者依序選擇使用批次(擇一)，每批次各有DGX與OVX各一隊。考量重要假期與系統升級維護等，預估各批次使用時間如下(主辦單位保有調整之權利)，屆時以專案計畫窗口一周前之通知為準：

DGX算力

• 第1批次(114年09月22日至114年10月31日)

• 第2批次(114年11月03日至114年12月12日)

• 第3批次(114年12月15日至115年01月23日)

• 第4批次(115年01月26日至115年03月13日)

OVX算力

• 第1批次(114年09月22日至114年12月12日)

• 第2批次(114年12月15日至115年03月13日)

DGX第4批與OVX第2批算力使用時間跨115年春節，為確保使用權益展延一周。

• 專案結束：執行結束後兩周內提交結案報告(採線上提報，格式詳附件4)，並配合進行成果揭露(輔以影片或展示)，以利各界了解該專案提升研發能量及增加競爭力的效益。

5. 申請主題

專案主題包括但不限於以下範疇，所提出的專案主題需契合運算資源的類別要求：

• DGX：生成式AI相關應用。如大型語言模型開發、物理資訊神經網路、量子計算模擬、藥物發現、醫療保健。

• OVX (僅限下列主題)：3D動畫與影像渲染、合成資料生成、Isaac-Sim 機器人模擬、強化學習。

6. 申請方式

• 採線上申請，網址：https://forms.gle/6s8BhQC9SoNjqaL1A

• 為避免系統壅塞影響申請權益，請儘早申請。

7. 算力資源與使用說明

• DGX運算資源：16台DGX H100，每台8張H100 GPU。

• OVX運算資源：8台OVX 2.0，每台8張L40 GPU。

每DGX專案算力使用時間共6周：第1周on-boarding作業包含申請帳號、資料上傳、教育訓練(DGX及OVX各1.5小時)等前置作業，第2至5周運算使用共計4周(含假日)，第6周off-boarding 如資料下載、解除帳號、刪除資料等。

每OVX專案算力使用時間共12周：第1周on-boarding作業包含申請帳號、資料上傳、教育訓練等前置作業，第2至11周運算使用共計10周(含假日)，第12周off-boarding 如資料下載、解除帳號、刪除資料等。

• 聯合組隊算力分配注意事項：由聯合申請之主導單位應具備大算力使用經驗，並進行規劃與協調算力分配，並於算力啟用前一周，將分配方式及帳號提供NVIDIA進行事前作業，每個使用單位以2個帳號為原則。

• 訓練資料上傳方式：使用單位之訓練資料主要以網路傳輸方式上傳至平台；然資料量過於龐大時，可向NVIDIA提出需求並討論，以實體硬碟方式提供資料。

• 技術支援：NVIDIA會提供申請通過者聯繫窗口，安排技術人員協助使用單位解決平台使用的問題。服務時間為每周一至五的上午9時至下午6時。

8. 權利義務

• 本算力為「非商業用途」：本算力以測試、評估和開發為目的，包括模型開發或解決方案的研究，以支持未來產品或服務的研發，相關開發之模型或研究成果，為使用單位所擁有；禁止將「Taipei-1」運算資源用於產生營收(例如雲端服務、挖礦等)。

• 使用單位不應在該環境中處理和輸入任何專有或敏感資訊。

• NVIDIA要求每個算力使用單位須與NVIDIA簽署保密協議(NDA)、使用協議(User Agreement)，相關文件為制式合約無法調整。獲通過之使用單位，必須於on-boarding前完成文件NDA及User Agreement文件簽署，始得啟用算力，個別使用單位於使用Taipei-1時，仍應遵守簽署之使用協議，不得爭執相關規定未載於公告內。如因未完成簽署而造成算力使用時間短少，由使用單位自行承擔。

• 申請書所提交之各項資料，請務必據實填寫，如生成式模型Token數、記憶體、和現有的3D模型應用等，以利進行審查及算力配置。

• Taipei-1為NVIDIA總部營運管理，若接獲總部任何系統維運或軟體升級等作業，將提前2周通知算力使用單位。因各批次排程皆已事先排定，為顧及下批次使用單位權益，應予同意進行排程調整。

• 本計畫為政府資源，將在不涉及使用單位之研發或營業機密情況下，配合政府要求適當進行成果揭露。

• 使用單位自行進行成果揭露，如提及「係使用Taipei-1 H100 或L40GPU算力所產生的研發成果」，需提供中英文稿並經NVIDIA總部審閱且獲得同意。

• 依據行政院及所屬機關(構)使用生成式AI參考指引，若有使用生成式AI執行業務或提供服務，應向該業務或服務之有關對象進行揭露，使其知曉。

• 研究團隊於發表論文或研究報告時，請增述(可於Acknowledgements處)運用到Taipei-1、H100等高階GPU算力。

• 本公告如有未盡事宜，除依法律相關規定外，主辦單位保留修改及補充(包括任何異動、更新、修改)之權利，並以A+企業創新研發淬鍊計畫網站公告為依據。

9. 聯絡窗口

如有任何疑問，請洽經濟部產業技術司專案計畫窗口：

• 工研院產科國際所黃小姐電郵：[email protected] /電話：03-5917065

• 工研院產科國際所鄧小姐電郵：[email protected] /電話：03-5912872

附件說明:

附件1：Taipei-1系統說明

附件2：NVIDIA 「Taipei-1 DGX」提案申請書

附件3：NVIDIA 「Taipei-1 OVX」提案申請書

附件4：Taipei-1結案報告書

附件1：Taipei-1系統說明

Taipei-1是一座NVIDIA在台灣投資建置的人工智慧與數位孿生運算超級電腦，目的是為了支持台灣NVIDIA人工智慧創新研發中心(以下本文簡稱為本中心)研發所需的運算資源。整體運算資源的部分運算力預計將投入與台灣進行與本中心目標一致的共創或研究計劃。

整體系統包含2個部份的主要運算資源，一個部分是主要運用在AI運算與NVIDIA最新的前瞻技術開發，採用NVIDIA DGX H100運算主機構成。另一個部分主要運用在Digital Twins 數位孿生與NVIDIA 最新的前瞻技術開發，採用NVIDIA OVX運算主機構成。相關系統說明如下：

1. Taipei-1 系統規格

1. DGX 系統

整體依據NVIDIA DGX SuperPOD (https://www.nvidia.com/en-us/data-center/dgx-superpod/)參考架構進行規劃建置，採用64台NVIDIA最新人工智慧超級電腦DGX H100 (https://www.nvidia.com/zh-tw/data-center/dgx-h100/)，每台DGX H100 主機具備8個NVIDIA H100 GPU透過最新一代的NVLink以及NVSwitch技術進行整合，整體共計512個H100 GPU。DGX主機內每一GPU彼此之間具備900GB/s的雙向溝通頻寬，主機與主機之間透過8條最新InfiniBand技術搭配NVIDIA Quantum-2 InfiniBand (400Gb/s 高頻寬與低延遲高速網路技術https://www.nvidia.com/zh-tw/networking/quantum2/)進行主機間GPU 運算溝通，為運用在AI運算與NVIDIA最新的前瞻技術開發的超級電腦。

2. OVX 系統：

整體架構依據NVIDIA OVX SuperPOD (https://www.nvidia.com/zh-tw/data-center/products/ovx/)參考架構進行規劃建置，採用32台OVX 2.0 主機進行整合，每台主機搭配8個NVIDIA L40 GPU，整體共計256個L40 GPU，透過NVIDIA Spectrum X (https://www.nvidia.com/zh-tw/networking/spectrumx/)高速乙太網路架構進行整合，投入符合實際物理情況的數位孿生Digital Twins和人工智慧，NVIDIA OVX™ 系統可以提供最佳高度擬真符合實際物理的3D繪圖技術和運算效能，以及在數位孿生應用研發中整合人工智慧運算的各項技術。

本專案分享DGX 系統、OVX 系統各25%算力，故為16台DGX H100、8台OVX 2.0 。

2. Taipei-1 環境軟體說明

DGX 系統中將使用NGC(NVIDIA GPU Cloud) 相關最新與最佳化的AI 開發套件(https://ngc.nvidia.com/)，包含TensorFlow Framework、PyTorch Framework、Computer Vision、Conversional AI、NeMo Framework for Generative AI、BioNeMo healthcare for Generative AI、TAO for pre-training models and optimization 以及Triton Inference Server 等等AI 開發環境與套件(詳細請參考https://developer.nvidia.com/)以協助合作單位與企業使用最適切的開發環境進行研究或共創。

OVX 環境中搭配NVIDIA Omniverse Enterprise 軟體，整合Omniverse Nucleus server以及Omniverse Farm。此環境可執行的應用範疇廣泛，包含3D 動畫與影像渲染、合成資料生成、Isaac -Sim機器人模擬以及強化學習等。Taipei-1 OVX Cluster將協助研發人員理解與學習大型運算資源在數位孿生專案中的角色，並實現共創數位孿生的目標。

其他適合在Taipei-1 DGX主機上使用的NVIDIA 軟體開發工具套件（SDK）如下說明，可幫助使用團隊利用NVIDIA SDK 提供的技術和工具所開發更多創新應用。以下舉例介紹數個NVIDIA SDK 做為參考：

• NVIDIA NeMo框架(https://www.nvidia.com/en-us/ai-data-science/products/nemo/）：該框架專注於語音處理與自然語言處理的眾多方向，以滿足各種實際應用場景的需求。

• NVIDIA BioNeMo（https://www.nvidia.com/en-us/gpu-cloud/bionemo/）：該平台結合深度學習技術，用於藥物分子設計、蛋白質結構預測等方面，促進生物技術與藥物研發的交叉合作。

• NVIDIA Modulus（https://developer.nvidia.com/modulus）：開發物理資訊神經網絡（Physics-Informed Neural Network, PINN）應用於科學計算。

• NVIDIA CUDA Quantum（https://developer.nvidia.com/cuda-quantum）：協助研究人員在一般計算機上模擬量子系統。

• NVIDIA CLARA（https://developer.nvidia.com/industries/healthcare）：醫療相關的研究與應用，用以幫助提升診斷和治療效果。

註：Taipei-1環境DGX與OVX皆為Linux作業系統環境，會提供教育訓練與使用手冊，若參與申請單位過往較熟悉Windows環境，建議團隊中宜有熟悉Linux環境人員，依據使用手冊修改相關程式碼及環境設定。

附件2：NVIDIA 「Taipei-1 DGX」提案申請書(格式)

NVIDIA 人工智慧創新研發中心

NVIDIA 「Taipei-1 DGX」

提案申請書

申請單位：_________________

申請日期：____年____月____日

1. 「Taipei-1 DGX」使用申請書

備註：

• NVIDIA要求每個算力使用公司/單位須與NVIDIA簽署保密協議(NDA)、使用協議(User Agreement)，相關文件為制式合約無法調整。

• 為協助審查委員瞭解提案內容，上述項目請完整且據實填寫。

• 採系統填報並上傳電子檔，網址:https://forms.gle/3eLFfvXnbHmRB7yH7

附件3：NVIDIA 「Taipei-1 OVX」提案申請書(格式)

NVIDIA 人工智慧創新研發中心

NVIDIA 「Taipei-1 OVX」

提案申請書

申請單位：_________________

申請日期：____年____月____日

2. 「Taipei-1 OVX」使用申請書

備註：

• NVIDIA要求每個算力使用公司/單位須與NVIDIA簽署保密協議(NDA)、使用協議(User Agreement)，相關文件為制式合約無法調整。

• 為協助審查委員瞭解提案內容，上述項目請完整且據實填寫。

• 採系統填報並上傳電子檔，網址: https://forms.gle/3eLFfvXnbHmRB7yH7

附件4：NVIDIA「Taipei-1」結案報告(格式)

NVIDIA 人工智慧創新研發中心

NVIDIA「Taipei-1」結案報告

第___次徵案第___批

DGX OVX (請勾選)

專案主題：___________________

主導單位：

聯合單位：

使用日期：____年____月____日~____年____月____日

1. 計畫執行成果

(計畫執行成果以表格重點方式呈現，並輔以影片或圖片/表格，若有補充資訊請於附件說明。)

備註：

• 若為聯合申請，請自行增列。

• 本報告將會於貴單位再次申請時，供委員參酌。

• 結案報告含封面勿超過10頁(不含附件)。

• 採系統填報並上傳電子檔，網址:https://forms.gle/3wNxhEbA9edgcHRUA

貳、附件

其他補充資料。