【智快網】12月7日消息,谷歌今日發布了一項引人注目的新舉措,不僅推出了全新的大語言模型Gemini 1.0和云端AI芯片TPU v5p,還推出了名為AI Hypercomputer的超級電腦架構。
據了解,AI Hypercomputer電腦架構自稱采用了一種“軟硬結合”的方式,將專為AI優化的硬件、開源軟件以及主流深度學習框架集成在一起。此外,該架構還以其靈活的定價模式脫穎而出,旨在滿足商業和研究部門的需求。
傳統的深度學習硬件通常依賴于硬件性能來提高AI計算速度,但AI Hypercomputer超級電腦架構通過實現軟件和硬件的協同設計,提高了AI訓練的效率。
谷歌表示,AI Hypercomputer支持JAX、TensorFlow和PyTorch等深度學習框架,同時還整合了谷歌的Kubernetes Engine(GKE)和Compute Engine等基礎架構服務,以及Multislice Training和Multihost Inferencing等軟件。
與此同時,谷歌強調了AI Hypercomputer在定價費率方面的獨特性,提供了更加靈活的消費模式。谷歌引入了一項名為“Dynamic Workload Scheduler”的平臺計費標準,包括“Flex Start”和“Calendar”兩種模式。
Flex Start主要用于微調模型、承載學術實驗以及較短的訓練任務,還適用于蒸餾、離線推理以及批量性的任務,其計費標準主要基于所使用的GPU和TPU數量。而Calendar模式則允許用戶為AI任務預留開始時間,特別適用于需要精確的開始時間和模型訓練持續時間的任務,計費標準主要基于時間長度。
這一新的AI Hypercomputer電腦架構將為各類AI應用提供更大的靈活性和效率,有望在商業和研究領域產生積極影響。