trinity

滿足 AI 發展三階段的運算需求

HPE 伺服器產品線針對 AI 專案的訓練(Training)、微調(Fine-tuning)與推論(Inference)三個不同階段,提供對應的最佳化運算設備,確保企業在任何階段都能獲得所需的高效能支援。

訓練(Training)

極龐大算力,耗時數小時到數週不等。

HPE Cray XD670

HPE ProLiant Compute XD680 / XD685

專為超級運算設計,支援高密度 GPU 配置。例如 HPE Cray XD670 可搭載多達 8 個 NVIDIA H200 或 H100 Tensor Core GPU,並支援氣冷或液冷方案。

微調 (Fine-tuning)

高算力,需將模型調整至符合企業獨有知識,耗時數分鐘到數日。

HPE ProLiant DL380a Gen11 / Gen12

HPE ProLiant DL384 Gen12

提供高擴充性,支援多達 10 個 NVIDIA GPU 模組,專為應對大型模型微調與推論負載所設計。

推論 (Inference)

低延遲,需在微秒或秒級內快速回應。

HPE ProLiant DL320 Gen11

HPE ProLiant DL380a Gen11

HPE ProLiant DL385 Gen11

具備高性能與高擴充性,可容納多達 4 個 NVIDIA GPU,適用於電腦視覺、智慧客服等即時 AI 應用。

為何選擇 HPE 的 AI 解決方案?

打造 GenAI 服務標竿:HPE LLM Appliance 方案

HPE LLM Appliance 是一套專為生成 AI 應用打造的一站式解決方案。根據模型處理的資料量,提供從入門到大規模的四種運算方案,完整涵蓋硬體、AI 模型與服務,協助您快速部署專屬的 LLM 應用。

廣泛的模型支援

支援 GPT、Gemini 等主流模型,更整合 TAIDE、TAME 等台灣在地化語言模型,提供更精準的中文語彙應用。

彈性的客製化部署

從入門級到大型級,您可以根據業務需求選擇不同運算能力與 GPU 配置的伺服器平台,快速部署。

豐富的應用服務

快速建置智慧客服、文件生成、智慧聊天機器人等應用,大幅提升日常工作效率。

HPE-aiserver

立即開始您的 AI 轉型之旅

歡迎聯繫我們,規劃最適合您業務需求的 AI 解決方案

trinity