8卡 ai服务器 GPU 服务器 大模型微调/训练 人工智能 大模型 深度学习 科学计算
时间：2025-02-23 10:22:22
分类：
发布人: 石老师
8卡 ai服务器 GPU 服务器 大模型微调/训练 人工智能 大模型 深度学习 科学计算
高达192Gb显存，可进行deepseek-r1 70b、llama3.2-vision-90b、Qwen2.5-72b、Qwen1.5-130b等千亿级参数大模型并行推理和 fp16 精度微调
整机含开发环境和大模型部署服务，到手即用。
基础平台：
CPU：AMD EPYC 7542 @2.9Ghz（32核心64线程）
主板：技嘉 MZ22-G20服务器主板（8×PCIe 4.0）
内存：128GB（三星 DDR4 32G @2133Mhz x 4）高速内存
硬盘：960G 镁光/Intel SSD
电源：2200W双电（支持冗余和叠加）
高达192Gb显存，可进行deepseek-r1 70b、llama3.2-vision-90b、Qwen2.5-72b、Qwen1.5-130b等千亿级参数大模型并行推理和 fp16 精度微调
整机含开发环境和大模型部署服务，到手即用。
基础平台：
CPU：AMD EPYC 7542 @2.9Ghz（32核心64线程）
主板：技嘉 MZ22-G20服务器主板（8×PCIe 4.0）
内存：128GB（三星 DDR4 32G @2133Mhz x 4）高速内存
硬盘：960G 镁光/Intel SSD
电源：2200W双电（支持冗余和叠加）