- 内容展现
- 最新评论
赋能本地 AI: AMD Radeon AI PRO R9700 工作站将于7月23日上市
随着 AI 推理对内存需求的不断增加和模型复杂度的持续提升，开发者们寻求能够本地处理这些需求的硬件，同时不牺牲性能和灵活性。从大型语言模型到生成式工作流，现代 AI 负载需要具备强大计算能力和充足显存的 GPU。 ...
 随着 AI 推理对内存需求的不断增加和模型复杂度的持续提升，开发者们寻求能够本地处理这些需求的硬件，同时不牺牲性能和灵活性。从大型语言模型到生成式工作流，现代 AI 负载需要具备强大计算能力和充足显存的 GPU。 为满足这一需求，AMD 很高兴宣布即将推出搭载 AMD Radeon AI PRO R9700 的工作站系统—这是其面向本地 AI 开发和高吞吐推理的新型专业显卡。该显卡将于 2025 年 7 月 23 日起，通过专注于定制高性能计算解决方案的精选 AMD 硬件合作伙伴，提供预装的工作站系统。  突破内存瓶颈，性能再造新标杆 为加速中大型 AI 模型在本地工作站上的运行，AMD Radeon AI PRO R9700 配备了 32GB 高速 GDDR6 显存、先进的 RDNA™ 4 架构及对现代 AI 数据类型的广泛支持。凭借 64 个计算单元、128 个第二代 AI 加速器，以及对 FP8、FP16 和 INT8 精度的支持，R9700 提供强劲的 TOPS 性能和处理复杂 AI 任务所需的多样化能力。 凭借32GB高速显存，R9700 可将大型模型完整加载于显存中，无需依赖系统内存，从而实现更快的推理速度、更高的吞吐量及更广泛的模型兼容性。在高令牌数的大型语言模型提示和指令微调模型等真实应用场景中，其性能可大幅提升。 专为AI专业人士打造 AMD Radeon AI PRO R9700针对对硬件性能有极高要求的AI专业用户设计，特别擅长自然语言处理、文本生成图像、生成式设计等需要大型模型或高显存流水线的复杂任务。无论是进行大规模推理、本地微调，还是支持多模态工作流，Radeon AI PRO R9700均能提供充足的容量和速度，实现全程本地运算，提升性能、降低延迟，并增强数据安全性。 Radeon AI PRO R9700完全兼容AMD ROCm开源软件平台，为开发者提供了强大且可扩展的AI与高性能计算环境。支持PyTorch、ONNX Runtime和TensorFlow等主流框架，ROCm使用户能够高效构建、测试和部署基于R9700的本地AI模型。32GB显存、RDNA 4架构和ROCm 6.4.1的结合，实现推理、微调及定制模型工作流的加速表现，使Radeon AI PRO R9700成为追求性能、灵活性和开放标准的AI专业人士的理想选择。 凭借紧凑的双槽设计、PCIe 5.0接口及鼓风式散热方案，Radeon AI PRO R9700支持多GPU工作站部署。不同于采用轴流风扇设计、通常难适配高密度系统的消费级显卡，R9700的鼓风设计确保高效的前至后气流，允许多张显卡在高性能紧凑环境中稳定运行，方便部署并行推理流水线、扩展多卡显存容量及支持更大规模并发模型负载，助力企业构建可靠、高吞吐的本地AI基础设施。 通过Radeon Test Drive亲身体验Radeon AI PRO R9700 有兴趣评估Radeon AI PRO R9700用于本地AI工作负载的开发者， 即将能够通过Radeon Test Drive项目进行体验。该项目旨在帮助技术用户探索AMD支持AI的工作站GPU，提供基于AMD Radeon PRO GPU驱动、搭载ROCm 6.4.1环境的高性能合作伙伴工作站的实操机会。无论是基准测试PyTorch等框架，还是评估本地大型语言模型推理，Radeon Test Drive都是快速、无风险的入门途径。即刻申请访问权限：www.amd.com/en/developer/resources/cloud-access.html |
本文版权归 PCEVA,PC绝对领域,探寻真正的电脑知识 原作者所有 转载请注明出处
最新评论
热门评论
商家促销
团购试用
原创精华
论坛热帖
145关注
26参与
66关注
9参与
140关注
7参与
155关注
6参与
91关注
6参与
42关注
5参与
113关注
3参与
121关注
3参与
234关注
2参与
14关注
1参与
精彩图文
