- 内容展现
- 最新评论
技嘉桌面AI超算竞赛圆满落幕，探索本地AI应用新可能
7月24日至26日，以“探索模型·共创智能”为主题的桌面AI超算竞赛在北京举行。来自AI应用开发、行业软件、高校科研、内容创作以及创业团队等不同领域的11支队伍、30名选手齐聚现场，以技嘉AI TOP ATOM桌面AI超算作为 ...
 7月24日至26日，以“探索模型·共创智能”为主题的桌面AI超算竞赛在北京举行。来自AI应用开发、行业软件、高校科研、内容创作以及创业团队等不同领域的11支队伍、30名选手齐聚现场，以技嘉AI TOP ATOM桌面AI超算作为统一开发平台，在连续48小时的开发时间里，将一个个停留在构想阶段的AI项目真正部署到本地设备之上。  经过48小时连续开发和Demo Day成果展示，本届竞赛正式进入闭幕环节。除了揭晓获奖结果，闭幕式还围绕“桌面AI究竟应该怎么做”展开交流：从硬件设计、模型部署到大模型推理技术，几位嘉宾分别从不同环节分享了自己的思考。
 具体来看，作为本次竞赛的统一开发平台，技嘉AI TOP ATOM搭载NVIDIA GB10 Grace Blackwell超级芯片，采用20核ARM处理器与Blackwell GPU组成的异构架构，可提供最高1000 AI TOPS的FP4算力。其配备128GB LPDDR5X统一内存，CPU与GPU通过NVLink-C2C共享同一内存池，带宽高达273GB/s，在减少数据搬运开销的同时，也让设备能够在桌面端运行最高2000亿参数的大模型；通过双机互联，还可进一步支持4050亿参数模型推理。与此同时，整机功耗仅为170W，在紧凑机身中兼顾了算力、内存容量和能效表现，为本地大模型推理、模型微调及AI应用开发提供了一套相对完整的桌面级解决方案。  在硬件平台之外，如何降低模型部署与调用门槛，同样决定着本地AI的使用体验。随后，北京趋境科技副总裁关嘉伟先生介绍了公司的相关产品与解决方案。借助大模型部署和管理工具，开发者可以减少模型安装、环境配置和推理调用等环节的复杂操作，推动本地AI从“能跑起来”走向更加简单、易用的实际应用。  在部署工具之下，推理效率则进一步决定了硬件潜力能否被充分释放。KTransformers维护者、清华大学博士谢威宇先生从技术层面，围绕大模型本地推理、CPU与GPU异构计算以及MoE模型等方向展开讨论，介绍如何通过更合理的资源调度和推理优化，提高大模型在本地硬件上的运行效率。  从AI TOP ATOM提供硬件基础，到部署工具降低使用门槛，再到KTransformers优化模型运行效率，三场分享共同勾勒出本地AI从硬件、软件到推理技术的完整链路。而过去48小时里，参赛团队所做的，正是把这条技术链路落到具体应用场景中。相比单纯展示跑分和理论算力，这些可以现场运行的项目更直观地体现了桌面AI超算的应用价值。   在这些项目中，鲲鹏战队打造的多模型智能框架获得最佳作品奖，奖品为技嘉AI TOP ATOM，并由NVIDIA企业开发者社区经理何琨先生为团队颁奖。该作品可离线运行，通过“大模型负责规划、小模型负责执行”的方式，将法律检索、合同审查、材料整理和文书生成等任务拆分后交给不同模型协同完成。相比所有环节都依赖单一大模型，这种方案能够根据任务复杂度灵活调用不同模型，在保障数据本地存储和客户隐私的同时，降低律所部署和使用AI的成本。现场展示中，该框架还实现了多Agent协作，体现出AI TOP ATOM承载律所私有化AI工作流的实际价值。   岐黄AI（AI for TCM）与瓦瓦团队共同获得开发者潜力奖，奖品为技嘉GO27Q24G显示器，由技嘉科技专案电脑事业处资深经理张风庆先生颁奖。其中，岐黄AI队带来的“中医智能辅助分析工作台”以技嘉AI TOP ATOM为本地算力基础，将中医诊疗知识、患者档案、四诊分析和方证参考等功能整合到同一平台，尝试把原本依赖个人经验、难以标准化传承的中医知识转化为可检索、可复用的数字化能力。除了辅助基层医疗人员快速调取诊疗信息，这套系统还可延伸至课堂教学和家庭健康管理等场景，让传统中医智慧以更直观、更普惠的方式得到传承和应用。除以上获奖队伍外，本次竞赛还评选出其他不同奖项，每个参赛队伍都立足本地AI算力挖掘细分行业痛点，交出了完成度极高、创意十足的落地项目  全部奖项颁布完毕后，本届技嘉桌面AI超算竞赛正式落幕。参赛项目所覆盖的法律服务、中医辅助分析等场景，也展示了本地AI在行业应用中的更多可能。这场48小时的比赛虽然已经结束，但围绕本地大模型应用的探索才刚刚开始。 |
本文版权归 PCEVA,PC绝对领域,探寻真正的电脑知识 原作者所有 转载请注明出处
最新评论
热门评论
商家促销
团购试用
原创精华
论坛热帖
40关注
9参与
87关注
8参与
1749关注
3参与
19关注
3参与
26关注
3参与
25关注
2参与
90关注
2参与
105关注
2参与
1258关注
1参与
80关注
1参与
精彩图文
