三步把DeepSeek装进PC，及存储对端侧AI体验影响_PCEVA,PC绝对领域,探寻真正的电脑知识

设为首页收藏本站客户端

立即注册 | 登录

PCEVA,PC绝对领域,探寻真正的电脑知识 › 首页 ›原创评测› 精华 › 查看内容

内容展现
最新评论

三步把DeepSeek装进PC，及存储对端侧AI体验影响

2025-2-17 13:35| 发布者: Essence| 查看: 2540| 评论: 7|原作者: Essence

摘要：凭借与当前最先进闭源模型不分伯仲的综合能力，以及极有竞争力的训练和推理成本，国内开源大模型深度求索DeepSeek迅速崛起。360纳米AI搜索、腾讯元宝、知乎纷纷接入DeepSeek，本地部署DeepSeek也成为近期的热门 ... ...

前言

凭借与当前最先进闭源模型不分伯仲的综合能力，以及极有竞争力的训练和推理成本，国内开源大模型深度求索DeepSeek迅速崛起。360纳米AI搜索、腾讯元宝、知乎纷纷接入DeepSeek，本地部署DeepSeek也成为近期的热门话题。

端侧AI在保护隐私、脱机可用等方面具备独特优势，同时也能告别“服务器繁忙”，畅享DeepSeek自由。不过完整版的DeepSeek具备6710亿个参数，家用电脑的配置无法直接部署。DeepSeek在开源DeepSeek-R1的同时，蒸馏6个小模型开源给社区，给在PC上部署创造了可能。

本文导航

12 3 4 / 4 页下一页

0

本文版权归 PCEVA,PC绝对领域,探寻真正的电脑知识原作者所有转载请注明出处

最新评论

引用 StormBolt 2025-2-17 18:50: 我把模型从SATA上移动到NVME上，运行32BQ4的速度提高了1Tokens/sec，尽管这没有道理，但它是事实

引用 yhhuada66 2025-2-21 14:36: 想玩好本地的deepseek，看来需要4090及致态9000，

引用红色狂想 2025-2-21 16:45: yhhuada66 发表于 2025-2-21 14:36
想玩好本地的deepseek，看来需要4090及致态9000，

最好能搞8张H100交火

引用 cicada_zl 2025-2-22 15:12: 小白问个问题：如果电脑既有核显也有独显，然后把大内存划分给核显使用，可以把核显显存和独显显存整合起来使用吗？这样组合起来显存轻松超过40G吧

引用 yhhuada66 2025-2-23 14:06: cicada_zl 发表于 2025-2-22 15:12
小白问个问题：如果电脑既有核显也有独显，然后把大内存划分给核显使用，可以把核显显存和独显显存整合起来 ...

程序估计无法同时调用，最新的AMD AI-MAX 395之类CPU，搭配96g内存，跟5090显卡的推理能力差不多，哈哈

引用墙上的另一块砖 2025-3-11 14:28: 本帖最后由墙上的另一块砖于 2025-3-11 14:29 编辑

yhhuada66 发表于 2025-2-21 14:36
想玩好本地的deepseek，看来需要4090及致态9000，

没啥用！蒸馏的根本不是R1。最起码336G显存！
https://zhuanlan.zhihu.com/p/20845077348
实际上满血是707G

引用 tsammammb 2025-3-18 07:52: 多搞几张A770 16G更实际点吧，性能怎么样

查看全部评论(7)

热门评论

热门评论

关于我们 ArchiverPCEVA

© 北京绝对领域咨询有限公司 ( 京ICP备13033395号 )

京公网安备 11011502002666号

返回顶部