HOME

QYE.net

WELCOME ようこそ 儂好

DEEPSEEK本地化部署

近期DEEPSEEK的开源引发了无数热议,自己也把几个大模型下载测试了下。

基本上的话,1.5B,7B,8B和14B都可以放弃,可以用来学习,但没有使用价值。

一般而言,个人用户32B是比较适合的,能够实际解决问题,比如编程,翻译,写作这些。

但32B对配置要求不低,CPU至少8核,内存32GB,显存24GB才能跑得比较流畅。

70B甚至满血的671B这种,需要高端显卡甚至服务器集群,普通用户就别想了。

现阶段AI本地化部署更多意义还是学习为主,可以不用,但必须得会……

当然本地化对于经常处于无网络环境且有数据保密需求的工作者来说还是很有用的。


32B模型下载地址:DEEPSEEK-R1-DISTILL-QWEN-32B


blog