如何本地部署deepseek?
  

adds 14

{{ttag.title}}


1、deepseek是啥?
DeepSeek是杭州深度求索(DeepSeek)官方推出的AI助手,免费体验与全球领先AI模型的互动交流。总参数达到6710亿的DeepSeek-V3大模型,多项性能指标对齐海外顶尖模型,用更快的速度、更加全面强大的功能答疑解惑,助力高效美好的生活。


2、部署硬件要求
这里面写的建议是16GB显存、32GB内存、500GB SSD。
但用普通的电脑也能跑。

3、安装ollama
Ollama是一个开源框架,允许用户在计算机本地创建、训练和微调语言模型。
下载ollama软件
点击download
根据自己电脑选择对应的版本。这里选择windows。
安装。
安装完成后打开DOS。
输入命令:ollama -h
有此“Larger language model runner”回显证明安装成功。

4、导入模型
点击allama网站的models
选择“deepseek-r1”
这里有很多模型,我们选择最小的”1.5b“模型
这里无需下载,复制该模型对应的URL在DOS下执行即可。
复制:ollama run deepseek-r1:1.5b

5、测试使用
退出使用命令“/bye”

6、部署可视化界面
下载软件chatbox
安装chatbox
打开chatbox,选择“使用自己的API KEY或本地模型”
选择“Ollama API”
模型选择“1.5p”
打开“新对话”
输入你的问题,然后AI就会给出回答。比如“我不想上班怎么办”

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

发表新帖
热门标签
全部标签>
【 社区to talk】
每日一问
安全效果
新版本体验
GIF动图学习
功能体验
社区新周刊
纪元平台
高手请过招
技术咨询
产品连连看
西北区每日一问
标准化排查
秒懂零信任
社区帮助指南
答题自测
VPN 对接
排障笔记本
华北区交付直播
每周精选
信服课堂视频
技术笔记
干货满满
玩转零信任
技术晨报
北京区每日一练
故障笔记
畅聊IT
专家问答
技术圆桌
在线直播
MVP
网络基础知识
安装部署配置
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
原创分享
解决方案
sangfor周刊
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
产品预警公告
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
深信服技术支持平台
答题榜单公布
2023技术争霸赛专题
通用技术
卧龙计划
华北区拉练
天逸直播
以战代练
自助服务平台操作指引
技术盲盒
山东区技术晨报
文档捉虫活动
齐鲁TV
2024年技术争霸赛
场景专题
排障那些事
升级&主动服务
高频问题集锦
POC测试案例
全能先锋系列
云化安全能力
故障案例库

本版版主

12
185
6

发帖

粉丝

关注

127
319
357

发帖

粉丝

关注

本版达人

LoveTec...

本周分享达人

新手24116...

本周提问达人