DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

一、Ollama

下载 Ollama

https://ollama.com/

  • Ollama 是一个用于管理和部署机器学习模型的工具。
  • 目前 Ollama 支持 macOS、Linux、Windows,选择相应的系统下载即可。
DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

安装后运行软件,在任务栏确认在右上角出现这只 小羊驼🦙 图标

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

选择模型

点击Search models 搜索框,第一条就是 deepseek-r1 模型。

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

这里我们发现了多个不同大小的模型,文件大小适配不同的设备

DeepSeek R1提供多个版本,参数量越大,模型通常越强大,但也需要更多的计算资源。

比如1.5B代表有15亿个参数。

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

借助网上大佬们整理的表格供大家参考,来确认你的电脑可以运行哪个模型:

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

运行模型

运行模型很简单:确定模型后,复制这条指令到终端里

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

当进度条跑满时,恭喜,你的电脑已经拥有了顶级的推理能力

使用 && 测试

这里我已经提前下好了,使用 ollama 提供的终端指令 ollama list 可以看我们电脑上已经部署了哪些模型,然后使用 ollama run 对应的模型 就可以了

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

输入 /bye即可退出

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具
  • ollama 命令查看
admin@admindeMacBook-Pro ~ % ollama
Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

Use "ollama [command] --help" for more information about a command.

虽然这里终端已经可以使用了,但是还是不太方便。

  • 这里就有人要问博主了,你推荐的模型确实挺不错的,但是还是太吃操作了,有没有更加方便的使用方式呢?
  • 有的兄弟有的,像更方便的使用方式那么就是 Chatbox

二、Chatbox

浏览器搜索 Chatbox 并下载客户端或者网页版都可以

1.设置语言为中文并保存

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

2.点击设置选择模型为 OLLAMA API

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

为了确保可以连接到本地服务,大家按照提供的教程设置一下,不同的操作系统设置不太一样,然后选择 R1模型并保存

3.连接到本地服务教程跳转

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

现在你就可以在 浏览器/客户端 上流畅的使用 R1 了。

创建你的专属 GPTs

点击我的搭档,创建搭档,给ai角色设定人格,你也可以选择现有的搭档,一个资深的行业专家就出现了。

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

三、共勉

以上就是我对 DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具 的理解,觉得这篇博客对你有帮助的,可以点赞收藏关注支持一波~

原文:https://blog.csdn.net/weixin_50776420
后端专属技术群

构建高质量的技术交流社群,欢迎从事编程开发、技术招聘HR进群,也欢迎大家分享自己公司的内推信息,相互帮助,一起进步!

文明发言,以交流技术职位内推行业探讨为主

广告人士勿入,切勿轻信私聊,防止被骗

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具
加我好友,拉你进群

点下方的“❤支持我们,非常感谢!

原文始发于微信公众号(极客之家):DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

文章由极客之音整理,本文链接:https://www.bmabk.com/index.php/post/310533.html

(0)
小半的头像小半

相关推荐

发表回复

登录后才能评论
极客之音——专业性很强的中文编程技术网站,欢迎收藏到浏览器,订阅我们!