腹地部署DeepSeek-R1大模子
大众好，我是冷水沏茶。最近有个AI大模子DeepSeek超过火，它性能不凡，径直挑战GPT-4o，况且免费开源，还不错腹地部署，强悍得不要不要的。要道的少许，它是当今限制，最强悍的国产大模子。咱们今天来试一试腹地部署，无须联网也能使用。1、下载 Ollama，这是一个用于腹地运转AI模子的用具平台，下载地址：https://ollama.com/
迷水商城迷水商城咱们点“Download”下载：
迷水商城迷水商城图片
接下来会自动匹配你的操作系统，如若莫得问题，点击下载纠合下载装配文献（我的电脑是WINDOWS操作系统，系统条款Win10以上，装配文献有745M）：
图片
迷水商城2、下载一个Chrome插件：Page Assist，这是一个不错在浏览器里运转腹地AI模子的插件，Edge浏览器也适用，插件地址：
https://chromewebstore.google.com/detail/page-assist-本地-ai-模型的-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo
图片
也不错在专揽商店搜：Page Assist3、Python（这个不笃定需不需要，在向几个AI发问如何用ollama部署腹地大模子的期间，齐提到装配Python以及干系依赖库，归正我的电脑上是装配了Python的）。装配1、双击下载好的装配文献，OllamaSetup.exe。
迷水商城2、装配好以后它会自动运转，在职务栏咱们不错看到：
图片
咱们大开大叫行，实行以下大叫装配相应的模子，显存4G以下的，咱们选1.5B的（我的电脑显存只消2G）。1.5B Qwen DeepSeek R1
ollama run deepseek-r1:1.5b
7B Qwen DeepSeek R1
ollama run deepseek-r1:7b
8B Llama DeepSeek R1
迷水商城ollama run deepseek-r1:8b
18J国产 全网app®解14B Qwen DeepSeek R1
ollama run deepseek-r1:14b
32B Qwen DeepSeek R1
ollama run deepseek-r1:32b
迷水商城70B Llama DeepSeek R1
迷水商城ollama run deepseek-r1:70b
图片
迷水商城恭候拉取模子得手迷水商城图片
使用1、在大叫手脚直输入对话：
图片
2、关闭对话后，如若要重新运转，相通地，咱们输入以下大叫，春药微信号/春药货到付款微信不外，此次它不会再去拉取模子了：
ollama run deepseek-r1:1.5b
图片
3、在浏览器中运转，点击插件，选拔模子：
图片
迷水商城咱们点击右边的“开荒”，选拔RAG开荒，选拔文本镶嵌模子，其他的暂时不动，记起保存：
图片
咱们试一下，问一个推理问题：昨天的来日是哪天？
图片
回应正确，速率也很快！不外有点缺憾的是，我再问它相通的问题的期间，它就回应错了。可能是参数较小的关系，我在它官方网站上连气儿两次发问：
迷水商城“昨天的今天是哪天？
迷水商城它齐准确地回应是“今天”。
写在终末1、腹地部署得手，关联词运转速率有期间有点卡，这跟电脑建设干系系。
2、除非是莫得任何集合，我合计腹地模子的真理不是很大，一则电脑硬件委果有限，运转速率慢，二则模子的参数目太小，精度不高，功能有限。我自后又下载了一个7B的模子，运转速率就慢得很，差点死机。
3、如若把数据安全隐敝放在第一位的，咱们选拔腹地模子没邪恶，超过是要使用成心的常识库进行进修的。这期间咱们应该有计划栽种电脑硬件建设啦。
今天就到这里，咱们下期重逢！
~~~~~~End~~~~~~ 本站仅提供存储工作，通盘本质均由用户发布，如发现存害或侵权本质，请点击举报。