deepseek吧 关注:116,252贴子:227,524
  • 7回复贴,共1

请教一下,想自己组装个设备运行deepseek该怎么操作

只看楼主收藏回复



IP属地:河北1楼2025-02-10 15:31回复
    根据配置选择模型大小,b站有部署教程


    IP属地:福建来自Android客户端2楼2025-02-10 15:32
    收起回复
      为什么不问问deepseek


      IP属地:重庆来自Android客户端3楼2025-02-10 16:04
      收起回复
        b站有能人一千块以内运行满血r1,不过速度特别慢,我记得好像是一秒一个字


        IP属地:北京来自iPhone客户端4楼2025-02-10 16:11
        回复
          看你想整活运行满血模型还是流畅日用
          前者我不知道,后者我自己用2060 12G能跑14B模型,但SF那边9b以下免费用,就懒得开电脑耗电了(


          IP属地:福建来自Android客户端5楼2025-02-10 20:07
          回复
            Ubuntu系统最方便,然后使用ollama做底层的模型管理!可以根据自己硬件安装7b 14b 32b,推理很占用cpu和内存,32b内存也要40g以上!显卡越高越好,web界面最简单的是page assist,可以直接使用,如果想远程调用或者公网使用,用open webUI之类的!


            IP属地:阿曼6楼2025-02-10 20:11
            回复