网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索
chatglm吧 关注：282贴子：448
  • 3回复贴，共1页

chatglm3-6b在centos服务器启动，求助大神

只看楼主收藏回复

我运行python cli_demo.py去加载模型，到43%就会自动killed，有大神知道怎么解决嘛
IP属地:北京1楼2023-11-16 15:29回复
    服务器显卡是4060ti的8G版本，已经开启了模型量化
    IP属地:北京2楼2023-11-16 15:31
    回复
      广告
      立即查看
      内存不足？
      IP属地:湖北3楼2023-11-17 12:52
      收起回复

        扫二维码下载贴吧客户端

        下载贴吧APP
        看高清直播、视频！
        • 3回复贴，共1页
        发表回复
        发贴请遵守贴吧协议及“七条底线”贴吧投诉
        内  容:
          查看全部
        发 表
        保存至快速回贴

        发布成功
        去贴吧APP订阅抽奖结果通知
        扫码进入贴吧APP
        ···········
        开奖后第一时间站内信通知
        ···········
        中奖结果全员公示