sillytavern吧 关注:4,258贴子:7,236
  • 8回复贴,共1

请问文本补全和聊天补全有什么区别

只看楼主收藏回复




IP属地:江苏1楼2025-03-03 16:55回复
    我现在使用的是文本补全,为什么两个模式的API连接模式不一样,而且是否聊天补全才能修改预设呢


    IP属地:江苏2楼2025-03-03 16:57
    回复
      广告
      立即查看
      本地部署模型用文本补全,在线api去用聊天补全。你用ds的话去用聊天补全,两个补全的预设是不一样的。


      IP属地:广西来自Android客户端3楼2025-03-03 19:38
      收起回复
        文本补全超级卡和慢而且随便爆tonken几乎用不了带世界书的卡。
        聊天补全我4090瞬间出文本,但是不知道为什么不会读取世界书,他能知道场景和一些设定,但是不会抓取角色只会乱编人物而且没上下文关系。
        用的🐋r1本地32b


        IP属地:云南4楼2025-04-08 19:59
        回复
          聊天补全:
          系统:"*各种乱七八糟的角色卡,world lore*"
          用户:"LLM一定要会说话"
          AI:"😭😭😭😭👏👏👏👏✍️✍️✍️✍️"
          你的输入、AI的回复、角色卡等提示词之间是分开的
          文本补全:
          输入:"LLM一定要会说话"
          得到:"*各种乱七八糟的角色卡,world lore*(中略)LLM一定要会说话,发生了会如何,不发生又会如何。 既然如此, 我认为, 既然如何, LLM一定要会说话,发生了会如何,不发生又会如何。"
          你的输入会和提示词以及历史聊天组合起来视为一条单独的文本,由AI尝试进行续写(也就是补全)
          一般来说在线的openai兼容api用聊天补全就是了,文本补全多出来的功能没用


          IP属地:四川5楼2025-04-08 20:37
          回复