Few-show 可以简单的理解为在发送 prompt 时提前做一个 context mock,通过少量引导可以显著提升 AI 回复质量的技巧
Few-shot 也有助于 AI 进行链式思维以提升结果的准确率,可以应用到很多场景
一个 shot 其实就是 in-context 中的一个 user + assistant 的一问一答,给的例子越多它越准
比如下面这个例子 通过3个 shot 实现 语法检查的功能 此时他输出结果就是完全满足预期的 而不是随便回答
但是 few-shot 也存在一些问题就是 前面的记忆内容会影响输出的结果
不过这个问题也不是 太大的问题 在客户端里面 可以通过把 历史消息数量 设置成为0 来解决
不过后续会开发 给单独的chat 设置 历史消息数量的功能 那就更加的方便了
如果使用few-shot 就自己设置上下文 然后把历史消息关掉 可以节省大量的token
如果不使用 few-shot 那就是普通对话 可以根据自己的需求设置历史消息数量