一个控制ChatGPT的token爆炸的想法
我在设想一种,仿照真实聊天方式的ChatGPT的请求方式。这只是一种优化。
目的:
- 减少token使用,降低成本并提升回复消息大小上限
- 使请求体大小和token数不会随着时间线性增长
方法:
[ system 规则 ] + [ user 最近一个问题 ] + [ assistant 对消息记录的查询请求 ] + [ system 回复 ]
- 返回类型
没成功,ChatGPT不理解我的提示
muspi_merol / blog / ifl6npngcxx0ipqq
最后更新于:2023年3月7日
我在设想一种,仿照真实聊天方式的ChatGPT的请求方式。这只是一种优化。
目的:
方法:
[ system 规则 ] + [ user 最近一个问题 ] + [ assistant 对消息记录的查询请求 ] + [ system 回复 ]
没成功,ChatGPT不理解我的提示