Promplate 目前的成果总结


正好要给一个朋友介绍一下,于是自己就整理一下:

项目 面向 进度 介绍
promplate 开发者 stable 一个用于用到提示工程的项目的 python 库(未来可能也实现一个 JavaScript 版本的,应该不难),包含一个模板引擎、一个基于状态机的 LLM agent 框架、一个调用 OpenAI API 的 chat completions 客户端。事实上,promplate 的名字就是 prompt + template,因为这就是提示工程的核心
promplate-demo 开发者、普通用户 stable, development 一个提示工程服务端项目,本意是作为使用 promplate 做提示工程项目的一个 demo,现在作为我一个免费的简单 LLM chat 服务网站的后端。其中包含十几个 LLM 供应商的集成、一些实用的提示工程实现,比如翻译、提取、总结,以及有一个 WIP 通用领域 agent 实现
reasonify 普通用户、研究者 beta 一个非常实验性的 agent,它不生成文本,而是只生成代码。它生成的代码会立即运行,实现与用户的交互。应用场景是一些代码任务,这个项目目前完成度还不太高
partial-json-parser 开发者 stable 一个用于解析流式传输中的 JSON 的 parser,现被用于 vllm 等多个库中
partial-json-parser-js 开发者 stable 同上,但是是 JavaScript 实现的
promplate-pyodide 开发者 stable 一个对 promplate 的 monkey patch,使其能在 pyodide 环境中运行
promptools 开发者 stable 一些与 promplate 不绑定的工具函数,对 promplate 没有强制依赖
promplate-trace 开发者 unmaintained 将 promplate 与 LLM observation 平台的集成,目前支持 langsmith、langfuse,未来准备支持 literal、lunary、logfire 等,让使用 promplate 的提示工程项目可以以一行代码获得这些平台的 tracing 或者说 logging
isomorphic-fetch 开发者 alpha 一个在 pyodide 和非 pyodide 环境都有一样的 API 的 http 请求库
pyth-on-line 开发者 development 我目前主要在做的项目,目标是成为 Stackblitz、Bolt.new 这样的东西

此外还有一些面向开发者的库,在这里就不提了