正好要给一个朋友介绍一下,于是自己就整理一下:
项目 | 面向 | 进度 | 介绍 |
---|---|---|---|
promplate | 开发者 | stable | 一个用于用到提示工程的项目的 python 库(未来可能也实现一个 JavaScript 版本的,应该不难),包含一个模板引擎、一个基于状态机的 LLM agent 框架、一个调用 OpenAI API 的 chat completions 客户端。事实上,promplate 的名字就是 prompt + template,因为这就是提示工程的核心 |
promplate-demo | 开发者、普通用户 | stable, development | 一个提示工程服务端项目,本意是作为使用 promplate 做提示工程项目的一个 demo,现在作为我一个免费的简单 LLM chat 服务网站的后端。其中包含十几个 LLM 供应商的集成、一些实用的提示工程实现,比如翻译、提取、总结,以及有一个 WIP 通用领域 agent 实现 |
reasonify | 普通用户、研究者 | beta | 一个非常实验性的 agent,它不生成文本,而是只生成代码。它生成的代码会立即运行,实现与用户的交互。应用场景是一些代码任务,这个项目目前完成度还不太高 |
partial-json-parser | 开发者 | stable | 一个用于解析流式传输中的 JSON 的 parser,现被用于 vllm 等多个库中 |
partial-json-parser-js | 开发者 | stable | 同上,但是是 JavaScript 实现的 |
promplate-pyodide | 开发者 | stable | 一个对 promplate 的 monkey patch,使其能在 pyodide 环境中运行 |
promptools | 开发者 | stable | 一些与 promplate 不绑定的工具函数,对 promplate 没有强制依赖 |
promplate-trace | 开发者 | unmaintained | 将 promplate 与 LLM observation 平台的集成,目前支持 langsmith、langfuse,未来准备支持 literal、lunary、logfire 等,让使用 promplate 的提示工程项目可以以一行代码获得这些平台的 tracing 或者说 logging |
isomorphic-fetch | 开发者 | alpha | 一个在 pyodide 和非 pyodide 环境都有一样的 API 的 http 请求库 |
pyth-on-line | 开发者 | development | 我目前主要在做的项目,目标是成为 Stackblitz、Bolt.new 这样的东西 |
此外还有一些面向开发者的库,在这里就不提了