庄毅辉
男 汉族 2002年
大三学生,现就读于 北京师范大学(珠海校区)
GitHub: Muspi Merol @CNSeniorious000 / Email: me@promplate.dev / Tel: 17620453640
目前在珠海学校里 佛系创业中
领域:LLM 相关 / Web 前后端开发 / 科班数据科学
部分技术栈
- 有用 JavaScript / TypeScript 开发 application 和 library 的经验,但是没有做过大项目
- 非常熟悉 python,但先不详说了
- Web 开发方面熟悉 FastAPI,也用过 Django 但不太喜欢
- 写过 TGI / 讯飞星火 / 百度文心 转 openai 接口的 wrapper;写过 openai 的账号池中间件
- 了解 langchain 以及其它一些提示工程框架例如微软的 guidance
- 用的向量数据库主要是 chromadb,还给它写过一个小轮子 aiochroma
- 蛮熟悉 langsmith 的,目前已经把自己的提示工程框架和 openai 账号池对接 langsmith
- Web 标准方面有一定常识
- 熟悉 SSE(但更喜欢用 jsonl 来流式传输)
- 比较熟悉 PWA 但好像国内不太有什么项目用
- 也做过 Vanilla JS / CSS / HTML 的项目
- 熟悉 cloudflare;熟悉 Linux;会用 Docker 部署;会在 GitHub / Gitlab 上配流水线;熟悉日常的 git 操作
- 用过各种市面上常用的 LLM 的API,GPT、Claude、百度/讯飞,各种 llama Xwin 啥的
工作经历
- 在杭州斛丰科技做算法和后端工程师,核心负责用 python 和 JavaScript 实现推荐算法、医学问诊 Chatbot、辅助诊疗可信 AI、基于 embedding 的模糊匹配、医学领域下的类 Copilot、小规模的爬虫等项目等
- 在上海守扣科技做算法工程师,核心负责用 python 实现基于 chain 的医学知识图谱提取、智能陪练助理、文本格式化等开发,和一些原型项目的简单前端开发
- 在校期间在多个校媒任设计部部长
个人项目
- 做了一个专注于灵活性的提示工程框架 promplate,虽然在我的两个实习公司都用在生产环境了但其实完成度还不高,都是用到哪做到哪
- 更泛用的是一个 python 和 JavaScript 的 JSON 解析库,目标是用于解析 LLM 生成的 JSON。看 DEMO 就懂了
- 基于开源框架改写维护了两个 ChatGPT 镜像站,顺路学了不少运维等知识,维持公益运营最高时 Google Analytics 统计到 20000 用户/日
- 写了一些后端的东西,tgi 转 openai 接口的 wrapper,以及讯飞星火转 openai 接口的 wrapper,写过一个账号池实现,接入了 langsmith 来提供可观测性
- 给学校的校史写了个 documentQA,但是业余时间少,还没完成,因此就不放链接了
- 一个在线无需服务端的 python console,由 wasm 驱动,带有 AI 纠错等类 Copilot 功能
- python 格式化工具 black 的官方 interactive playground
当然还有很多其他项目,都能在我 GitHub 上找到,但是跟 LLM 关联较大的就这些了,所以就不赘述了
东西有点多 部分内容可能已经过时了 见谅🙏