Show HN: 将提示词作为 WASM 程序
分析
这篇文章介绍了 AICI，这是一个用于 LLM 推理引擎的新接口。它利用 WASM 实现速度、安全性和灵活性，允许受限输出和生成控制。该项目由微软研究院开源，并寻求反馈。
引用 / 来源
查看原文"AICI is a proposed common interface between LLM inference engines and "controllers" - programs that can constrain the LLM output according to regexp, grammar, or custom logic, as well as control the generation process (forking, backtracking, etc.)."