Jordy Zomer 构建了一个 Datalog 引擎，以便 AI 代理能够正确遗忘
Lemmalog 将 LLM 的模糊提取与确定性的事实、溯源和撤回分离开来，早期基准测试显示出潜力与不足。
By RuntimeWire Staff · Published
Primary source: pwning.systems
为何重要
Lemmalog 将代理记忆从对话记录检索转向可审计的状态维护，为开发者提供了一种撤销错误假设的方法，而无需让 LLM 重建每一个依赖关系。
安全研究员 Jordy Zomer 在 8 月 28 日 发布了 Lemmalog 的设计和源代码，将长期运行的 AI 辅助漏洞研究中反复出现的失败转化为一个维护代理当前所知内容的 Datalog 引擎。
Zomer 从一个切实的烦恼出发。在大型代码库中工作数小时后，LLM 代理会重新激活已放弃的利用路径，忘记某个假设已被证明错误，或继续基于在调试器中已被否定的观测进行推理。检索可以把旧笔记找回来，但这仍然让模型去调和哪个版本仍然为真。
“我想让它维护我们当前所知道的内容，”Zomer 在 他 8 月 28 日 的技术记录 中写道。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.