Kevin Rose 推出免费提示,用于探查 AI 记得关于你的哪些信息

这个免费的 Markdown 文件将可访问的聊天记录和已保存的记忆转换成带有证据评分的个人画像,而无需新增服务或账户。

By · Published

Primary source: X

Why it matters

Reflection Engine treats accumulated AI memory as a new application substrate, while exposing the limits, privacy risks and platform dependence facing founders who build on it.

An individual's fragmented digital identity, assembled from AI's remembered data (High-contrast photocopied zine aesthetic, with visible xerox grain, rough cut-and-paste elements, and deliberately degraded text and imagery)

Kevin Rose (@kevinrose) 发布了 Reflection Engine,一个免费提示,要求 AI 助手从其对用户的记忆中挖掘盲点、矛盾、情感习惯和可能的发展轨迹。

Rose 在 8 月 3 日通过 在 X 上的两帖线程 分发了该文件,写道 AI 一直在“悄悄地为你组装一份完整的行为记录。” GitHub 仓库及其四个初始提交也在同一天出现。

Rose 最为人熟知的是作为 Digg 的创始人——他在 2004 年开始构建这一社交新闻网站。此后他推出了包括禁食应用 Zero 和冥想应用 Oak 在内的消费产品,曾在 Google Ventures 担任普通合伙人,并领导手表出版与零售商 HODINKEE。他的 当前简介 写道,他正在 Basic Intelligence 从事投资和建设,该组织是重启版 Digg 背后的团队。

Reflection Engine 符合 Rose 长期以来对消费软件、个人习惯和自我检视的兴趣。它也完全依赖由大型 AI 实验室控制的基础设施:只有当助手能够检索到足够的先前对话、保存的记忆和上传的材料以跨时间发现模式时,这个提示才变得有用。

提示的要求

可下载的 Reflection Engine v1.3 file 包含 22 个问题。它们包括:“What truth about myself would I probably resist hearing?(关于我自己的什么真相我可能最不愿听到?)”、“Where am I mistaking motion for progress?(我在哪把忙碌误认为是进步?)”、“What contradiction in me explains the most?(我身上的哪个矛盾能解释最多?)”以及 “What is the biggest bet I appear to be making with my life?(我在人生上看起来下的最大赌注是什么?)”等。

Rose 构建的不仅仅是一组发人深省的问题。该提示要求模型说明它可以访问哪些材料,在得出结论之前映射反复出现的主题,并将稳定特质与暂时状态、志向、孤立事件和语音转文字错误区分开来。它还要求助手寻找反证并避免将用户对某个主题的好奇心视为行为的证据。

每个答案都必须带有置信度分数、证据广度的描述以及诸如“observed pattern(观测到的模式)”、“inference(推断)”或“insufficient evidence(证据不足)”之类的状态。得分七分或更高的结论需要至少两个独立的证据点,最好来自用户生活中不同的时期或不同部分。每个部分结束时都要附上用户可以测试的一项实用行动。

这些控制针对的是 AI 生成内省的一种核心失误模式:模型可能仅凭薄弱或选择性检索的证据就生成令人信服的人格解读。Reflection Engine 指示助手在报告中揭示这些限制,尽管该披露的质量仍取决于模型是否遵循提示并准确理解其检索到的内容。

记录并不完整

Rose 对“完整的行为记录”的描述超出了平台自身文档所述的范围。OpenAI 表示 当聊天历史启用时,ChatGPT 可以引用过去的对话,但明确警告它并不会记住每一个细节。保存的记忆和被引用的聊天历史是两个独立的系统,用户可以禁用其中任意一个。

Google 的文档 表示 Gemini 可以使用过去的聊天、偏好和已连接的 Google 服务来个性化回复,尽管这些功能对某些账户和用户不可用。因此,最终描绘的是提供方所保留和检索到的内容,而不是一个包含某人所说或所做一切的中性档案。

时间节点也将 Reflection Engine 置于一类新兴的以记忆为核心的 AI 功能之旁。7 月 9 日,Anthropic 推出了 Reflect with Claude,这是一个测试版仪表盘,可在一个月到一年不等的时间范围内总结主题、工作模式和使用情况。Anthropic 的功能侧重于人们如何使用 Claude。Rose 的提示则把同样的底层历史推向对工作、人际关系、习惯和身份的更广泛判断。

Reflection Engine 本身没有添加由 Rose 控制的服务器、账户或遥测。用户下载该 Markdown 文件并将其附加到现有的助手对话中。该设计避免了将用户历史的第二份副本发送给独立初创公司,尽管助手提供方仍然位于信任边界内。

输出本身也产生隐私风险。Rose 警告称,生成的画像可能来自关于健康、金钱、家庭和人际关系的对话,并建议用户不要将报告放入共享工作区和团队聊天中。

Reflection Engine 的早期形式与其内容同样重要。Rose 将该工作流打包为一个文件而不是一个应用程序,把分发、存储、推理和个人数据留给模型提供方。这使得该发布容易被复制,也难以作为独立业务进行防护。它还展示了一个新的软件层正在形成:旨在从已存储在 ChatGPT、Claude 和 Gemini 中多年的个人背景中提取价值的提示和代理。

这一层是否会支持独立产品,将取决于各大实验室开放多少记忆、用户能将其做得多便携,以及人们是否信任第三方来解读他们最敏感的对话。Rose 的发布目前回避了第三方数据问题。它也展示了模型提供方的记忆功能如何迅速成为它们并未构建的产品的原始材料。

Reader comments

Conversation for this story loads after sign-in.