OpenAI 对巨型 ChatGPT 和 Codex 线程进行了基准测试，显示加载时间缩短了 16 倍
在一次测试中，一个 741 回合、231 MB 的线程在 1.66 秒内加载完成，内存增长更低，请求数减少了 98%。
By Ryan Merket · Published
Primary source: X
为何重要
Agent 产品越来越多地存在于冗长且工具密集的对话线程中。OpenAI 的测试表明，桌面客户端可以在不一次性加载每个对话记录条目的情况下，保持这些历史记录的可用性。
Andrew Ambrosino (@ajambrosino), who leads OpenAI's Codex desktop app, has benchmarked a new approach to loading extremely large ChatGPT and Codex conversations, cutting the test thread's load time from 27.62 seconds to 1.66 seconds.
该测试使用了一个包含 741 轮、占用 231 MB 的对话。根据 Ambrosino 在 X 上的帖子，修订后的实现还使对话渲染器的 JavaScript 堆增长减少了 87.8%，整个应用的内存增长减少了 41.2%。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.