Dan Luu 认为,编码代理让对错误的视而不见成为产品问题

这位资深系统工程师表示,团队将有缺陷的工作流程常态化,使人工智能在加速代码的同时并未纠正他们的判断。

By · Published

Primary source: Dan Luu

为何重要

人工智能(AI)降低了生成和修复软件的成本,提高了那些能够在客户自行学会离开之前识别出问题工作流程的团队的价值。

Extreme close-up of a software code diagram highlighting a bug and a broken workflow connection with an accompanying error message.

Dan Luu 在 8 月 30 日发表了一篇诊断,解释为什么软件团队会交付用户难以操作的产品:构建这些产品的人已经学会了不再看到自己的错误。

在他的新文章、"错误盲点" 中,Luu 认为工程师和有经验的用户会积累一套私有的暂停、重启、回避功能和精心排序的点击序列。这些变通措施最终变得自动化。潜在的缺陷从意识层面消失,即便每一个新用户仍会遇到它。

Luu 职业生涯的大部分时间都与那些微妙故障至关重要的机器靠得很近。他在 Centaur Technology 在 x86 处理器及相关验证方面工作了八年,然后成为后来发展为 Google 的 Tensor Processing Unit 项目的第二位工程师。他后来参与了 Microsoft 的 BitFunnel 搜索基础设施;BitFunnel 的团队页面 描述了他早期在网络虚拟化硬件、深度学习硬件以及 x86 和 ARM 处理器方面的工作。…

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.

Reader comments

Conversation for this story loads after sign-in.