Browser Use 推出 macOS Harness,用于直接控制 Mac 应用

这个开源的 Python 层通过六个原语为编码代理提供对原生应用、已登录的浏览器、文件和 shell 命令的访问。

By · Published

Primary source: X

Why it matters

Browser Use is moving its agent architecture from web automation into the operating system, giving coding models a common control layer for browsers, native apps and local files.

Browser Use launches macOS Harness for direct control of Mac apps — The open-source Python layer gives coding agents access to native apps, logged-in browsers, files and shell commands through six primitives.

Gregor Zunic (@gregpr07), Browser Use 的联合创始人兼 CTO,于 8 月 17 日推出了 macOS Harness,这是一个实验性的开源 Python 层,允许编码代理在浏览器、文件和 shell 命令之外操作原生 Mac 应用程序。

Zunic 在 X 的一条线程中介绍了 macOS Harness,而其 GitHub 仓库 展示了更大的赌注:Browser Use 正在将其代理基础设施扩展到网站之外,并为模型提供一小组原始接口来控制用户计算机的其他部分。

根据 Y Combinator 的 Browser Use 页面,Zunic 在获得物理学学士学位后曾在 ETH Zurich 学习数据科学。他于 2024 年与 Magnus Muller 共同创办了这家旧金山公司,并加入了 YC 的 2025 年冬季批次。Browser Use 起初提供了一个将 AI 代理连接到网站的开源库;macOS Harness 将这种方法推进到了桌面软件领域。

六个原语,而不是针对特定应用的集成

macOS Harness 暴露了六个主要操作:seekeytypeclickaxscript。它们共同允许代理捕获应用窗口、发送键盘或坐标输入、检查 Apple 的无障碍树并执行 AppleScript。Browser Use 还将其现有的 Browser Harness、Python 的文件系统工具和子进程访问置于同一持久进程内。

持久性是这一设计的核心。变量、帮助函数和状态可以在调用之间保留,允许代理在执行任务期间编写缺失的 Python 逻辑,而不是依赖固定的集成目录。Browser Use 表示并没有为 Spotify、Slack 或 Final Cut 等应用提供专门的工具。模型接收底层的 Mac 原语,并自行构建所需的工作流。

仓库中的示例演示了代理捕获 Spotify、通过键盘命令打开搜索、输入艺术家名称、点击坐标、通过无障碍数据检查界面并发送 AppleScript 命令开始播放。相同的进程还可以通过 Chrome DevTools Protocol 查询已登录的 Chrome 会话并检查本地文件。

Browser Use 表示,该 harness 可以在不将应用窗口置于前端的情况下捕获后台应用窗口,将输入定向到特定进程,并显示允许穿透点击的虚拟指针而不移动用户的物理光标。最后一个特性解决了桌面自动化的一个实际问题:代理可以在应用内部工作,而用户仍然保留对实际鼠标的控制权。

Browser Use 扩展了它的薄型 harness 论点

macOS Harness 遵循 Browser Use 为浏览器代理开发的架构。该包依赖于 Browser Harness(Browser Use 用于 Chrome 的持久控制层),并通过 PyObjC 使用 Apple 的 Application Services 以获取原生桌面访问。

Zunic 在 2026 年一直主张,当模型获得直接工具并有空间从错误中恢复时,代理的可靠性会提高。在一篇 3 月的工程帖子 中,他写道 Browser Use 围绕在真实代理会话中观察到的行为构建 harness,而不是围绕大型框架中编码的假设。macOS Harness 将这一原则应用于操作系统级别:一个持久的 Python 进程、一组有限的原语以及对底层环境的直接访问。

此发布也不同于早期由 Browser Use 托管、由 Ofir Ozeri 与 Zunic 和 Muller 合作创建的桌面代理仓库 macOS-use。macOS-use 将代理工作流打包在与 Mac 交互和模型提供者相关的更高层面。macOS Harness 是一个更低级的控制面,旨在位于能够在工作时生成自身 Python 代码的编码代理之下。

该包当前为 0.1.2 版本,并在其项目配置中标注为 alpha。它需要 Python 3.11 或更高版本,而 Browser Use 的安装说明建议使用 Python 3.12 和 uv 包管理器。Browser Use 提供了针对 Codex 和 Claude Code 的设置说明,包括一个生成的 skill 文件,用来教编码代理如何调用该 harness。

桌面访问提高了权限风险

安装 macOS Harness 可能需要授予 Accessibility、Screen Recording 和 Automation 权限。Browser Use 表示不需要 Input Monitoring,并告诫用户仅授予该包诊断命令报告所需的权限。

这些权限使代理能够访问可见的界面内容并在应用内执行操作。Browser Use 的 安全指南 告诉用户将代理指令和第三方界面内容视为不受信任,审查不可逆的操作,并将权限限制为每项任务所需的最小权限。

默认启用匿名遥测。Browser Use 表示它记录命令类别、成功与否、持续时间、包版本、操作系统、架构以及检测到的代理客户端。文档称提示、屏幕截图、应用名称、界面文本、脚本、文件路径和窗口标题被排除在外,用户可以从命令行禁用遥测。

macOS Harness 采用 MIT 许可证,仅限 Mac 平台。其早期发布将可靠性和安全任务执行作为核心考验。Browser Use 已为代理提供了一条从编码会话进入原生应用、个人文件和已认证浏览器会话的途径。这种访问的有用性将取决于当代理遇到真实桌面中不规则的界面和权限边界时,这六条命令的控制层能否保持可预测性。

Reader comments

Conversation for this story loads after sign-in.