METAL

OpenAI 将 Appshots 带到 Windows 版 ChatGPT

OpenAI 把 ChatGPT 桌面应用的 Appshots 开放到了 Windows。按下两个 Alt 键,你正在看的应用窗口就会连同图像和文字一起附到对话里,连需要滚动才能看到的文字也会跟着进去。

OpenAI 将 Appshots 带到 Windows 版 ChatGPT

摘要

  • OpenAI 于 9 月 17 日通过开发者账号宣布 ChatGPT Appshots 在 Windows 上线。
  • 更新日志把它记在 9 月 11 日的 26.908 版本条目下,在 Windows 上按两个 Alt 键即可截取。
  • 一次 Appshot 只包含最前方那一个窗口的图像和文字,在 Google Docs、Gmail 这类应用里可能只有可见画面会被传过去。
Appshots 🤝 Windows

与其用话描述眼前的画面,不如把整个窗口直接递过去。OpenAI 于 9 月 17 日通过开发者账号宣布,ChatGPT 的 Appshots 可以在 Windows 上使用了。Appshots 会把最前方的应用窗口连同图像和文字一起附到 ChatGPT 对话里,在 Windows 上同时按下两个 Alt 键即可截取。在 Mac 上则是两个 Command 键。

OpenAI Developers 账号在那条帖子里写道:"Give ChatGPT context from the apps you're working in and spend less time getting it up to speed."接下来的句子列举了三种用法,并说还有更多。调试问题、抓取想要照着重做的界面、从别的应用里取数据,公司把这些都归结为一句话:"A lot less copying and pasting."

这项功能真正开放的日子还要早六天。METAL 查看的 ChatGPT 与 Codex 更新日志,把 Appshots 的 Windows 上线记在 9 月 11 日的 26.908 版本条目下。同一版本还加入了在悬浮的 Pets 控件里直接输入短对话的功能,用 @ 补充上下文、用 $ 选择技能,在 Mac 上按 Option 和空格、在 Windows 上按 Windows、Alt 和 P 就能唤出该控件。

Appshots 能装下什么,说明文档写得很清楚。文档明确写道 "an appshot captures the frontmost window only",装进去的是可见窗口的图像以及该窗口提供的文字。这些文字不只包括屏幕上看得见的部分,还包括要往下滚动才会出现的部分。附到对话里的 Appshot 此后就像一个附件,和手动上传的文件或图像一样保存在本地的会话文件中。

换成熟悉的场景,这就像在会议室里把笔记本电脑转向对方。与其解释哪里出了错,不如把画面亮出来让对方自己读,而这个顺序现在由两个按键代劳。只有善于表达的人才能得到好答案的格局,在这里被动摇了一次。

截下来的 Appshot 会进入哪个对话也有规则。默认是新开一个对话,但如果 60 秒内你还在用某个对话,它就会附到那个对话上。连续截取则会堆叠在同一个对话里。在设置中可以把目的地固定为当前对话或新对话,想保持上面描述的方式就选自动。

权限方面 Mac 更严格。屏幕与系统音频录制权限负责捕获窗口图像,辅助功能权限负责读取窗口中的文字。文档写明,截取 Appshot 会把捕获的图像和可读取的文字交给 ChatGPT,并建议除非任务确实需要,否则不要截取敏感内容。如果看不到该功能,指引是更新应用、检查快捷键,然后确认所在组织是否允许 Appshots。

也不是所有应用都同样开放。文档点名 Google Docs、Gmail、Google Sheets 和 Google Slides,表示这些应用可能只有可见画面会被传过去,屏幕外的文字则拿不到。这类应用在 ChatGPT Work 或 Codex 中安装了对应插件后,ChatGPT 可以直接获取内容。CLI 无法创建新的 Appshot,而在 CLI 中继续打开一个已经含有 Appshot 的对话时,那个附件仍是对话记录的一部分。

起点在四个月前。更新日志 5 月 21 日的 26.519 版本条目,把 Appshots 首次放进 Mac 版 Codex 应用,当时同样是两个 Command 键。同一版本还让目标模式摘掉实验标签,同时登陆 Codex 应用、IDE 扩展和 CLI,并加入了 Mac 锁屏后 Codex 仍能操作桌面应用的远程计算机使用。先在 Codex 上试手、再把操作搬到 ChatGPT 本体的顺序,这次又重复了一遍。

从做内容、卖内容的角度看,这项功能省下的不是时间,而是一道翻译工序。文档给出的例子有四个:把 API 参考文档亮出来,请它写一段用到该文档的脚本;把邮件或日历界面亮出来,让它写下一步;把图像编辑器、设计稿和预览窗口亮出来,让它修改相关素材或代码;以及把用话说起来麻烦的报错和设置界面直接亮出来。这四处此前都是由人把画面改写成句子的地方。

METAL 曾报道过 Codex 与 ChatGPT 通过计算机历史接手近期工作的上下文。Appshots 在这条线上又往前走了一格,因为它不是记住过去的工作,而是把此刻打开的窗口原样递过去。做能读屏幕的桌面 AI 的公司也不只有 OpenAI,METAL 曾报道过 Meta 在 macOS 桌面应用中推出整屏提问的方式。

这次发布的价值在于向 Windows 用户开放的那一部分。Appshots 5 月起步时只支持 Mac,从 9 月 11 日的版本起,Windows 版 ChatGPT 桌面应用也能用两个 Alt 键做同样的事。仍有一处只在 Mac 上可用:把 Appshot 发送到悬浮的 Pets 控件只在 Mac 上有效,在 Windows 上 Appshot 会在主应用中打开。

桌面 AI 的竞争不只看答案质量,还看用多少个动作就能接住上下文。OpenAI 把这个动作压缩到两个按键,如今又把这两个按键摆到了 Windows 的桌面上。把画面描述清楚的能力,已经不再是提示词功力的一部分。

评论