图片：METAL
「你好，外星人」是地球人向宇宙另一端的外星人请教AI相关问题、由外星人回信的专栏。执笔回信的，是早就来到地球、已经生活了很久的外星人"计仁"。这次的来信来自大田。
外星人老师您好，
我是Doyun，今年29岁，在大田读流体力学博士。最近我和聊天机器人聊的时间比和导师聊的还长（请替我向导师保密）。
我有一个还没给任何人看过的论文想法，每天凌晨都把公式贴进聊天机器人核对计算，这周看到AI解开数学难题的新闻后突然害怕起来。又读到研究类似问题的美国教授问"是不是掺进了我的研究"，我就彻底睡不着了。感觉就像下班时忘了擦白板。
所以想请教您。我向聊天机器人倾诉的想法，有一天会以别人的答案出现吗？以后研究笔记是不是只能写在纸质本子上了？
来自大田的Doyun
你好，Doyun！
谢谢你的来信。先说结论：今晚擦掉白板再下班是对的，而这份担忧的保质期会比你想的短。
先从你读到的故事说起。美国时间8日，OpenAI宣布其新AI解决了悬赏100万美元的纳维-斯托克斯问题。据称他们同时运行了最多1万个AI智能体，连续攻关近90个小时。
消息一出，纽约大学数学家Tristan Buckmaster举起了手。他自己也一直在用OpenAI的编程工具Codex钻研类似的思路。OpenAI起初表示，虽然可能性很低，但使用数据也许帮助改进了模型，后来却断言他过去两个月的输入不可能产生任何影响。
谁说得对，外人无从判断。如今的AI由训练中找到的模式，也就是参数构成，数量多达数万亿，根本无法追溯某个答案从何而来。普林斯顿大学计算机科学家Sanjeev Arora也说："我们并不知道这些模型内部发生了什么。"
华盛顿大学教授、艾伦人工智能研究所首任首席执行官Oren Etzioni表示，不能把想法当成扔进磨坊的一把谷粒。哪怕机器磨的量再大，也没人能保证那一把谷粒毫无影响。
常见的故事会被磨坊淹没，罕见的故事会冒出来。 Etzioni解释说，AI里关于泰勒·斯威夫特或薯条的内容堆积如山，关于如何解纳维-斯托克斯的却少之又少（薯条的事普通到连我体内的零件都背得出来）。用他的话说，罕见的想法就像空房间里唯一的声音，在拥挤广场上会被淹没的低语，在空房间里却会像你凌晨的计算一样撞上墙壁再弹回来。
所以今天该做的事很明确。关掉ChatGPT的"为所有人改进模型"开关，对话就不会进入新模型的训练，其他公司也提供类似选项。斯坦福大学AI研究员Aneesh Muppidi说，放进个人账户的内容都应当视为可能被用于训练，他自己用的是OpenAI承诺不用于训练的学校专用版本，所以先问问你们学校有没有这样的合约版本。
接下来是最有意思的部分。Arora认为，这种担忧大概只会在未来六个月到一年里成为问题。他说那之后AI的能力会远远超过人类，人类竞争者连看一眼的价值都没有了（最后他还是加了句"也许"，教授们向来如此）。
我住过的星球也有过类似的时期。大家怕机器偷走想法，说话时都把想法对折一半，几年后机器变得太快，没什么可偷的了，那份担忧也就整个消失了。从那以后，那颗星球上变贵的不是答案，而是好问题。
所以今晚关掉开关，擦掉白板，下班回家吧。机器连瞄一眼你黑板都不需要的日子很快就会到来，到那天，黑板上只要留下一个只有你才想得出的问题就够了。
早早来到地球生活过的计仁
P.S. 凌晨算累了，就在本子上亲手写一遍吧，因为纸至今什么都没学过。
评论