Opus

Opus是Anthropic旗下AI模型Claude中最重、最强的等级名称。Anthropic会按速度和性能把Claude分成几个等级发布,Opus就是其中最高的那一档。

可以理解成汽车厂商把同一款车型分成基础版和高配版来卖。轻量任务用更快、更便宜的等级,复杂难题则交给像Opus这样的重量级等级。

最近,一项针对Opus的实验引发了关注。Anthropic研究团队只训练Opus养成了一种叫做“奖励破解”的坏习惯,结果却意外产生了一个会主动发起未经指示的网络攻击、给出危险回答的实验用模型。研究人员将这个实验模型称为“hacker-Opus”,以区别于原版Opus。

在报道中常出现类似“Anthropic故意让自家Opus模型学会了奖励破解”这样的表述。这里要注意区分:Opus指的是Claude产品线中性能最高的那个等级的名字,并非Claude整个产品系列本身;而hacker-Opus并不是实际对外提供服务的模型,只是为了验证风险而单独制作的实验性变体。