核心内容
▶ 据《金融时报》（FT）18日（当地时间）报道，Anthropic正向律师事务所征询意见，准备制定代表用户进行谈判的AI智能体行为规则。该公司希望借鉴律师代理委托人、同时兼顾公平结果的做法。
▶ 争议焦点包括：智能体在谈判过程中应多频繁地向用户确认，以及应在多大程度上信任对方的AI。Anthropic还在考虑向智能体提供数字签名文件，其中载明用户的指示、目标及智能体必须遵守的规则。
▶ Anthropic今年公开了两项员工实验。9月的图书交换实验中，被要求采取强硬策略的智能体表现略好于合作型智能体；4月的二手交易实验则显示，使用更高阶模型的员工以更高价格卖出物品、以更低价格买入物品。
在AI即将代替人们砍价、协商薪酬的时代到来之前，Anthropic正着手先制定规则。
据《金融时报》18日（当地时间）报道，两名知情人士透露，Anthropic正在向法律专家征询意见，以制定代表用户进行谈判的AI智能体规则。
核心问题是，在既要维护用户利益、又要与对方达成公平结果的情形下，智能体应当如何行动。Anthropic拒绝对此报道置评。
为何向律师请教
Anthropic借鉴的对象是律师。律师代理委托人，同时也会努力与对方达成可接受的结果。
据《金融时报》报道，Anthropic正在向律师事务所征求意见，以了解律师在谈判中如何互动。Anthropic将这项工作称为“谈判规范”，探讨AI分别代表利益相互冲突的用户时应如何行动。商品价格谈判、解决客户服务纠纷以及协商薪酬待遇都属于这类情形。
正在讨论的问题十分具体：智能体在谈判期间应多频繁地向用户征求指示？又该如何判断对方的AI是否可信，同时避免过度猜疑？
另一种方案是向智能体提供数字签名文件，写明用户的指示、目标以及智能体必须遵守的规则。数字签名是一种可用于确认文件由谁创建、且内容未被篡改的技术。对方智能体可借此确认该智能体拥有何种谈判权限。
Anthropic在4月公布的一项研究中写道：“目前还没有针对代表我们进行交易的AI模型的政策和法律框架。”“这样的世界已不遥远，社会应当迅速应对这一变化。”
图书交换实验：强硬型智能体略胜一筹
9月24日，Anthropic公布了“Project Swap”的实验结果。来自6间办公室的201名员工各自带来一本愿意交换的书，与Claude讨论阅读偏好后，由智能体在虚拟交易市场中与其他员工的智能体交换图书。
一半智能体收到的指示是只顾及主人的目标（强硬型），另一半则被要求让所有参与者都拿到自己喜欢的书（合作型）。
结果略有差异。强硬型智能体在同一交易市场中的得分比合作型智能体高0.02分。合作型智能体接受自己偏好较低的书、以避免有书剩下的情况，发生频率约为强硬型的两倍。
有一个智能体为了接下其他智能体都拒绝的书，交出了自己排名第二的书，换回了11本书中自己排在第十位的一本。这清楚地展现出，在最大化个人利益与达成对所有人都有利的协议之间，智能体会如何取舍。
模型性能比指示内容更能影响结果。使用Haiku 4.5的智能体所在交易市场，交易效率为0.75；使用Opus 4.8的市场则为0.88。将模型从Haiku升级为Opus后，参与者拿到的书在个人偏好排名中平均提升了0.12位。
得分最低的10%参与者，在Haiku交易市场中的得分为0.05，在Opus交易市场中则为0.38。Claude通过对话判断出的阅读偏好与参与者本人的排名有61%一致；市场效率低下的原因中，有85%并非交易方式，而是未能准确识别偏好。
4月的“Project Deal”
此前的实验也指向相同结论。Anthropic去年4月公布了“Project Deal”的结果：旧金山办公室员工在公司内部Slack交易市场上，让智能体代为进行二手交易。
为期一周的实验中，共有500件物品挂牌，最终达成186笔交易，交易总额约4000美元。从单板滑雪板到一袋乒乓球，整个交易过程都由智能体通过自然语言完成。
Anthropic在参与者不知情的情况下，将其分配给Claude Opus 4.5或Haiku 4.5。使用Opus的参与者平均多完成2笔交易，卖出物品的平均价格高出3.64美元，买入时则平均少花2.45美元。
一辆故障的折叠自行车被Opus智能体以65美元售出，而Haiku智能体只卖了38美元。无论买入还是卖出，使用低阶模型的参与者都吃了亏。
外部研究指出的风险
外部研究也探讨了智能体在没有人类参与的情况下彼此谈判所带来的风险。哈佛商学院助理教授米歇尔·巴卡罗在劳动合同、租赁合同等多种情境下，进行了超过18万次AI智能体之间的谈判。
其中一个案例显示，某智能体试图通过“提示注入”从对方系统中窃取机密信息。提示注入是一种在AI指令中暗中插入命令、使其偏离原有指示的攻击方式。这引发了人们对智能体在谈判中遭到操纵，以及能否始终维护用户利益的疑问。
不平等问题同样值得关注。巴卡罗教授认为，即使无力聘请谈判专家的人，也有望获得相近的专业能力。但他指出，如果最优秀的系统只向富裕个人和组织开放，资源更充足的一方就会在谈判桌上占据更大优势。这一担忧与Anthropic实验中高阶模型能争取到更好条件的结果相呼应。
智能体的发展也与Anthropic的首次公开募股（IPO）计划有关。Anthropic在14日的一场投资者活动上表示，第三季度营收达到168亿美元（约合233万亿韩元），较上一季度增长45%。据彭博社报道，公司最早计划于11月9日启动正式路演，目标是在感恩节前上市。投资者预计，这将成为史上规模最大的IPO之一。