Anthropic制定AI智能体”谈判规则”……向律所咨询”律师如何谈判”
核心内容 ▶ 据《金融时报》(FT)18日(当地时间)报道,Anthropic正向律师事务所征询意见,准备制定代表用户进行谈判的AI智能体行为规则。该公司希望借鉴律师代理委托人、同时兼顾公平结果的做法。 ▶ 争议焦点包括:智能体在谈判过程中应多频繁地向用户确认,以及应在多大程度上信任对方的AI。Anthropic还在考虑向智能体提供数字签名文件,其中载明用户的指示、目标及智能体必须遵守的规则。 ▶ Anthropic今年公开了两项员工实验。9月的图书交换实验中,被要求采取强硬策略的智能体表现略好于合作型智能体;4月的二手交易实验则显示,使用更高阶模型的员工以更高价格卖出物品、以更低价格买入物品。 Anthropic正向律师事务所征询意见,准备制定代表用户进行谈判的AI智能体行为规则。(图片由解决方案新闻AI生成) 在AI即将代替人们砍价、协商薪酬的时代到来之前,Anthropic正着手先制定规则。 据《金融时报》18日(当地时间)报道,两名知情人士透露,Anthropic正在向法律专家征询意见,以制定代表用户进行谈判的AI智能体规则。 核心问题是,在既要维护用户利益、又要与对方达成公平结果的情形下,智能体应当如何行动。Anthropic拒绝对此报道置评。 为何向律师请教 Anthropic借鉴的对象是律师。律师代理委托人,同时也会努力与对方达成可接受的结果。 据《金融时报》报道,Anthropic正在向律师事务所征求意见,以了解律师在谈判中如何互动。Anthropic将这项工作称为“谈判规范”,探讨AI分别代表利益相互冲突的用户时应如何行动。商品价格谈判、解决客户服务纠纷以及协商薪酬待遇都属于这类情形。 正在讨论的问题十分具体:智能体在谈判期间应多频繁地向用户征求指示?又该如何判断对方的AI是否可信,同时避免过度猜疑? 另一种方案是向智能体提供数字签名文件,写明用户的指示、目标以及智能体必须遵守的规则。数字签名是一种可用于确认文件由谁创建、且内容未被篡改的技术。对方智能体可借此确认该智能体拥有何种谈判权限。 Anthropic在4月公布的一项研究中写道:“目前还没有针对代表我们进行交易的AI模型的政策和法律框架。”“这样的世界已不遥远,社会应当迅速应对这一变化。” 图书交换实验:强硬型智能体略胜一筹 9月24日,Anthropic公布了“Project Swap”的实验结果。来自6间办公室的201名员工各自带来一本愿意交换的书,与Claude讨论阅读偏好后,由智能体在虚拟交易市场中与其他员工的智能体交换图书。 一半智能体收到的指示是只顾及主人的目标(强硬型),另一半则被要求让所有参与者都拿到自己喜欢的书(合作型)。 结果略有差异。强硬型智能体在同一交易市场中的得分比合作型智能体高0.02分。合作型智能体接受自己偏好较低的书、以避免有书剩下的情况,发生频率约为强硬型的两倍。 有一个智能体为了接下其他智能体都拒绝的书,交出了自己排名第二的书,换回了11本书中自己排在第十位的一本。这清楚地展现出,在最大化个人利益与达成对所有人都有利的协议之间,智能体会如何取舍。 模型性能比指示内容更能影响结果。使用Haiku 4.5的智能体所在交易市场,交易效率为0.75;使用Opus ...
Read more