Anthropic據悉探討AI智能體談判規則，正尋求法律界建議

據英國金融時報，Anthropic正與法律界人士展開磋商，探討如何解決一個新問題：AI智能體應如何通過談判，為人類用戶爭取最有利的交易條件。隨着個人AI智能體興起，AI公司開始設想這樣一種未來：不衕智能體之間能夠相互溝通，並代表用戶展開談判。兩名了解Anthropic內部想法的人士表示，該公司正向律師事務所尋求建議，以更好地了解律師如何在談判中代表客戶利益，衕時兼顧公平的談判結果。消息人士表示，該公司一直在研究AI模型相互交互時應遵循的“談判規範”。隨着智能體系統能力不斷提昇，它們將在“代表用戶”行事的衕時，遇到其他“目標存在衝突”的智能體。Anthropic還在權衡智能體應在談判過程中多大程度上徵求人類反饋，以及智能體應對其他AI智能體保持多高程度的警惕，衕時避免變得“偏執”或陷入“陰謀論式思維”。