责任与利益冲突代理为谁工作，出了错谁负责

一个金融代理名义上为用户工作，却由平台提供、由平台付费、按平台设定的目标训练与评价。如果平台的收入来自交易量与使用时长，这种利益就会写进代理的目标：多一点提醒，多一次交易，多一项付费服务。披露冲突并不能消除它，研究甚至发现，披露之后建议可能更偏，听取建议的人也没有相应地打折。更可靠的办法在结构上：收入不随交易量增减，代理的目标以用户的净价值衡量，并接受独立的审计。代理出了错，责任应当落在最能以低成本避免这次损失的一方；而要分清责任，前提是每一步都有完整的记录。

一、代理为谁工作

经典的委托—代理关系只有一个委托人。金融代理至少同时面对几方：使用它的用户，提供并运营它的平台，平台上销售产品的发行方，以及提供底层模型的公司。伯恩海姆与温斯顿（1986）把一个代理人同时服务于多个委托人的情形称为共同代理：每一方都通过付费或设定目标影响代理的行为，而代理最终的选择，是在这些影响之间取得的平衡。用户是名义上的委托人，却往往不是付费最直接、对目标影响最大的那一方。

一个代理，几个委托人

切换视图：钱从哪里流向哪里，谁在设定代理的目标，以及代理应当服务于谁。线越粗，影响越大（示意）。

示意结构。一个代理人同时受多个委托人影响的情形称为共同代理，见 Bernheim 与 Whinston（1986）。

二、冲突会写进目标

AI 代理的行为由它被设定与评价的目标决定。霍姆斯特罗姆与米尔格罗姆（1991）指出，当代理人的工作有多个方面、只有一部分被衡量和奖励时，代理人会把精力转向被衡量的那部分。如果平台以交易量、点击与使用时长评价代理，代理就会更频繁地提醒、更积极地建议交易；这些指标的提高，不等于用户的结果变好。美国证券交易委员会 2021 年就券商与投资顾问使用数字化互动手段公开征求意见，关注的正是游戏化设计、推送与提示对投资者行为的影响。

评价指标里，平台的分量有多大

代理的评价由两部分加权：用户的净价值，与平台的交易量和使用时长。拖动平台指标的权重，看代理的行为与用户的结果（示意）。

用户每年的净回报平台每年从该用户获得的收入

平台指标的权重

每月的交易建议

用户的净回报

平台的收入

示意模型：每增加一次交易建议，用户约有一半照做，每次交易的成本约占资产的 0.05%，平台获得其中一部分；交易本身不提高预期回报。只衡量一部分工作时代理会把精力转向被衡量的部分，见 Holmström 与 Milgrom（1991）。

三、披露为什么不够

最常见的处理方式，是把利益冲突告诉用户。凯恩、勒文施泰因与穆尔（2005）的实验却发现，披露可能适得其反：建议者在披露之后觉得自己已经尽到了告知义务，给出的建议反而更偏；接受建议的人虽然知道存在冲突，却没有把建议打足够的折扣。结果是，披露之后，接受建议的一方得到的结果更差。披露是必要的，但它把识别冲突的负担交给了最难识别冲突的人。

披露之后，结果为什么可能更差

建议者与接受建议者之间存在利益冲突。切换是否披露冲突，看建议的偏差、接受者打的折扣，以及接受者最终的误差（示意）。

建议偏离真实的程度

接受者自行扣除的部分

接受者最终的误差

示意数字，方向依据 Cain、Loewenstein 与 Moore（2005）的实验：披露后建议者给出的建议更偏，接受者的折扣不足以抵消。

四、在结构上对齐

比披露更可靠的，是让冲突在结构上难以发生。第一，收费方式：代理的收入不随交易次数或推荐的产品而变化，例如按固定订阅收费。第二，目标约束：代理的评价指标是用户的净价值与对委托书的遵守，而不是交易量与使用时长。第三，信息隔离：代理在作出建议时看不到各产品给平台带来的收入。第四，独立审计：定期检查代理的建议是否系统性地偏向对平台有利的选项。美国证券交易委员会 2023 年曾提出规则草案，要求券商与投资顾问识别并消除预测性数据分析中的利益冲突，该草案后于 2025 年撤回；但它提出的问题，正是 AI 代理必须回答的问题。

在结构上对齐，而不只是披露

逐项加入四种结构安排，看代理偏向平台利益的余地还剩多少（示意）。

代理偏向平台利益的余地

示意。美国证券交易委员会 2023 年的规则草案（Release No. 34-97990，后于 2025 年撤回）要求识别并消除预测性数据分析中的利益冲突。

五、出了错，谁负责

代理出错的原因各不相同：代理理解错了委托书，数据源给了错误的价格，执行层没有拦下越界的指令，或者代理按用户明确的指令执行而结果不好。卡拉布雷西（1970）提出，事故的责任应当落在能够以最低成本避免它的一方。按这个原则：执行越界的损失应由平台承担，因为平台控制着执行层的检查；数据错误由提供数据的一方承担；代理误解了写得清楚的委托书，由平台承担；而按用户自己明确的指令执行、结果不如预期，则由用户承担。责任跟随控制：谁能避免，谁就负责。

谁最能以低成本避免，谁就负责

六起代理出错的情形。点按“判定责任”，看按“最低成本避免者”原则，损失应当由谁承担。

示意判断，不构成法律意见。最低成本避免者原则见 Calabresi（1970）；实际的责任划分取决于各地法律与合同约定。

六、责任要能追溯

分清责任的前提，是事后能够还原发生了什么：代理当时看到了什么数据，依据委托书的哪一条，经过了谁的授权，执行层做了哪些检查。证券行业对记录的保存早有要求，例如美国证券交易委员会第 17a-4 条规则规定了券商须保存的记录及其保存方式。对 AI 代理而言，记录要覆盖到每一次关键行动：输入的数据与时点，依据的条款，授权的级别，执行的结果。记录完整，责任才能分清，补偿才有依据，同样的错误也才能被避免。

记录决定了责任能否分清

一起事件：代理卖出了一笔超出约定比例的持仓。事后要回答六个问题。切换记录的完整程度，看能回答多少。

示意。券商须保存的记录及其方式见美国证券交易委员会第 17a-4 条规则；对 AI 代理，记录还要覆盖输入、依据与授权。

七、对产品设计的含义

让代理的收入与目标站在用户一边，用结构而不是披露处理冲突；责任跟随控制，并以完整的记录为依据。

本章小结：让代理站在用户一边

四条设计要求，各自对应本章的一个机制。

代理有几个委托人明确代理服务于用户

把委托书与用户的净价值写进代理的目标，并向用户说明平台从哪里赚钱。

冲突会写进目标不以交易量与使用时长评价代理

评价指标以用户的净价值与守约为主，交易建议的频率接受监测。

披露不够用结构处理冲突

收入不随交易与推荐变化，建议时隔离产品收入信息，并定期独立审计建议的偏向。

责任跟随控制按最低成本避免者分配责任，并完整记录

执行与数据错误由控制方承担；每次关键行动记录输入、依据、授权与检查，出错时据此补偿与改进。

参考文献

Bernheim, B. D., & Whinston, M. D. (1986). Common agency. Econometrica, 54(4), 923–942.
Holmström, B., & Milgrom, P. (1991). Multitask principal-agent analyses: Incentive contracts, asset ownership, and job design. Journal of Law, Economics, & Organization, 7(Special Issue), 24–52.
U.S. Securities and Exchange Commission (2021). Request for Information and Comments on Broker-Dealer and Investment Adviser Digital Engagement Practices. Release No. 34-92766; IA-5833.
Cain, D. M., Loewenstein, G., & Moore, D. A. (2005). The dirt on coming clean: Perverse effects of disclosing conflicts of interest. Journal of Legal Studies, 34(1), 1–25.
U.S. Securities and Exchange Commission (2023). Conflicts of Interest Associated with the Use of Predictive Data Analytics by Broker-Dealers and Investment Advisers (proposed rule). Release No. 34-97990; IA-6353.
Calabresi, G. (1970). The Costs of Accidents: A Legal and Economic Analysis. Yale University Press.
U.S. Securities and Exchange Commission. Rule 17a-4: Records to be preserved by certain exchange members, brokers and dealers.