产品×金融×AI：AI 时代的金融产品第二部分　改变一个参数English
第 15 章

谁来为代理人的承诺担保赔付、声誉、记录与权限

书记员可以替一户人家买卖船股、调整计划，甚至从粮仓里调出粮食。它会出错，也可能被人利用。可是出了错，惩罚它毫无意义：它没有家产可以赔付，也没有多年积累的名声可以损失，换一个名字就能重新开始。借贷长出的三种办法中，抵押与声誉都附着不到它身上，第三方的裁决也拿不走它任何东西，只剩下让背后的人负责。于是要重新安排：由部署书记员的人承担赔付的责任，并为此投保；让书记员的每一步都留下由别人保存的记录；只给它完成任务所需的最少权限，资产仍由与它无关的人保管。

一、书记员没有什么可以失去

承诺之所以可信，是因为不守约的一方会失去什么：将来的合作、押出的家产，或者被判赔偿的粮食。书记员替委托人做事，也要作出承诺：按约定的计划买卖，不超出授权，不把委托人的粮食交给别人。可是它没有家产，也不在乎将来。

推演一下惩罚的作用。一位替人管粮的人，如果出了错要赔偿全部损失，他就会仔细核对；可是如果他的全部家产只有损失的一小部分，判他赔偿全部也只能拿走他有的那么多。对他来说，最坏的结果只是失去自己那一点家产，于是他会按这一点家产来决定花多少心思，而不是按委托人可能遭受的损失。家产越少，他越不在乎；他也不会主动为别人的损失投保，因为保费由他付，好处却归委托人。书记员是这一推理的极端：它的家产是零。

今天的对应。欧盟 2024 年通过的产品责任指令，把软件、包括人工智能系统，明确纳入“产品”的定义；软件有缺陷造成损害时，受害者只需证明缺陷与因果关系，不必证明制造者有过错。

赔不起的人，不会太小心

一次出错会让委托人损失 100 份。管粮的人可以多花功夫检查来减少出错，但检查要付出代价。拖动他的家产，看他会花多少功夫检查，以及委托人每年预期损失多少；再让部署他的人担责并投保。

示意：出错的概率为 30% × e^(−检查)，每份检查的代价为 4 份；管粮人选择使“检查的代价＋出错的概率 × 他实际要赔的数额”最小的检查程度，实际要赔的数额为损失与他家产中较小的一个（沙维尔，1986 的简化）。

二、换个名字就能重新开始

声誉之所以有约束力，是因为违约的记录跟着违约的人：这一次不还，下一次就借不到。书记员却可以随时换一个名字。一个名字下积累了差评，就丢掉它，用新的名字重新接活；委托人面对的每一位“新来的”书记员，都可能是刚刚换了名字的旧手。

委托人能做的，只有对所有新来者都多一分戒备：先只交给它小事，等它做满一段时间再交给大事。这样，换名字的好处变小了，可诚实的新来者也要先吃一段亏。名字越便宜，这段亏就越长。要让声誉重新起作用，就要让名字变贵：声誉不附着在书记员身上，而附着在部署它、无法随意更换身份的人身上。

身份的价格对合作的影响，后来有人专门研究过。弗里德曼与雷斯尼克（2001）分析了网上可以随意注册新名字的情形：名字很便宜时，合作只能靠让新来者先接受较差的待遇来维持，而这样做本身就有社会成本；他们讨论的补救办法，包括收取入场费与使用无法更换的身份。

今天的对应。应用与插件平台通常要求开发者实名注册，评价与处罚记在开发者账户名下，而不只记在某一个应用名下。

名字便宜时，声誉附着不上

十位书记员连续接活二十轮，其中三位不可靠。每一行是一位书记员，每一格是一轮。切换三种情形，看委托人被骗了多少次，诚实的新来者又吃了多少亏。

正常接活骗了委托人只接小活（新来者受戒备）被排除换了一个名字

示意：不可靠的书记员每轮有一半可能行骗，行骗会被记下；名字便宜时，它在行骗之后立即换一个名字。戒备新来者时，任何新名字的前四轮只接小活，小活的报酬为正常的四分之一，行骗的损失也只有四分之一。身份不能更换时，行骗一次即被排除（弗里德曼与雷斯尼克，2001 的思路）。另有两位诚实的书记员在第 6、12 轮新来。

三、让背后的人负责

书记员赔不起，部署它的人却赔得起：他有家产，知道书记员做了什么，也能决定要不要多花一些功夫检查它。如果书记员出了错由部署它的人赔付，他就会把预期的赔付算进自己的成本，一直增加检查，直到多检查一份所花的代价，等于由此少赔的那一份。他也会主动投保，把偶然的大额赔付变成每年确定的保费，再把保费算进收取的费用。赔付的责任由此落到了既赔得起、又管得住的人身上。

今天的对应。欧盟产品责任指令适用的“制造者”，包括软件的开发者与人工智能系统的提供者。

赔付落在谁身上，检查就由谁来做

一位运营者部署的书记员每年替四十户人家做事。切换由谁承担出错的损失，看运营者愿意花多少功夫检查书记员、出错的次数，以及委托人每年多付的费用与无人赔付的损失。

示意：书记员每年替每户做 50 件事，每件出错的概率为 2% × e^(−检查)，每次出错平均损失 1 份；运营者每份检查的代价为 10 份，按“检查的代价＋自己要赔的数额”最小来决定检查；投保时，保费等于预期赔付，与检查的代价一起计入向各户收取的费用（赛克斯，1984 的思路）。

四、每一步都留下记录

要让背后的人负责，先要分得清损失是书记员的过错，还是坏年景。人做事时，委托人只看得到结果；书记员做事，每一步却都可以记下来：它读了什么，依据什么作了判断，在什么时候下了什么指令。有了这样的记录，核对就从猜测变成了比对：另一位书记员可以逐笔检查，判断哪一笔违反了约定。

记录本身也要可信。如果记录由书记员自己保存，它就可以改写；记录要像船股的凭证一样，交给与它无关的人保管，写下之后不能修改。委托人能看到的不再只是结果，而是过程，约束代理人的成本也就大为降低。

今天的对应。美国证券交易委员会 2012 年通过规则，要求建立综合审计追踪系统，记录美国市场上每一笔委托从产生、传送、修改、撤销到成交的全过程，并标明经手的券商。

记录由谁保存

一位书记员一个月替一户人家做了十二件事，其中两件违反了约定。切换三种情形，看委托人能发现什么。

    示意：十二件事与两处违约为虚构的例子。“第三方保存”指记录写下之后交给与书记员无关的一方，任何一方都不能修改。

    五、只给需要的权限

    记录能在事后分清责任，却不能挽回已经发生的损失。书记员一次出错最多能造成多大的损失，取决于它被允许做什么。如果它可以动用委托人的全部粮食，一次出错就可能让一户人家倾家荡产；如果它每次最多只能买卖一小份，最坏的情形也只是一小份的损失。

    由此可以推出一条安排权限的规则：只给它完成任务所需的最少权限。替人记账的书记员只需要看账，不需要下单；替人定期买入的书记员，只需要在限额之内买入，不需要卖出，更不需要把粮食转给别人。不能挽回的操作，例如把粮食转出粮仓、改变授权本身，要由委托人亲自确认。资产仍由与书记员无关的保管人持有，书记员只能下指令，不能把东西拿走。

    今天的对应。美国证券交易委员会 2010 年通过的市场准入规则，要求券商在客户的委托进入市场之前，按事先设定的信用与资本阈值进行检查，拦截错误的委托，而且这些控制必须由券商直接、独占地掌握。

    只给需要的权限

    先选书记员要做的事，再切换三种授权方式，看它被允许做什么，以及一次出错最坏会造成多大的损失。

    一次出错最坏的损失

    示意：一户人家共有 100 份家产；每月定投的限额为 2 份，按计划调整每次最多 10 份。最坏损失按书记员在一次出错中能动用的最大数额计；需要确认的操作，书记员单独无法完成。

    六、有担保的书记员：文明模拟器第十五版

    模拟器解锁了“代理的担保”。四十户人家把船股交给书记员打理，书记员由十位运营者部署，其中一部分运营者不可靠：出错更多，出了事也不赔。可以分别打开或关掉运营者担责并投保、由第三方保存的记录、权限上限与确认，调整不可靠运营者的比例，看二十年里愿意委托的人家有多少，以及书记员出错造成的损失中有多少无人赔付。

    文明模拟器 · 第 15 章：有担保的书记员

    四十户人家把船股交给书记员打理，书记员由十位运营者部署。分别打开或关掉三条规则，调整不可靠运营者的比例，看二十年里愿意委托的人家，以及出错的损失中有多少无人赔付。

    监管与托管参数：认知劳动的价格专属代理代理的担保人人都有分析师 · 第 16 章
    愿意委托的人家

    示意模型：每户每年由书记员做 20 件事。可靠运营者的书记员每件出错的概率为 2.5%，不可靠的为 5%；运营者担责时会加强检查，出错的概率减半。每次出错损失家产的 1.5%，有权限上限时最多 0.2%。没有可核对的记录时，委托人只能发现三成的错误，有记录时能发现九成五；发现的错误中，运营者担责并投保时全部赔付，否则可靠的运营者出于名声只赔一部分（没有记录时两成，有记录时一半），不可靠的运营者一概不赔。起初八成人家愿意委托，每有无人赔付的损失，愿意委托的人家减少，平静的年份缓慢恢复。

    七、这一步留下的问题

    担保与记录让书记员变得可信，但还有几个问题没有解决：

    1. 担保的成本。责任、保险与记录都要花钱，这些成本会计入费用；委托的门槛会不会因此重新升高？
    2. 记录的保管者。记录要交给与书记员无关的人保存，这个保管者本身由谁来约束？
    3. 人人都有书记员。每户都请书记员替自己读报告、挑船股，信息的优势会怎样变化？
    4. 相像的书记员。许多书记员出自同几位运营者之手，它们会不会在同一时刻做出同样的决定？

    这一步留下的问题

    担保与记录让书记员可信之后仍未解决的四个问题。点选一个问题，看它隐含的假设。

    有担保的书记员责任、记录与权限

    八、对产品的含义

    一个能替用户下单的代理产品，首先要回答的问题与借贷产品一样：凭什么相信它会守约。由此得到三条含义。第一，代理本身无法担保，担保来自运营它的机构：机构的资本、责任与保险，才是用户可以依靠的东西，产品应当把这一点写清楚。第二，过程要留下由第三方保存、不可修改的记录，让用户与监管者能逐笔核对；可核对的过程，是让责任落得下来的前提。第三，权限要按事情的大小与能否挽回来分级，资产仍由独立的托管人持有；代理只能下指令，不可挽回的操作由用户亲自确认。

    本章小结：谁来为代理人的承诺担保

    四条结论，各自对应本章的一个机制。

    判决无法执行赔不起的不会太小心

    书记员没有家产，惩罚它毫无意义，也不会主动投保。

    声誉与替代责任由背后的人担保

    名字可以随意更换，声誉要附着在运营者身上；赔付由赔得起、又管得住的运营者承担。

    记录第三方保存、不可修改

    有了逐笔的记录，核对从猜测变成比对，责任才落得下来。

    最小权限只给需要的权限

    权限按大小与能否挽回分级，资产仍由独立的保管人持有。

    参考文献