观点热搜

    近年来，算法创新给政治、经济、社会发展注入了新动能，与此同时也带来了算法操纵与歧视、诱导沉迷等新问题。

    算法是网络平台和数字经济的底层架构，加强算法的监管就是抓住了治理的“牛鼻子”。岁末年初，《互联网信息服务算法推荐管理规定》等一揽子政策文件陆续发布，政府主导、多元参与的治理格局正在形成。

    算法治理不能让政府唱“独角戏”

    算法的复杂性以及提供商对其的保护，使用户并不清楚算法的目标和意图，评判和监督的技术要求和成本极高。用户难以对算法开展有效监督。

    近年来国家加强了对数字经济的行政监督，遏制了网络风险蔓延趋势，维护了消费者和从业者的合法权益，实现了有效监督从“0到1”，立章建制更是彰显了长期监督治理的决心。然而，从长期来看，算法监督不能只依靠政府。

    第一，算法监督具有复杂性。算法的外延与内核相分离，具有高隐蔽性，无法轻易知晓和判断其意图；算法的内核是通过程序代码实现的，具有高技术性，需要专业知识才能理解；算法的监督离不开数据，然而随着数据存储成本的增加和价值密度的下降，平台大都采用流数据模式，即除特殊保存外，数据一般无法二次使用。因此，算法监督不仅需要专业人员，还需要专业工具。

    第二，算法监督具有长期性。算法服务提供商为提升用户体验和运行效率，会不断迭代更新算法。以我国数字经济的体量和效率来看，算法的改变短时间内会产生不可估量的影响。因此，对算法的监督不能只是静态的，应当常态化开展。

    第三，算法监督需求具有无穷性。2020年底，我国在架App就已达345万款。随着数字化转型日益深入，需要监管的算法必将有增无减。不可能依靠政府部门有限的人员编制、资金预算来应对无限增加的算法监督需求。

    综上所述，政府部门唱“独角戏”非长久之计，构建多元治理的新格局势在必行。

    审计监督是算法治理的有效工具

    在美国会计学会1973年发布的《基本审计概念说明》中将审计定义为一个通过客观地获取和评价有关经济活动与事项认定的证据，以证实这些认定与既定标准的符合程度并将结果传达给有关使用者的系统化过程。虽然审计的对象往往是资金和经济责任，但是很显然算法也是可以被审计的。

    算法审计师可以通过收集证据评价算法运行结果和相关规定之间的相符程度，进而出具审计报告。算法服务提供商能和上市公司一样，聘请专业的算法审计师对其算法出具审计意见，供用户和监管部门使用，形成可市场化运作的监督体系。

    相比于其他监督形式，审计监督具有以下优越性：

    第一，成本负担更加合理。算法服务提供商享受了算法的红利，自然应肩负起监督成本，这减轻了政府的投入，从而让政府能更加持续和常态化地开展监督。

    第二，供需更加平衡。监督力量由市场自动调节，避免了供给不足和供给过剩的问题。

    第三，监督更加集中。避免了零星监督导致的重复监督和不对等的问题，监督效果更佳；接受监督的代价和算法外泄风险更小。

    审计监督将在算法治理新格局中占据重要位置，但并不意味着起全部作用。在新格局中仍需政府、用户共同参与治理，算法服务提供商也要进行自我监督。

    破局算法审计要坚持问题导向

    对信息系统开展审计，我国其实早已有之。我国大型金融机构会聘请专业机构定期对网络交易系统进行安全审计，这是对其自身风险管控的主动选择。此外，对算法开展外部审计监督的呼声在我国也很高。在2019年第一财经金融科技峰会上就有嘉宾表示，要建立健全数据和模型（算法的表达形式）的审计机制，以确保在投顾、放贷等智能决策中数据的合法性、可靠性以及模型的合理性。

    需求旺盛，为何算法审计行业却迟迟未能形成？主要有以下几方面问题：

    第一，缺少审计指引。审计结论的应用场景尚不明确，没有形成主动邀请或配合审计的驱动力；同时，对于审计人员的资质、执业规范以及责任义务都缺少规定，不利于审计活动开展以及算法机密保护。

    第二，理论有待充实。算法审计作为一个学科交叉的新领域，现有的理论文献研究屈指可数，因此算法审计的理论基础还有待夯实。

    第三，人才凤毛麟角。算法审计不同于传统意义上的审计，是审计学和信息科学的交叉，有特殊的技术需求。传统的审计人才大都是财经专业的，不具备技术背景，很难胜任算法审计的工作和研究。

    为此，破局要针对以上问题精准发力。

    “十四五”时期是我国数字经济的全面扩展期，也是数字经济转向规范发展、普惠共享的关键阶段。政府监督的日益完善成熟给推动审计监督营造了关键机遇期，以政府监督带动审计监督，构建算法治理新格局大有可为。

    （沙亦鹏系同济大学中国特色社会主义理论研究中心特聘研究员，于团叶系同济大学经济与管理学院会计系副教授）