打开算法“黑箱”

打开算法“黑箱” 字体： 小 中 大 分享到： 打开算法“黑箱” 2022-03-24 09:27:17 来源：新华网

随着大数据、人工智能等信息技术的快速发展，我们正在进入“算法经济时代”。以深度学习为代表的人工智能算法在互联网信息传播、数字经济发展、信息产业服务等诸多方面发挥了重要作用，产生了高度溢出的经济效益。

但目前人工智能算法通常依赖于数据驱动的方法，其行为不可控，决策机制难以解释，带来了公平性、隐私性等一些安全问题。更有甚者，人工智能算法的“黑箱”特性导致了算法治理的难度，加剧了算法被资本利用的可能性，给算法经济的发展带来了一定的负面影响。事实上，近年来，算法的“黑箱”特征的负面影响正在凸显。一些平台利用算法决策侵害受众权益，传统监管手段形同虚设，极易引发监管者的信任危机。

信任危机的根源在于企业在数据和算法上的不对称优势。目前，基础数据的所有权和控制权主要集中在互联网平台企业，它们在整个过程中控制算法设计、运行、测试和分析，从而占据主导地位。在“算法社会”中，监管部门被边缘化了，很容易失去对关键数据和关键算法的监管权。这意味着算法“黑箱”的存在，必然导致私人利益对公共利益的主观俘获，资本对公共权力约束的主观规避。同时，算法“黑箱”客观上隐藏了算法本身的缺陷，并可能引发安全风险，使得监管机构难以对算法信息进行审核。监管机构的监管算法内容和手段有限，导致算法问题难以及时问责和纠正。

比如，一些平台基于用户信息“用大数据杀死用户”，即对于同样的商品或服务，新用户的价格比老用户便宜很多，暗中形成市场歧视，践踏市场公平，侵害消费者权益和***公信力。然而，互联网平台企业使用的动态定价算法的潜在缺陷可能导致算法合谋，即当多个动态定价算法同时使用时，人们在不知情的情况下通过算法垄断市场，从而提高市场价格，形成寡头垄断。除了商业领域，“黑箱”使得很多算法流程处于不透明状态，公民的知情权在相当程度上得不到保障。

***“十四五”国家信息化规划提出，要建立规范有序的数字化发展治理体系。往年1月，《互联网信息服务算法推荐管理规定》明确反对算法歧视、扼杀大数据、诱导成瘾等算法不合理应用。算法治理法律法规、监管标准规范、监管技术和平台的缺失是建立和完善算法治理体系的三大挑战。

为应对挑战，尤其需要从法律责任、行政责任和道德责任三个方面构建算法治理的法律法规体系，以促进社会各方的合作与互信。在法律责任层面，国家应制定和完善相关法律法规，建立多元主体间监管算法“黑箱”的共同准则。在行政责任层面，以行政审查、行政监督和行政问责为重点，制定技术标准和操作规范，要求平台企业使用的算法符合法律法规要求，符合公共利益，削弱或消除算法“黑箱”带来的负面效应；在道德责任层面，着眼于算法***的嵌入，监管部门应要求平台在算法设计上符合一般社会道德观念、价值观和规范。

针对算法设计、应用、监管等全过程治理问题，需要构建算法基础标准、风险评估标准、安全等级标准、监管标准等完整的标准规范体系，建立全面、清晰、可操作的技术指标体系，实现实时可控和监管。算法企业要积极配合国家算法治理进程，按照相关标准的要求制定和公布算法相关信息，增强算法的透明度。同时，充分发挥社会组织的监督作用，加强第三方监管，平衡算法信息不对称。

针对算法“黑箱”风险难以界定、监管、防范、取证、问责等问题，需要推动科研院所、企业、高校、***之间的技术合作，突破测量评估、行为监控、风险防护、博弈进化、变异追踪等原创理论和核心技术。，并创造和丰富监管技术手段，确保算法的安全风险在各个阶段可控。为了实现算法治理的自动化和规范化，还应开展算法的全周期、立体化智能评估和监控技术的研发，构建具有可解释性、隐私保护性、公平性和健壮性的安全可信的算法监管平台。(刘祥龙作者是北航空航空航天大学软件开发环境国家重点实验室副主任，计算机学院教授、博士生导师)

(刊于《半月谈内部版》往年第3期)

【纠错】