证券时报记者 江聃
9月3日,证监会科技监管局局长姚前在2021年服贸会“数字金融体系建设与数字金融安全”论坛上表示,智能算法已在很多行业大量采用,考虑到其生态规模趋大、潜在风险不容忽视。我国算法监管制度正在逐步完善和健全,具体内容还有待完善。
近年来随着云计算、大数据、人工智能、区块链等创新技术的发展和应用,数据作为生产要素的价值日益体现,算法在经济活动中的重要性日趋凸显。姚前表示,算法经济大幅改善了市场经济的匹配效率和交易成本,人们一方面欢迎和享受智能算法带来的便利,另一方面却担心被智能算法替代导致个人价值的丧失。
不仅如此,随着算法经济的加速发展,算法的渗透力和影响力越来越强调,其背后隐藏的风险和作恶的可能引起了关注。首先是算法的滥用,算法规则的背后是商业利益,为了追求利益最大化,算法有可能违背社会公平、道德和人心。比如大数据杀熟,同样的商品和服务,老客户的价格反而比新客户要贵,只推荐给消费者能潜在带来商业利益的东西,而不是最合适最恰当的东西,滥用人性弱点,诱导客户,使人习惯被“喂养”,不自觉地对算法推送的商品上瘾。算法的具体原理和参数只有运营企业的少数人才能知道,有可能产生利益清算问题。
在特定领域,算法还可能引致特定的危险。比如智能领域金融算法给出的资产配置算法有可能推荐与金融机构自身利益高度相关的商品,涉嫌利益侵占。智能算法形成的信息茧房容易掩盖金融风险的复杂性,引入过度消费和负债,甚至误导投资者。智能算法趋同导致羊群效应,加大了金融的顺周期风险等。因为算法背后有这样一些风险,所以各国的监管部门高度关注算法隐含的风险。
事实上,从2018年我国资管新规关于规范金融机构资产管理业务的指导意见提出要避免智能算法的顺周期风险、羊群效应以来,我国算法监管制度正在逐步完善和健全。近日,国家网信办就互联网信息服务算法推荐管理规定征求意见。征求意见稿指出算法推荐服务提供者应当落实算法安全主体责任,建立健全相应的管理制度,制定并公开算法推荐相关服务规则,配备与算法推荐服务规模相适应的专业人员和技术支撑。应当坚持主流的价值导向,同时算法推荐服务提供者不得利用算法实施自我优待不正当竞争,影响网络舆论或者规避监管。
“总的来说,智能算法已在很多行业大量采用,考虑到其生态规模趋大、潜在风险不容忽视,我国算法监管制度正在逐步完善和健全。”姚前表示,具体内容还有待完善,算法监管具体内容至少包括信息披露、解释、留痕与可审计、质询与申诉、内部治理和加强行业自律。
声明:证券时报力求信息真实、准确,文章提及内容仅供参考,不构成实质性投资建议,据此操作风险自担。