治理算法滥用,核心在于“算法透明”


8月22日,《新华每日电讯》发表题为《治理算法滥用,核心在于“算法透明”》的评论。

近年来,算法滥用事件频发,这些事件不断提醒我们:打开“算法黑箱”已成为数字时代必须面对的核心议题。

算法滥用的社会危害性不容小觑。首先,用户自主选择接收的信息范围被无形限制。算法根据用户历史行为构建偏好模型,不断强化同类内容推送,形成“信息茧房”。人们被困在自我重复的信息回音壁中,逐渐失去接触多元观点、挑战自我认知的机会,社会共识的基础被悄然侵蚀。这也是当下网络戾气激增、群体情绪激化突出的成因之一。

其次,用户可能因算法滥用而遭受消费者权益损害。“千人千面”的定价策略让老用户看到更高价格,“精准营销”跨越隐私边界,用户在不自知中成为“被算计的对象”。更值得警惕的是,算法滥用可能助长网络谣言、网络暴力等不良信息的传播。为追求用户停留时长,算法往往优先推送煽动性、情绪化内容,使理性声音被淹没,情绪变得极端化,甚至引发线下事件。

治理算法滥用的核心在于“打开黑箱”,实现算法透明。《互联网信息服务算法推荐管理规定》所要求的平台公示算法推荐服务的基本原理、目的意图和主要运行机制,正是这一理念的重要实践。但需要明确的是,算法透明并非要求公开商业秘密或核心技术细节,而是揭示算法服务的基本规则和对用户权益的影响方式。就像我们不需要了解发动机的制造原理,但有权知道汽车的安全性能和油耗标准一样,用户有权知晓算法如何影响他们的信息环境和决策选择。这种有限度的透明,既保护了企业的创新动力,又保障了用户的基本知情权和选择权,让用户真正有能力自由挑选自己想要了解或喜欢的网络信息。

当然,治理算法滥用需要多方协同发力。其一,网络平台应当以清晰易懂的方式说明算法服务对用户权益的影响,提供必要的关闭或调整选项。特别是对于老年人等特殊群体,要结合老年人经常面临的实际问题,适当增加诸如反电信网络诈骗、反伪科普等内容的推送比例。其二,监管机构需实施常态化监管,督促平台持续优化内部算法安全管理机制和算法技术应用提示说明机制,确保平台以简明扼要、清晰易懂的方式公开算法推荐服务的基本情况。其三,社会公众也需要积极参与治理活动,提升信息素养,培养数字时代的批判性思维,主动寻求多元信息源,共同构建健康透明、向上向善的网络信息生态。

值得注意的是,打开“算法黑箱”存在一定技术门槛。算法公示机制的根本目的是实现个体权益受算法技术应用影响方式的“可视化”,所以,公示范围、公示频率应当围绕该目的而合理设置,而非以“信息倾泻”的方式让公众无从知晓算法技术应用对自身权益究竟有何影响。

进一步而言,平台算法公示信息更适宜与普法信息同步呈现,避免一般社会公众误认为算法技术应用对自身权益存在影响就等于“重大威胁”,借由普法信息打消公众不必要的担忧,帮助公众在准确知晓权益影响程度、方式的基础上,自主选择相应的服务选项。

归根结底,算法原理公示从来都不是减损企业市场竞争技术优势地位的强制性规范,而是为了引导信息服务行业提供更优质的信息服务、形成更健康的行业惯例。

在实践中,开设“平台算法原理公示”专栏、公开算法推荐服务权益影响说明、用户代表参与算法设计、第三方算法安全审计等方式,不仅是数字时代算法技术应用监管的创新尝试,更是数字时代技术安全治理理念的重要进步。阳光是最好的消毒剂,只有让算法运行在阳光下,才能打破信息茧房的桎梏,构建真正开放、包容、健康的数字空间。


相關推薦

2025-04-17

抖音相关业务负责人基于网站版块,就社会关切的算法和治理问题展开介绍。 据介绍,抖音推荐算法核心目标是通过分析用户的“行为”(点击、浏览、喜欢、转发、收藏等),构建个性化的推荐模型。系统会基于用户历

2025-06-11

式各异,难以有效整合和统一访问。 缺乏标准化与有效治理:数据格式不统一、元数据缺失、数据血缘关系不清晰以及数据治理机制的薄弱,都为AI应用埋下了隐患。 这些普遍存在的数据问题,实际上反映了许多企业在AI战

2025-04-08

重塑世界,如何应对随之而来的机遇与挑战,平衡应用与治理,一直是学界和决策者热烈讨论的问题。3月底举行的博鳌亚洲论坛多场人工智能相关活动上,多位与会嘉宾表示,随着AI能力越来越强,AI被滥用等风险会增加,在推

2023-10-19

们一起聊 AI!>>> 中国网信网于今日发布《全球人工智能治理倡议》,具体内容如下: 人工智能是人类发展新领域。当前,全球人工智能技术快速发展,对经济社会发展和人类文明进步产生深远影响,给世界带来巨大机遇。

2025-04-16

,明确金融在AI投资领域的准入门槛。中国人民大学国家治理大数据和人工智能创新平台研究助理纪智元表示,规范平台运营和数据使用,加强对算法的监管,防止算法的趋同和滥用。还要建立应急机制,一旦AI引发了市场的异

2025-05-30

提供法律依据和立法基础。 其次,针对人工智能的数据治理、算法歧视、算法黑箱等特殊法律问题,在《人工智能基本法》的基础上制定单行立法,针对性地解决人工智能数据治理问题与算法难题。 “在人工智能法律制度的

2025-05-31

ps 方法论,为企业提供「可视、可度量、可优化」的研发治理能力,覆盖从立项到交付的全生命周期,真正实现数据驱动下的智能研发决策支持,有效提升软件交付质量与组织研发效能。   做软件工厂的中枢神经系统 作为

2021-11-24

在这种情况下选择离开,他们表达了对大家的歉意。但从治理 Rust 的角度来看,他们别无选择。因此 Rust 审核团队认为除了辞职和发表这份声明之外,已经没有其他办法了。 公告最后,Andrew Gallant 就治理 Rust 社区提出了一些

2022-12-22

北极星(Polaris Mesh)是开源的一体化服务治理平台,致力于解决分布式和微服务架构中的服务管理、流量管理、故障容错和配置管理问题,提供业务监控、流量监控、事件中心和操作记录等全方位的可观测性能力,帮助用户快速

2022-12-23

得着手改进的方向。 两件重要大事 解决 Rust 社区的治理和领导问题 Nick Cameron 认为,目前最重要的是解决 Rust 社区的治理和领导问题。原因在于这些问题阻碍了许多潜在工作,而且持续时间越长,会导致项目累积的“治

2025-08-28

)以及合规挑战(26%)。 报告指出,展望未来,主权 AI 治理的未来在于开放、社区驱动的框架。战略建议包括投资开源 AI 基础设施、培养主权 AI 人才、支持开源基金会及社区驱动的治理模式与标准、应对数据挑战,以及促进

2023-07-14

《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管,明确了提供和使用生成式人工智能服务总体要求。

2025-07-31

2025 世界人工智能大会暨人工智能全球治理高级别会议“人工智能发展与安全”全体会议 7 月 26 日下午在上海召开。会议由中国人工智能发展与安全研究网络(以下简称“研究网络”,CnAISDA)主办。上海市委常委、常务副市长

2024-01-13

AOKAO排名第七、AGIEval排名第八。 视觉大模型赋能100+城市治理下游任务,算法日均调用量达3.3亿次;多模态大模型聚焦图文生成和图文理解能力,采集超过12亿的风格数据,文图检索精度达到SOTA,支持20+风格生成。 语音大模型