东西问｜肖君拥 ：如何应对AI带来的人权风险？

　　 中新社 北京6月23日电 题：如何应对AI带来的人权风险？

　　作者 肖君拥 北京理工大学法学院教授、科技人权研究中心执行主任

　　当前，人工智能技术迅猛发展，且已被广泛用于生产生活场景，从智能家居到汽车的自动驾驶，从医疗诊断的精准辅助再到具有划时代意义的生成式人工智能等。人工智能技术为人类社会生活带来了巨大便利，同时伴随人工智能的发展也引发出一系列关于人权风险的隐忧。

　　“人工智能的人权风险”是一个复杂而敏感的议题，不仅涉及到技术层面的伦理考量，也触及人类社会对于公平、正义和尊严的深层次追求。在人工智能技术快速发展的同时，必须深入思考人工智能的人权风险，利用法制手段约束和引导人工智能技术的发展。

　　人工智能带来哪些人权风险？

　　当前人工智能正处于弱人工智能时代，关于人工智能的人权风险可以分为三类，分别是一般人权风险，潜在人权风险，以及强人工智能和超人工智能的人权风险。

仿生机器人吸引参观者注意。佟郁 摄

　　一般人权风险涉及与数据有关的人权风险，以及算法偏见和歧视性决策。

　　如果说石油是工业的“血液”，那么数据就是人工智能的“神经系统”，数据对于人工智能的发展至关重要，然而与数据有关的各个环节都存在着一定的人权风险。

　　在数据收集阶段，未经用户明确同意的收集，超过必要限度的收集会侵犯用户的隐私权；人脸识别技术利用人脸进行监控、追踪或识别身份等，增加了隐私权被侵犯的风险。

　　在数据处理阶段，脱敏技术的不完善，用户的隐私无法得到保护，系统自身的网络漏洞，将会造成被攻击之后数据泄露的后果。

　　在数据使用阶段，很多技术公司在获取用户信息之后又将其转手卖出，这是对普通民众个人信息权的严重侵犯；而近期大火的生成式人工智能，在惊艳世人的同时，也会产生虚假信息，从而侵犯他人的名誉权，随意使用和重组他人作品，可能会构成对他人知识产权的侵犯。

　　在数据存储阶段，集中存储增加了使用便利性，也增加了泄露风险。例如近年来发生的某平台的信息泄露事件，不仅严重侵犯了相关当事人的隐私权，更影响了社会的稳定。

　　算法偏见，是指在信息的生产、分发及核查的过程中对用户造成的非中立立场影响，导致片面、失实等信息观念的传播。算法偏见可能是由于算法设计和开发者自身的偏见，也可能是训练数据的偏见，更有可能是在人机交互的过程中，机器无意识且不加选择地习得人类的一切伦理与喜好，包括偏见。

　　从技术角度来看，算法偏见无法避免。算法偏见会使人的平等权在无形之中被侵害，某些群体将逐渐成为机器歧视的对象，压缩了他们的网络生存空间。同时，算法偏见引发的歧视性决策，会使某些群体的权益受到严重侵害。

　　潜在人权风险方面，随着人工智能的进一步发展，其决策的正确性和高效性已超越了人类主体，可以预见的是，在未来，许多领域的决策主体都将从人变为机器。在提升效率的同时，更极大地增加了人权风险，最为棘手的就是责任承担问题。如，智能驾驶普及后，出现交通事故该由谁承担责任，这引发了学界和实务界争论。传统法学的主体均为人，如果机器决策成为常态，人的主体地位会受到极大冲击，这会影响法学的发展方向。

　　人工智能极大地提升各行各业的效率，同时也可能引发史上最严重“下岗潮”。人工智能技术能够高效完成许多重复性、低技能的工作，这种现象将导致大量从事这类工作的劳动力失业。

　　未来的社会是高度互联化的社会，具备一定技术素养才能在社会中立足，可是人工智能技术具有一定的门槛，对于无法掌握这些技术的民众，可能就很难适应社会，这会影响社会的平等，影响部分民众基本人权的实现。

　　强人工智能和超人工智能将对人类社会产生极大的冲击。当前最为先进的生成式人工智能也只是弱人工智能的一种，其所能进行的文本生成技术，也只是人类大脑功能的一部分，并没有达到真正像“人类思考”(强人工智能)，更不会超越人类(超人工智能)。在未来，人工智能不仅能像人类一样思考和工作，更能够学习人类的撒谎、贪婪等品质，作出对人类有危害的决策，如果机器演化出人类主宰世界的意识，更可能通过各种手段清除人类而主宰整个世界。任何技术的发展都应当“以人为本”，更好地促进人类的发展。

人工智能沉浸式体验项目“AI之梦”吸引参观者体验。汤彦俊 摄

　　如何约束人工智能技术应用？

　　当前，人工智能发展的速度已超出预期，纵观全球各个主体的立法速度，落后于人工智能技术发展的速度。也就是说，如果任凭人工智能技术的发展，很快就会出现人工智能领域无法可依、乱象丛生的局面。

　　对人工智能进行法律规制，可从以下几个方面进行。

　　首先，加强行政监管式规制方案。

　　应当建立实质性的人工智能算法人权保护标准，及其相配套的审查和惩罚机制。通过标准化的方法实现算法决策机制一定程度的可视化乃至量化，并以此为基础对算法应用进行进一步规制。

　　通过行政方式收集信息和数据，评估人权的保护状况。因为算法提供者没有足够动力，而算法使用者虽有动力却无实力负担信息收集成本。

　　以行政介入方式确保少数群体权益得到充分表达，以规范形式给予少数群体诉求表达的渠道和正当性，可降低其表达诉求的行为成本并提高其诉求得到采纳的机会。

　　其次，完善数据、算法等相关立法。

　　数据作为人工智能时代最重要的资源，对数据的规制应当进一步细化，对于数据的收集、流动、跨境流动，数据的存储、处理，数据的使用、删除及销毁等，都应当建立相关的法律规制。

　　进行算法有关的立法，应要求AI系统的设计者和使用者公开其算法的工作原理、数据来源及决策逻辑，特别是对于影响个人权益的重大决策；应确保AI决策过程可以被人类理解和审查，提供决策理由的解释，尤其是当决策结果对个人产生重大影响时；应建立定期审查与审计流程，检测并纠正算法中的偏见，确保决策过程的公正性和无歧视性。

　　再次，通过市场进行规制。

　　市场自发秩序驱动算法用户自主选择，促使人工智能算法与传统服务竞争，用户最终选择在人权保护方面表现最佳的服务。在充分竞争的市场中，用户可选择其他提供公平服务的竞争者，这使得不公正的算法服务提供者逐渐被淘汰。由于算法服务的边际效应递减，公平服务提供者可因更多用户而降低平均成本，增强竞争力。在市场规范中，行政管理问题得以解决，不需要复杂的歧视还原和监管体系。市场主体自发调整，以满足用户选择，实现价值冲突的均衡，替代低效的自上而下监管，促进算法服务的人权保护。

　　最后，保障知情、选择与申诉权。

　　应当确保用户了解服务的人工智能属性、服务提供方身份、采集的信息、隐私保护政策和申诉渠道等实质性权利。服务提供方也有义务解释说明其条款。

　　确保公共部门场景中，至少提供“2+1”的选项(两个以上不同的人工智能程序及传统方案)。商业行为场景中，至少要求提供传统解决方案或选择不接受服务。

　　确保能够向算法提供方要求重新判断和提供判断依据等。在人权范畴内权利受到侵害时，主张停止侵害和侵权赔偿等。同时有向政府指定行政机关说明情况寻求救济的权利。

　　人工智能的发展速度迅猛，其存在的“技术黑箱”，也让人工智能专家对很多现象无法解释。可以说，人工智能像是一个强有力的推进器，让人类社会再一次经历腾飞，在这美好的背后，更要警惕其带来的人权风险，通过法律规制引导保障人工智能技术健康、向善发展。(完)

　　受访者简介：

　　肖君拥，北京理工大学法学院教授、博士生导师，国家人权教育培训基地北京理工大学科技人权研究中心执行主任。中国法学会法理学研究会和宪法学研究会理事。著有《人民主权论》《国际人权法讲义》《人权的道德维度》等。主讲《国际人权法》获北京市高校优质本科课程。曾数次参加联合国人权理事会大会和边会发言，多次赴美国、欧洲等地参加国际人权对话交流。

【编辑:陈海峰】