东西问|肖君拥 :如何应对AI带来的人权风险?

发布时间:2024-12-06 02:08:15 来源: sp20241206

   中新社 北京6月23日电 题:如何应对AI带来的人权风险?

  作者 肖君拥 北京理工大学法学院教授、科技人权研究中心执行主任

  当前,人工智能技术迅猛发展,且已被广泛用于生产生活场景,从智能家居到汽车的自动驾驶,从医疗诊断的精准辅助再到具有划时代意义的生成式人工智能等。人工智能技术为人类社会生活带来了巨大便利,同时伴随人工智能的发展也引发出一系列关于人权风险的隐忧。

  “人工智能的人权风险”是一个复杂而敏感的议题,不仅涉及到技术层面的伦理考量,也触及人类社会对于公平、正义和尊严的深层次追求。在人工智能技术快速发展的同时,必须深入思考人工智能的人权风险,利用法制手段约束和引导人工智能技术的发展。

  人工智能带来哪些人权风险?

  当前人工智能正处于弱人工智能时代,关于人工智能的人权风险可以分为三类,分别是一般人权风险,潜在人权风险,以及强人工智能和超人工智能的人权风险。

仿生机器人吸引参观者注意。佟郁 摄

  一般人权风险涉及与数据有关的人权风险,以及算法偏见和歧视性决策。

  如果说石油是工业的“血液”,那么数据就是人工智能的“神经系统”,数据对于人工智能的发展至关重要,然而与数据有关的各个环节都存在着一定的人权风险。

  在数据收集阶段,未经用户明确同意的收集,超过必要限度的收集会侵犯用户的隐私权;人脸识别技术利用人脸进行监控、追踪或识别身份等,增加了隐私权被侵犯的风险。

  在数据处理阶段,脱敏技术的不完善,用户的隐私无法得到保护,系统自身的网络漏洞,将会造成被攻击之后数据泄露的后果。

  在数据使用阶段,很多技术公司在获取用户信息之后又将其转手卖出,这是对普通民众个人信息权的严重侵犯;而近期大火的生成式人工智能,在惊艳世人的同时,也会产生虚假信息,从而侵犯他人的名誉权,随意使用和重组他人作品,可能会构成对他人知识产权的侵犯。

  在数据存储阶段,集中存储增加了使用便利性,也增加了泄露风险。例如近年来发生的某平台的信息泄露事件,不仅严重侵犯了相关当事人的隐私权,更影响了社会的稳定。

  算法偏见,是指在信息的生产、分发及核查的过程中对用户造成的非中立立场影响,导致片面、失实等信息观念的传播。算法偏见可能是由于算法设计和开发者自身的偏见,也可能是训练数据的偏见,更有可能是在人机交互的过程中,机器无意识且不加选择地习得人类的一切伦理与喜好,包括偏见。

  从技术角度来看,算法偏见无法避免。算法偏见会使人的平等权在无形之中被侵害,某些群体将逐渐成为机器歧视的对象,压缩了他们的网络生存空间。同时,算法偏见引发的歧视性决策,会使某些群体的权益受到严重侵害。

  潜在人权风险方面,随着人工智能的进一步发展,其决策的正确性和高效性已超越了人类主体,可以预见的是,在未来,许多领域的决策主体都将从人变为机器。在提升效率的同时,更极大地增加了人权风险,最为棘手的就是责任承担问题。如,智能驾驶普及后,出现交通事故该由谁承担责任,这引发了学界和实务界争论。传统法学的主体均为人,如果机器决策成为常态,人的主体地位会受到极大冲击,这会影响法学的发展方向。

  人工智能极大地提升各行各业的效率,同时也可能引发史上最严重“下岗潮”。人工智能技术能够高效完成许多重复性、低技能的工作,这种现象将导致大量从事这类工作的劳动力失业。

  未来的社会是高度互联化的社会,具备一定技术素养才能在社会中立足,可是人工智能技术具有一定的门槛,对于无法掌握这些技术的民众,可能就很难适应社会,这会影响社会的平等,影响部分民众基本人权的实现。

  强人工智能和超人工智能将对人类社会产生极大的冲击。当前最为先进的生成式人工智能也只是弱人工智能的一种,其所能进行的文本生成技术,也只是人类大脑功能的一部分,并没有达到真正像“人类思考”(强人工智能),更不会超越人类(超人工智能)。在未来,人工智能不仅能像人类一样思考和工作,更能够学习人类的撒谎、贪婪等品质,作出对人类有危害的决策,如果机器演化出人类主宰世界的意识,更可能通过各种手段清除人类而主宰整个世界。任何技术的发展都应当“以人为本”,更好地促进人类的发展。

人工智能沉浸式体验项目“AI之梦”吸引参观者体验。汤彦俊 摄

  如何约束人工智能技术应用?

  当前,人工智能发展的速度已超出预期,纵观全球各个主体的立法速度,落后于人工智能技术发展的速度。也就是说,如果任凭人工智能技术的发展,很快就会出现人工智能领域无法可依、乱象丛生的局面。

  对人工智能进行法律规制,可从以下几个方面进行。

  首先,加强行政监管式规制方案。

  应当建立实质性的人工智能算法人权保护标准,及其相配套的审查和惩罚机制。通过标准化的方法实现算法决策机制一定程度的可视化乃至量化,并以此为基础对算法应用进行进一步规制。

  通过行政方式收集信息和数据,评估人权的保护状况。因为算法提供者没有足够动力,而算法使用者虽有动力却无实力负担信息收集成本。

  以行政介入方式确保少数群体权益得到充分表达,以规范形式给予少数群体诉求表达的渠道和正当性,可降低其表达诉求的行为成本并提高其诉求得到采纳的机会。

  其次,完善数据、算法等相关立法。

  数据作为人工智能时代最重要的资源,对数据的规制应当进一步细化,对于数据的收集、流动、跨境流动,数据的存储、处理,数据的使用、删除及销毁等,都应当建立相关的法律规制。

  进行算法有关的立法,应要求AI系统的设计者和使用者公开其算法的工作原理、数据来源及决策逻辑,特别是对于影响个人权益的重大决策;应确保AI决策过程可以被人类理解和审查,提供决策理由的解释,尤其是当决策结果对个人产生重大影响时;应建立定期审查与审计流程,检测并纠正算法中的偏见,确保决策过程的公正性和无歧视性。

  再次,通过市场进行规制。

  市场自发秩序驱动算法用户自主选择,促使人工智能算法与传统服务竞争,用户最终选择在人权保护方面表现最佳的服务。在充分竞争的市场中,用户可选择其他提供公平服务的竞争者,这使得不公正的算法服务提供者逐渐被淘汰。由于算法服务的边际效应递减,公平服务提供者可因更多用户而降低平均成本,增强竞争力。在市场规范中,行政管理问题得以解决,不需要复杂的歧视还原和监管体系。市场主体自发调整,以满足用户选择,实现价值冲突的均衡,替代低效的自上而下监管,促进算法服务的人权保护。

  最后,保障知情、选择与申诉权。

  应当确保用户了解服务的人工智能属性、服务提供方身份、采集的信息、隐私保护政策和申诉渠道等实质性权利。服务提供方也有义务解释说明其条款。

  确保公共部门场景中,至少提供“2+1”的选项(两个以上不同的人工智能程序及传统方案)。商业行为场景中,至少要求提供传统解决方案或选择不接受服务。

  确保能够向算法提供方要求重新判断和提供判断依据等。在人权范畴内权利受到侵害时,主张停止侵害和侵权赔偿等。同时有向政府指定行政机关说明情况寻求救济的权利。

  人工智能的发展速度迅猛,其存在的“技术黑箱”,也让人工智能专家对很多现象无法解释。可以说,人工智能像是一个强有力的推进器,让人类社会再一次经历腾飞,在这美好的背后,更要警惕其带来的人权风险,通过法律规制引导保障人工智能技术健康、向善发展。(完)

  受访者简介:

  肖君拥,北京理工大学法学院教授、博士生导师,国家人权教育培训基地北京理工大学科技人权研究中心执行主任。中国法学会法理学研究会和宪法学研究会理事。著有《人民主权论》《国际人权法讲义》《人权的道德维度》等。主讲《国际人权法》获北京市高校优质本科课程。曾数次参加联合国人权理事会大会和边会发言,多次赴美国、欧洲等地参加国际人权对话交流。

【编辑:陈海峰】