近期，国内外一些人工智能（AI）产品问答内容价值导向错误的新闻频上热搜。随着AI技术的发展，AI的价值导向问题逐渐引发广泛关注，“构建可信赖的AI系统”的呼声越来越高。日前在2024年世界科技与发展论坛期间发布的《2024年人工智能十大前沿技术趋势展望》，就列入了“人机对齐：构建可信赖的AI系统”。2024年世界互联网大会乌镇峰会也聚焦AI，释放清晰信号——拥抱以人为本、智能向善的数字未来。
什么是可信赖的AI系统？构建可信赖的AI系统有哪些路径？记者就以上问题采访了相关专家。
可靠稳定是关键
随着AI在社会生活和各个行业中渗透程度的加深，其决策和行为的影响范围也日益扩大。例如，在医疗、交通、金融等高风险领域，AI系统的决策影响着人们的生命、财产与福祉，一些错误决策可能直接威胁到人类生命或财产安全。康奈尔大学约翰逊商学院讲席教授丛林介绍，AI在金融领域的应用主要包括资产管理、资产回报预测、资产定价等。“我们希望金融领域的AI要准确。我们并不需要它有发散思维或特别有创造力，而是希望它能给我们准确的答案，或是具有一定的稳健性。”他说。
“确保AI系统可信赖，已经成为AI发展不可忽视的要求。这不仅是技术层面的改进，更是社会伦理与责任的体现。”中国科学技术大学人工智能与数据科学学院教授王翔认为，可信赖AI系统不仅能让技术更好地满足人类需求，还能有效防范AI误判和偏见可能引发的负面效应。可信赖的AI系统不但要有优秀的预测、生成、决策等业务能力，而且在透明度、公平性、可解释性、安全性等方面也要符合用户预期。
其中，可解释性是指用户应能够理解AI的行为和决策流程，以便增强用户对AI的信任，并更好地加以利用。公平性要求AI的决策不应受到偏见影响，避免形成对不同群体的歧视。安全性则是指AI系统在运行过程中不会带来安全隐患，并能在一定范围内控制自身行为，特别是在极端或意外情况下要能保护人类安全。“AI系统还需要具备可靠性和稳定性，这要求它的表现在复杂和变化的开发环境中也要始终如一，不轻易受到外部因素干扰。”王翔说。
人机对齐是前提
那么，如何确保AI系统可信赖？王翔认为，人机对齐与构建可信赖的AI系统之间关系密切。“只有具备人机对齐特质的AI系统，才能进一步实现可信赖的特性。”他说。
从概念上看，人机对齐是指确保AI系统在执行任务、进行决策时，其行为、目标和价值观能够与人类保持一致。“这就是说，AI系统在自我优化和执行任务过程中，不仅要高效完成任务，还要符合人类的伦理和价值体系，不能偏离人类设定的目标或带来不良的社会影响。”王翔进一步解释，“尤其是在涉及社会伦理和安全的场景中，确保AI输出内容与人类的价值观和道德准则相符，是人机对齐的核心意义。”
如果AI系统没有经过人机对齐的过程，即使具备强大的功能和智能，也可能因不符合人类的期望和价值观而导致信任危机或负面影响。“因此，确保AI系统在目标和行为上与人类保持一致是构建可信赖AI系统的重要前提。两者的结合不仅能提升AI的表现，还可为未来AI在各领域的广泛应用奠定基础。”王翔说。
确保AI以人为本、智能向善，完善伦理和法律框架是重要发力方向。王翔认为，技术的进步往往伴随着新问题的发生，因此需要设立法律边界和伦理准则，为AI的发展提供指导与约束。这不仅可以减少AI应用中潜在的伦理风险，还能使AI应用更加规范和安全。此外，建设可信赖的AI系统需要跨学科合作，哲学、伦理学、社会学等学科的参与能为AI的设计与发展提供更全面的视角。
技术优化是手段
构建可信赖的AI系统，还需要在技术层面和应用实践中不断探索和完善。王翔介绍了三种主要的技术路径。
一是数据驱动路径。王翔认为，数据质量和多样性是实现可信赖AI的基础。训练数据的多样性可以有效减少模型中的偏见问题，确保系统决策更加公平、全面。“只有在庞大的优质数据基础上构建的AI模型才能适应广泛的应用场景，降低在特殊或极端条件下出现偏见的可能性。”王翔说，数据的安全性也至关重要，尤其是在涉及个人隐私的领域，保障数据安全可以提高用户信任度。
二是算法驱动路径。王翔说，算法的优化与控制是实现可信赖AI的关键手段。在模型的设计阶段，开发者可以通过设置伦理规则、嵌入人类价值观等约束条件，确保系统在实际运行中符合社会准则。同时，设计透明的算法结构有助于提升模型的可解释性，便于用户理解其运行机制，并为未来的模型更新和优化打下基础。
三是奖惩引导路径。王翔说，通过合理设计奖惩机制，可以让AI在不断试错和学习过程中，逐渐形成符合人类价值观的行为方式。例如，可以在奖惩系统中设置反馈机制，当AI的行为偏离预期时施加相应惩罚，引导其在自我训练过程中符合人类期望。同时，奖惩机制需具备时代适应性，确保AI系统能在运行中持续更新并优化自身。
这三种技术路径的侧重点各有不同。王翔解释，数据驱动路径主要聚焦于通过高质量、多样化的数据源减少AI系统的偏见，提升系统的适用性；算法驱动路径更注重模型的设计和透明性，使系统在行为逻辑上更符合人类预期；奖惩引导路径则侧重于在AI自我学习和优化过程中提供有效指引和反馈，让系统逐渐趋向人类认可的方向。“不同路径相结合，可以为实现可信赖的AI提供更加丰富的技术支持。”王翔说。
要构建可信赖的AI系统，还需在实际应用中不断进行迭代和优化。“通过多次评估和测试，可以在不同环境和条件下验证AI系统的性能，确保其在现实应用中的表现符合人类预期。”王翔说。
关键词 :
上一篇 : 数智经济催生消费新场景
下一篇 : 最后一页
新华社雪龙2号11月24日电（记者黄韬铭）天色灰蒙，时有落雨。执行中国第41次南极考察任务的雪龙2号航行...
新华网 11-25 10:54:16
新华社雪龙2号11月24日电（记者黄韬铭）天色灰蒙，时有落雨。执行中国第41次南极考察任务的雪龙2号航行...
新华网 11-25 10:54:16
新华社杭州11月24日电（记者朱涵、郑可意）啤酒为什么冰的更好喝？胎儿也有自己的口味吗？吃瓜如何引发...
新华网 11-25 10:34:27
新华社杭州11月24日电（记者朱涵、郑可意）啤酒为什么冰的更好喝？胎儿也有自己的口味吗？吃瓜如何引发...
新华网 11-25 10:34:27
新华网北京11月25日电（朱家齐）古香古色的静园1号院内，浓郁的秋色扑面而来。作为北京大学前沿交叉学科...
新华网 11-25 10:31:41
新华网北京11月25日电（朱家齐）古香古色的静园1号院内，浓郁的秋色扑面而来。作为北京大学前沿交叉学科...
新华网 11-25 10:31:41
中新网南宁11月25日电 题：广西铝产业开启新铝途布局东南亚作者 蒋雪林 陈秋霞走进南宁产投铝基新材...
中国新闻网 11-25 10:26:44
中新网南宁11月25日电 题：广西铝产业开启新铝途布局东南亚作者 蒋雪林 陈秋霞走进南宁产投铝基新材...
中国新闻网 11-25 10:26:44
中新网呼和浩特11月25日电 (记者 李爱平)内蒙古自治区林业和草原局24日消息称，当日，鄂尔多斯市林业...
中国新闻网 11-25 10:23:22
中新网呼和浩特11月25日电 (记者 李爱平)内蒙古自治区林业和草原局24日消息称，当日，鄂尔多斯市林业...
中国新闻网 11-25 10:23:22
中新网11月25日电 据中国人民银行网站消息，为维护月末银行体系流动性合理充裕，2024年11月25日人民银...
中国新闻网 11-25 10:21:39
中新网11月25日电 据中国人民银行网站消息，为维护月末银行体系流动性合理充裕，2024年11月25日人民银...
中国新闻网 11-25 10:21:39
中新网11月25日电 据中国外汇交易中心网站消息，中国人民银行授权中国外汇交易中心公布，2024年11月25...
中国新闻网 11-25 10:20:06
中新网11月25日电 据中国外汇交易中心网站消息，中国人民银行授权中国外汇交易中心公布，2024年11月25...
中国新闻网 11-25 10:20:06
央广网嘉兴11月24日消息 2024年世界互联网大会乌镇峰会于11月22日圆满落幕。本届峰会在浙江乌镇举办，...
央广网 11-25 10:13:43
央广网嘉兴11月24日消息 2024年世界互联网大会乌镇峰会于11月22日圆满落幕。本届峰会在浙江乌镇举办，...
央广网 11-25 10:13:43
11月22日，随着远控桥吊司机缓缓摇动手柄，宁波舟山港梅山港区今年第1000万个标准箱稳稳落上达飞马可波...
央视新闻客户端 11-25 10:11:43
11月22日，随着远控桥吊司机缓缓摇动手柄，宁波舟山港梅山港区今年第1000万个标准箱稳稳落上达飞马可波...
央视新闻客户端 11-25 10:11:43
中新网杭州11月24日电(曹丹)乡村运营商与村委会的合作如同‘相亲’，彼此中意才能领‘结...
中国新闻网 11-25 10:08:53
中新网杭州11月24日电(曹丹)乡村运营商与村委会的合作如同‘相亲’，彼此中意才能领‘结...
中国新闻网 11-25 10:08:53
中新网江门11月24日电 题：广东台山菜花上市 市民尝鲜正当时作者 李晓春 郭军都斛今年秋季种植的菜...
中国新闻网 11-25 10:01:19
中新网江门11月24日电 题：广东台山菜花上市 市民尝鲜正当时作者 李晓春 郭军都斛今年秋季种植的菜...
中国新闻网 11-25 10:01:19
中新网合肥11月24日电 (记者 吴兰)在被誉为安徽第一闸的合裕线航道裕溪一线船闸处，随着闸门缓缓打开...
中国新闻网 11-25 09:58:42
中新网合肥11月24日电 (记者 吴兰)在被誉为安徽第一闸的合裕线航道裕溪一线船闸处，随着闸门缓缓打开...
中国新闻网 11-25 09:58:42
中新网朔州11月24日电 (任丽娜)11月22日至11月24日，2024首届山阴甄选特色农产品博览会在山西省朔州市...
中国新闻网 11-25 09:56:31
中新网朔州11月24日电 (任丽娜)11月22日至11月24日，2024首届山阴甄选特色农产品博览会在山西省朔州市...
中国新闻网 11-25 09:56:31
按下shift按键先找到并按下你的电脑键丽珠盘上面的shift按键，切换到英文输入法状态。键盘下划线怎么打?...
word中_________上打字的方法如下：1、进入word2010，在要设置下划线的位置输入空格，然后选中空格，点...
word横线上打字横线往后移怎么办?选中横线跑的文字，找到输入文字后横线跑的那几个文字，选中文字。查看...
大熊猫有天敌吗?答案是肯定的。野生大熊猫最大的天敌就是豺，确切的说是四川豺。四川豺主要分布在我国的...
充电桩安装需要什么条件?1、运营充电桩需要电动车使用人数多，小区充电使用率到达一定程度，如果使用率...
联系我们:55 16 53 8@qq.com
关于我们| 联系方式| 版权声明| 供稿服务| 友情链接
经济头条 版权所有，未经书面授权禁止使用
Copyright©2008-2020 By www.jingji.net All Rights Reserved
营业执照公示信息