AI技术可能带来巨大的好处也可能出现一些潜在问题
发布时间:2021-06-15 16:36:17 文章来源: 中国科学报
人工智能(AI)让人类与技术的关系发生了变化。近日,在未来论坛发起的AI 向善的理论与实践论坛上,清华大学教授、苏世民书院院长薛澜说,一

“人工智能(AI)让人类与技术的关系发生了变化。”日,在未来论坛发起的“AI 向善的理论与实践”论坛上,清华大学教授、苏世民书院院长薛澜说,“一般来说在人与技术的关系上,技术通常都是被动的。但AI技术不同,它似乎并不完全听从我们。”

薛澜在论坛上指出,对AI这样的技术,如果在发展前期不注意治理问题,消除可能产生的风险,一旦这些风险产生不良后果,就会导致市场对技术的应用产生强烈抵触,甚至可能导致技术难以发展,形成恶循环。“避免这种情况的关键,在于从AI技术生命周期的起始阶段就关注治理问题,防患于未然。”

2019年6月,国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》,提出了AI治理的框架和行动指南。

“这是很重要的一步。当然,未来我们如何落实这些准则,或改善依然存在的问题,需要研究和讨论的内容还有很多。”

薛澜指出,AI治理在执行上,天然就面临更多挑战。“其他技术的治理可以通过具体的技术指标调控来实现。比如汽车可以通过限速控制车速,从而找到社会收益和成本控制的衡点。但对于AI技术来说,我们并不完全了解系统是怎么做决策的,难度就大大增加了。”

AI治理的另一大特殊在于,由于技术发展很快,作为治理者的政府,反应速度很容易落后于作为被治理者的企业。往往规则还在制定中,技术已经向前走了很远。

如果由于技术和市场发展过快,导致以公众利益和安全为目标的政府管制无法跟上,此时一旦出现问题和事故,带来社会危害,就可能出现政府管制口袋瞬间扎紧,以致企业和技术难以发展的困境。

“要想打破这种一追再追的局面,一个比较好的模式是‘敏捷治理’,政府和企业都要改变观念。”薛澜说,“简单来说,就是从猫抓老鼠的关系转变成搭档的关系。在政府的基础规制框架下,企业要有很强的自律机制,行业也要有相应的行规和标准,政府与企业互相沟通,共同讨论潜在风险,协商如何有意识地加以规避。这时尤其需要成熟企业与政府合作,作出合理的治理规制。”

但如果AI犯了错,能不能像惩罚人类一样去惩罚它?围绕迅速发展的AI技术应用,人们需要建立一个怎样的责任体系?

薛澜表示,他倾向于建立一个系统的保险制度。在这样的制度下,一旦出现了问题,有保险兜底,大家就不必再去担心自己是否要承担损失,争论是否要追究开发者的责任,从而更客观理地去分析事故背后的原因,促进技术和应用的良发展。

在论坛上,薛澜一再强调,AI技术可能带来巨大的好处,也随时可能出现一些潜在的问题,埋伏下巨大的风险。因此他在最后的发言中强调,AI治理关乎全球人类福祉,需要各国密切合作制定并遵守共同的准则。(记者 李晨阳)

标签: AI技术 好处 问题 治理

资讯播报

乐活HOT

  • 2022北京龙庆峡冰灯冰雪季冬奥题材冰灯作品比去年多一半多
    2022北京龙庆峡冰灯冰雪季冬奥题

    赏灯戏雪过大年!1月15日晚,2022年北京龙庆峡冰灯冰雪季在龙庆峡文化广场开幕。龙庆峡景区紧邻冬奥延庆赛区,今年的冰灯冰雪季加大了冬奥文

  • 运动、食补等成年轻人生活常态 “养生人”有冲动派有学术派
    运动、食补等成年轻人生活常态

    护肤养颜美丽人惜命养生打工人激情参与体验派随缘佛系小乖乖学术养生小专家快乐负重撸铁人——经此一疫,年轻人也给自己贴上了惜命的标签。

  • 2022北京年货节的网上年货节专场促销优惠多
    2022北京年货节的网上年货节专场

    昨日,由北京市商务局主办,北京老字号协会、北京市餐饮行业协会承办的2022北京年货节在丰台区大悦春风里正式启动。本次年货节,是北京消费

  • 北海公园总面积1.5万平方米的天然冰场正式开放
    北海公园总面积1.5万平方米的天

    为助力北京冬奥城市文化活动,让市民和游客感受冰雪活动乐趣,1月12日,北海公园总面积1 5万平方米的天然冰场正式开放,预计将持续至2月4日

  • 正值泡温泉旺季 不少景点都推出了一定的优惠政策
    正值泡温泉旺季 不少景点都推出

    入冬以来,随着气温逐渐走低,冬季游玩项目成为热门话题。今年元旦假期,湖北省文化和旅游厅的数据显示,滑雪、泡温泉等冬季特色项目受到市

  • 武汉大众冰雪季将向2.8万名小学生免费派发冰雪体验券
    武汉大众冰雪季将向2.8万名小学

    迎冬奥,在家门口享受冰雪运动。1月17日至2月28日,第八届全国大众冰雪季冰雪嘉年华活动将在武汉全民健身中心开放运营。活动期间,市体育局

  • 冬季抑郁有何常见表现? 为何冬季更容易抑郁?
    冬季抑郁有何常见表现? 为何冬

    进入冬季,再加上目前疫情在全国多地散发,或多或少影响着我们的心情。那么,在这个特殊的季节和时期,我们如何调适自己的心理呢?今天,河

  • 颐和园冰上健体活动正式启动 是全市最大一处天然冰场
    颐和园冰上健体活动正式启动 是

    1月10日,颐和园圆梦冬奥,相约颐和冰上健体活动正式启动,冰场总面积约30万平方米,是全市最大一处天然冰场。北京青年报记者了解到,冰场

  • 不建议14岁以下儿童专门检测幽门螺旋杆菌
    不建议14岁以下儿童专门检测幽门

    近日,美国卫生及公共服务部发布了第15版致癌物报告,其中幽门螺旋杆菌慢性感染被明确标为可致癌。这一话题迅速登上热搜。根据世界胃肠病组

  • 210个药品注册证书被注销 包括多个品牌的去痛片
    210个药品注册证书被注销 包括

    国家药品监督管理局官网近日发布公告,注销210个药品注册证书,其中包括多个品牌的去痛片。日常生活中,不少市民出现头痛、腹痛、月经痛、

娱乐LOVE

精彩推送