首页 | 热点 | 滚动 | 国内 | 乐活 | 关注 | 教育 | 体育 | 时尚 | 汽车 | 综合 | 行业 | 播报 |

 

AI应当如何行动？中科院等发布AI伦理道德评估的数据与知识平台“智善·如流”
发布时间：2023-07-08 14:04:00 文章来源：21世纪经济报道
如何让AI懂得人类的伦理道德？如何让人类的伦理道德更加明确？7月8日，


(资料图片)

如何让AI懂得人类的伦理道德？如何让人类的伦理道德更加明确？7月8日，记者获悉，“智善·如流”人工智能伦理道德与社会规范的群智数据与知识平台于今日在世界人工智能大会上发布。“智善·如流”由中国科学院自动化研究所人工智能伦理与治理研究中心、远期人工智能研究中心、善智书院联合研发并提供服务。

道德判断是基于道德直觉、道德原则和价值观对某种行为或决策的道德性质进行评估的过程，是道德认知的重要方面。

据介绍，平台通过众包的方式由公众、专家等相关方参与，对人类在不同情景下的道德认知和行为进行刻画，进而形成覆盖人类与人工智能伦理道德表现及对齐进行伦理道德评估的数据与知识平台。

同时为了刻画人类在不同道德情景下道德判断的分布，为人工智能模型的价值对齐和评测及与人类交互提供参照，“智善·如流”平台发布并首批上线了在线场景道德判断功能，支持用户在线对平台上随机抽取的场景和行为进行道德评判，从是否道德、符合/违背道德的程度、对于道德判断的确信度等不同方面和要素上由公众、专家等相关方提供判断。

首批道德情景规模和已标注的人类道德判断数据量达到万级，场景由人与AI协作创造并经人工校验，数据文本均采用中文形式，所有道德情景均经过中文本土化标注员审核和校对以合乎中国价值观和国际共识。

中国科学院自动化研究所研究员、人工智能伦理与治理研究中心主任曾毅对记者表示，“人工智能应用在伦理方面给社会带来了越来越多的挑战。我们希望通过构建和发布包含万级情景的伦理道德数据与知识平台与来自不同国家的公众互动，最终由公众和相关方来决定在具体场景中，人工智能应当如何行为。”

据了解，“智善·如流”人工智能伦理道德与社会规范的群智数据与知识平台是“智善”人工智能伦理安全平台体系的一部分，此前“智善”人工智能伦理安全平台体系已先后推出“智善·共济”链接人工智能原则平台、“智善·思齐”人工智能治理公共服务平台、“智善·观行”人工智能大模型伦理安全观测站 ，后续还将推出“智善·若水”人工智能道德引擎。

（文章来源：21世纪经济报道）

标签：

资讯播报

乐活HOT

娱乐LOVE

精彩推送