沈向洋：AI 是个黑盒子，需构建更为负责任的系统

4 月 28 日夜间信息，微软公司原全世界实行高级副总裁、英国我国工程院外籍院士、英国皇室工程院外籍院士沈向洋今日表明，AI 是个黑盒子，大家在应用时必须更为地慎重，也必须构建更为承担责任的系统。

近些年，人工智能获得的造就和发展早已超过了五到十年前人们的想像。依照标准日期的设置，人工智能在演说、视觉效果和自然语言理解等层面的作用，早已慢慢贴近人们水准，在在线翻译，智能化互动等行业，大家早已看到了愈来愈多 AI 颠覆式创新生活场景的真实案例。

AI，的确早已在做一些单独的决策了，可是，这种决策却并并不是大家都彻底可以了解的。在沈向洋来看，尽管归功于深度神经网络优化算法的提升，近期一次人工智能技术性以及产业发展的确获得了重特大的开创性发展趋势，但因为深度神经网络系统的多元性与白盒化，这造成 了人工智能系统內部的发展趋势，存有着愈来愈多并不公开化的地区。

据沈向洋详细介绍，在国外的一部分州级地区，当地政府尽管已完成了运用 AI 系统去审理犯罪分子罪刑的业务流程，但因为 AI 系统白盒化的缘故，高官们针对自身已经应用的 AI 系统了解并不深入，在该系统的公平公正遭受外部提出质疑并招来微软公司技术性精英团队的反方向逻辑推理认证以后，该系统最后被确认的确存有种族问题、性別成见等缺点，但先前应用该系统的工作人员对于此事并不了解。

“大家在应用 AI 的情况下，必须更为地慎重。”沈向洋提议大家在应用 AI 系统的情况下，必须更为谨慎。因为很多构建人工智能技术性和运用的 AI 商品工作人员并沒有考虑到公平和全透明等社会认知难题，而现阶段的 AI 系统大量是根据历史记录的学习培训剖析，因此当然也会存有一些特殊的认知偏差与了解错误观念。

“在从弱人工智能迈向强人工智能的全过程中，也许大家更必须一个承担的人工智能。”沈向洋表明。而对于于怎样构建一个承担责任的人工智能系统，其详细介绍了微软公司研究所明确提出的人工智能系统发展趋势“六大标准”：公平、靠谱和安全性、隐私保护和确保、宽容、全透明、承担。

在沈向洋来看，人工智能发展趋势的情况下必须像别的工程设计行业一样，必须有一个预置的规范和通信规约，此外，还必须工业界、学术界和政府部门等方面的人一同参加遵循，那样 AI 才可以能够更好地服务社会。