大数据的形成、理论算法的革新等驱动人工智能进入新一轮创新发展高峰期。与此同时，相关法律、伦理、社会问题的研究也成为行业发展不可回避的问题。业内人士表示，只有加强人工智能伦理研究，处理好机器与人的关系，才能获得更多人工智能红利，让技术造福人类。
本报记者 崔彩凤/摄
本报记者 李洋报道
如果无人驾驶出现事故，系统会做出保护行人还是保护司机的决策？机器人更加个性化，是否能够做好安全监管？ａｉ“换脸术”“变声术”在娱乐大众的同时，如何避免被滥用甚至侵害他人权益的风险？人工智能是否享有著作权……当前，全球正在经历科技和产业高度耦合、深度迭加的新一轮变革，大数据的形成、理论算法的革新、计算能力的提升及网络设施的演进驱动人工智能进入新一轮创新发展高峰期，新技术持续获得突破性进展，呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等以应用为导向的新特征。与此同时，相关法律、伦理、社会问题的研究，也成为行业发展不可回避的问题。人工智能究竟该如何健康发展？
近日，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出人工智能治理的框架和行动指南。该治理原则突出了发展负责任的人工智能这一主题，强调了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。
新一代人工智能 伦理问题饱受争议
近年来，从顶层设计到产业落地，我国的人工智能产业均出现了一片欣欣向荣的景象。２０１５年，国务院出台的《关于积极推进“互联网＋”行动的指导意见》将“互联网＋人工智能”列为其中１１项重点行动之一。２０１６年以来，人工智能先后被写入国家“十三五”规划纲要和政府工作报告中。在２０１７年７月和１２月，《新一代人工智能发展规划》《促进新一代人工智能产业发展三年行动计划（２０１８－２０２０年）》两项总领性政策相继出台。２０１８年１１月，工业和信息化部发布《新一代人工智能产业创新重点任务揭榜工作方案》。一系列顶层设计构筑了中国人工智能发展的“四梁八柱”，一批大型企业超前布局，一批创新型中小企业加快涌现。
由科技部新一代人工智能发展研究中心、中国科学技术发展战略研究院联合国内外十余家机构编写的《中国新一代人工智能发展报告２０１９》今年５月对外发布。报告显示，我国人工智能发展已在部分方面具有优势。例如：我国人工智能论文发文量全球领先，企业数量等多项指标居全球第二；人工智能企业通过与研究型大学共建联合实验室、研究院、研究中心等方式加速人工智能高水平人才成长，多层次ａｉ人才培养体系逐步形成。
一边是在研究与产业领域的争相追捧，一边又是由此带来的安全风险、隐私、算法歧视、行业冲击、失业、收入分配差异扩大、责任分担等监管难题，人工智能等发展在争议中踽踽前行。
在今年全国两会期间，百度董事长李彦宏带来了一项关于人工智能伦理的提案。他认为，目前人工智能还处在发展初期，但在某些领域已经接近甚至超过了人的能力，展现出巨大的变革力量。智能革命正带来人机关系的变化，未来机器不再是单纯的工具，而是有可能帮助甚至部分代替人类进行决策。只有加强人工智能伦理研究，处理好机器与人的关系，我们才能更多地获得人工智能红利，让技术造福人类。
那么，在高度智能的强人工智能走入人们视野之前，如何让机器符合人类道德规范？对此，学界大体有３种设想：一是自上而下，即在智能体中预设一套伦理规范，如自动驾驶汽车应将撞车对他人造成的伤害降到最低；二是自下而上，即机器通过数据驱动，学习人类的伦理德道规范；三是人机交互，即让智能体用自然语言解释其决策，使人类能把握其复杂的逻辑并及时纠正可能存在的问题。
发展负责任的人工智能是主线
人工智能发展应尊重和保护个人隐私，充分保障个人的知情权和选择权。人工智能系统应不断提升透明性、可解释性、可靠性、可靠性、可控性，逐步实现可审核、可监督、可追溯、可信赖。建立人工智能问责机制，明确研发者、使用者和受用者等的责任……“发展负责任的人工智能”是《新一代人工智能治理原则——发展负责任的人工智能》的主题，涵盖了人工智能的基础研发层到应用层，更应成为贯穿人工智能发展的一条主线。
“比如我们提出的‘和谐友好’等原则，强调无论是人工智能提供的产品还是服务，都应该是负责任的、全面的，应以增进人类共同福祉为目标，应该符合人类的价值观和伦理道德，避免误用，禁止滥用、恶用。”清华大学苏世民书院院长、国家新一代人工智能治理专业委员会主任薛澜说。
《治理原则》旨在更好协调人工智能发展与治理的关系，确保人工智能安全可控可靠，推动经济、社会及生态可持续发展，共建人类命运共同体，这也构成了《治理原则》的４个主要亮点。
上海大学教授、国家新一代人工智能治理专业委员会委员李仁涵表示：“人工智能是一个新生事物，发展还是第一位的。推动我国人工智能的发展，也要在发展中解决问题。”
中国科学院自动化研究所研究员、国家新一代人工智能治理专业委员会委员曾毅表示，现在一些技术开发者没有经过这方面的专业训练，通过创新为社会带来正面效应的同时，对相关的风险不重视或无意识，给社会带来了较大的隐患，希望《治理原则》的发布，能够推动“自适应”的治理，确保人工智能朝着对全人类、全社会及自然生态有益的方向发展。