刘诗瑶

必须加强人工智能发展的潜在风险研判和防范，制定相应规则，规范人工智能的发展，确保人工智能安全、可靠、可控

人工智能是引领这一轮科技革命和产业变革的战略性技术，将对人们的生产生活产生深远影响。比如，人工智能在研发新材料、预测蛋白质结构等方面具有优势，有望进一步重塑科学研究范式；智能驾驶的普及，将改变城市规划和交通管理方式……各行各业对人工智能的需求日趋增大的同时，经济社会的方方面面正受到人工智能的多重影响。

随着人工智能不断取得突破，一些潜在的隐患和道德伦理问题也逐步显现出来。例如，人工智能在安全、隐私等方面存在一定风险隐患：“换脸”技术有可能侵犯个人隐私，信息采集不当带来数据泄露，算法漏洞加剧认知偏见……这说明，人工智能不单具有技术属性，还具有明显的社会属性。唯有综合考虑经济、社会和环境等综合因素，才能更好应对人工智能技术带来的机遇和挑战，推动其健康发展。人工智能的进一步发展，给人工智能治理带来更多课题，亟待相关法律和伦理工作者作答。

为此，必须加强人工智能发展的潜在风险研判和防范，制定相应规则，规范人工智能的发展，确保人工智能安全、可靠、可控。要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。只有正确处理好人和机器的关系，才能更好走向“人机混合”的智能时代。

目前，业界已经展开了一定程度的探索。譬如，构建有效的优化训练数据集，防止人工智能生成对公共安全、生产安全等有害的内容；在编程设计阶段，通过技术手段防止数据谬误，增加智能系统的透明度和公平性；预先设立应急机制和应对措施，对人工智能使用人员进行必要培训。这些举措，都在技术层面进一步夯实了人工智能治理的基础。

近年来，我国陆续发布《新一代人工智能伦理规范》《关于加强科技伦理治理的意见》《全球人工智能治理倡议》等，旨在提升人工智能治理能力，有效防控人工智能发展风险。各地区各行业也正在建立更加完善的多方治理机制，形成协作格局，贡献治理智慧，共享治理成果。同时，我国还通过积极搭建人工智能发展各方参与的开放性平台，推动形成具有广泛共识的国际人工智能治理方案，向国际社会贡献中国智慧。着眼长远，在发展、应用的同时加强监管和规范，人工智能就能更好造福人类。