【千家山郭】“人工智能的风险挑战与治理”讲座顺利举行

B D A I L C 

 欢 迎 关 注 

2018年5月15日，大数据和人工智能法律前沿问题系列讲座第三讲“人工智能的风险挑战与治理”在科研楼B209会议室顺利举行。本次讲座由国务院《新一代人工智能发展规划》执笔组主要成员、科技部中国科技发展战略研究院李修全研究员主讲，中国政法大学法学院大数据和人工智能法律研究中心主任汪庆华教授主持。来自清华大学、北京师范大学、中国社会科学院大学、《文化纵横》杂志的嘉宾和企业界的代表以及校内外三十余名硕士生、博士生参与了本次讲座。

01

李修全研究员首先简要介绍了人工智能的发展形势，他认为，信息技术变革所催生的数字经济是当前全球经济发展的主要动能之一，2017年全球市值最高的十大企业中有七家是信息技术企业。当前，人工智能已经在部分领域取得突破性进展，并快速向各领域渗透，未来将成为新一轮经济社会变革的核心驱动力。智能化时代的来临将大大拓展数字化经济发展模式的深度和广度，为经济发展带来新的广阔空间。国务院《新一代人工智能发展规划》的制定，体现了我国对迎接智能化时代的高度重视与提前布局。

值得注意的是，在人工智能开始进入生活造福人类的同时，大量人工智能的恶意用例也开始出现。人工智能作为一种新技术，本身是中性的，其带来正面还是负面影响取决于人类如何应用它。李修全研究员认为，如果缺乏规范和约束，人工智能技术就可能被用于操纵公众认知、破坏商业规则，扰乱网络秩序、挑战军事伦理等方面，从而带来新的社会问题。比如在操作公众认知方面，前不久英国“剑桥分析”利用Facebook的个人数据，分析和影响公众的政治倾向，不仅引起用户对其个体数据被滥用的强烈不满，进而冲击了既有的政治规则和秩序。

基于各类案例的分析，李修全研究员就未来人工智能应用中的风险挑战从几个方面进行了探讨。他认为，人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击社会伦理、侵犯个人隐私、拉大收入差距等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。

李修全研究员介绍，《新一代人工智能发展规划》强调人工智能治理应与发展并重。既要加强人工智能研发和应用力度，最大程度发挥人工智能潜力；又要预判人工智能的挑战，协调产业政策、创新政策与社会政策，实现激励发展与合理规制的协调，最大限度防范风险，这样才能保障人工智能的健康可持续发展。最后，李修全研究员也对《新一代人工智能发展规划》中把握人工智能技术属性和社会属性高度融合的特征，从风险评估和防控、立法研究、伦理准则、安全监管等多个维度，对人工智能治理进行的任务部署进行了介绍。

2

大数据中心主任汪庆华教授就类脑智能与机器智能之间的关系以及人工智能带来的法律责任问题作了点评。

3

清华大学法学院鲁楠副教授认为人工智能带来的技术决定论、代码决定论、理性决定论以及生产决定论等四种思维模式往往并不是合理的思维模式。人工智能如何影响和塑造动态的社会关系更加值得关注和思考。

4

《文化纵横》执行主编余盛峰博士强调，技术可能从来就不是中立的，只有正视这一点，才能更深切理解人工智能对社会治理带来的深刻挑战，必须学会从技术系统自我演化的逻辑下审视治理方式的选择。

5

京东法律研究院的付伟先生提出，在技术鸿沟越来越大的情况下，不同个体公平获取新技术能力需要进行平衡。需要思考除了人工智能的规制之外，是否还有其他方式应对这一挑战。

6

科技部中国科技发展战略研究院袁立科副研究员认为，人工智能的立法需求值得认真思考，特别是立法的不同价值之间的导向需要衡平，比如自由与规制两种价值之间的平衡。

7

中国社会科学院大学互联网法治中心执行主任刘晓春从技术伦理与科技发展之间的关系问题作了点评。个人信息控制权的问题，采用获取用户同意的事先控制模式还是依赖一种分布式、去中心化的控制模式，值得思考。

8

中国政法大学法学院董静姝讲师认为，自然科学与社会科学关注人工智能问题有不同的侧重。就社会科学而言，我们更加关注人工智能如何与社会规则体系互动以及塑造社会规则体系。人工智能带来的对个体决策自由的威胁的问题需要进一步研究。

9

西北工业大学人文与经法学院张敏教授谈到，人工智能是否能作为一种法律主体，以及人工智能如何与人类协同合作，如何在现有的法律框架下解决人工智能带来的挑战，值得思考。

10

美团点评法律研究中心的刘笑岑女士认为，目前的规则体系很难完全事先规制新技术革命带来的风险，有必要从技术发展的积极方面考虑现行法律规则的完善问题。

11

中国政法大学刑事司法学院李小恺讲师指出，必须首先考虑释放人工智能带来的生产力，然后再思考如何解决人工智能带来的生产关系变迁的问题。

12

京东金融研究院的刘元兴先生分析了人工智能在金融领域的应用，认为需要在金融与技术之间融合的趋势下，探索出一种新的监管模式，即技术对技术的模式。

嘉宾点评结束之后，在场的同学也积极就本次讲座的主题进行提问。主讲人李修全研究员对嘉宾和同学们的问题作了回应。

讲座详细文字记录稿本公号随后推出，

敬请期待。

编辑：钟柳依

欢迎点击“阅读原文