世界互联网大会｜人工智能与数字伦理：AI发明宽广机遇，但安全伦理风险亟待解决

每经记者：王晶 每经编纂：梁枭

又到了一年一度的乌镇时间，11月9日，世界互联网大会正式开幕。

当前，以人工智能（Artificial Intelligence，AI）为代表的新一轮科技改动和财产变化正在重构全球立异邦畿，重塑全球经济构造，既为世界列国创造了愈加宽广的开展机遇，也带来了平安伦理时等方面的风险挑战。身处那一变局之中，若何适应信息化、数字化、收集化、智能化开展趋向，同时又塑造安康的伦理价值，是人们配合面临的紧迫课题。

今日（11月10日）下战书，在世界互联网大会分论坛“人工智能与数字伦理”上，清华大学人工智能研究院名望院长、中国科学院院士张钹，中国工程院院士高文，之江尝试室主任墨世强等人工智能与数字科技范畴的出名专家学者，以及微软、阿里等人工智能和数字范畴头部企业负责人，配合围绕人工智能手艺、利用和财产开展过程中的平安风险治理与数字伦理建立，以“人工智能的财产标的目的与伦理取向”为主题展开交换。列位嘉宾各持己见，为鞭策国际社会人工智能伦理研究和治理系统构建等方面碰碰思维、交换互鉴。

AI研究及治理需要全世界差别范畴的人员参与

早在上世纪50年代，美国科幻小说家阿西莫夫就在小说《我是机器人》中对相关机器人提出具有前瞻性的“机器人三定律”：即“机器人必需不危害人类，也不容许它眼看人将受害而袖手旁看；机器人必需绝对从命于人类，除非那种从命有害于人类；机器人必需庇护本身不受损害，除非为了庇护人类或者是人类号令它做出牺牲”。

但是上述提醒并没有引起人工智能界的重视，因为其时人工智能研究还处于摸索阶段，停顿迟缓。而跟着人工智能迅猛开展，曾经的“远虑”似乎日益成为“近忧”。

关于开展第三代人工智能的构想，清华大学人工智能研究院名望院长、中国科学院院士张钹认为：“人工智能的研究和治理都需要全世界差别范畴的人员参与和协做，除处置人工智能的研发和利用人员之外，还需要法令、道德、伦理等差别范畴人员的参与，我们需要了了伦理道德的原则，什么是契合道德和伦理的？差别国度、民族团体和小我，都有不尽不异的熟悉，因而需要全球范畴的协做，配合造定出一套契合全人类利益的原则。”

之江尝试室主任、中国人工智能财产联盟副理事长墨世强则认为，人工智能是人类智能在机器范畴的延伸，实正的主动权仍然是掌握在人身上。“如今任何一项手艺只如果人开发出来的，总有人可以掌握它，所以手艺并没有原功，但是手艺的利用是有正邪的。”

他以菜刀举例称：“菜刀是用来切菜的，菜刀也良多次被用来杀人，但菜刀是没有原功的，我们的手艺逻辑是期看‘以道造魔’，用手艺手段把菜刀打形成尖利的，但是让它永久砍不到人头上往。那个听起来有点天方夜谭，但至少应该是我们勤奋的一个标的目的。”

墨世强表达，在当前开展阶段，最重要的使命仍然是开展手艺。据他介绍：“我们正构建之江尝试室预防人工智能危害社会的手艺图谱，试图用一种先辈的手艺来阻遏人工智能的滥用和歹意的违法利用。”

除了国内专家外，2007年图灵奖获得者、世界顶尖科学家协会会员约瑟夫·斯发基斯也通过视频形式停止了演讲。他是2007年图灵奖获得者、国际嵌进式系统研究中心Verimag尝试室名望研究主任，曾做为欧洲“卓著收集”（Network of Excellence）嵌进式系统设想研究联盟的手艺协调人。

多年来，斯发基斯不断在看察ICT（信息与通信手艺）和人工智能之间的合成。他认为，那种合成越来越快速，ICT和人工智能也配合带来了自治系统，那是从弱人工智能到通用人工智能的一猛进展。但现在面临的挑战是，自治系统过于依靠人工智能赋能的组件。

展开全文

关于若何实现自治系统，斯发基斯认为，要将人工智能集成到关键利用法式中，但如今那还没有完全实现，因为人工智能还没有自我阐明的才能，好比阐明神经收集是若何在如斯之多的手艺中进修的。

算力会像电力一样便利利用

讨论完人工智能伦理的手艺逻辑，以及数字伦理的法理与事理后，人工智能及其财产形式优化对将来人类社会消费生活形态的影响也备受外界存眷。

寡所周知，人工智能手艺能够显著提拔人类效率，出格在图像识别、语音识别等范畴快速完成识别和复杂运算。此外，面临开放性问题，人工智能手艺亦可通过穷举计算，找到人类意料之外的法例和联系关系。

在高文院士看来，大模子正在改动人工智能在各个范畴的一些研究情状和现状，如天然语言大模子等，但想要操练大模子很重要的一点是要有算力，而且算力对国度经济的开展有很大鞭策感化。

“算力对国度的宏看经济开展有严重影响，与GDP/数字经济的走势闪现正相关。算力指数均匀每进步一个点，可能会对数字经济的增长产生千分之五的奉献，GDP会有0.18%的提拔。不只如斯，算力还将促进科学立异。”高文说道。

那么，将来能否有可能把算力通过一个算力收集输送给各部分、各行各业呢？高文表达，通过东数西算等挠手建起算力网，若干年后，算力也会让用户像用电一样便利地利用算力，算力会是一种消费。

不外，要想到达上述抱负形态，算力还面对着良多手艺问题。但在国度发改委的摆设与撑持下，鹏城尝试室摸索中国算力网0.1，2019年启动中国智算网预研项目建立，本年6月完成验收。高文介绍称，中国算力网0.1完毕以后目前正在鞭策中国算力网1.0版的工做，那个工做施行期从2022年7月到2025年12月，期看中国算力网1.0完成后，能够集聚更大的算力。

站在企业的角度，蚂蚁集团首席手艺官倪行军认为，科技伦理应该融进到公司营业和产物生命周期中，企业应承袭对用户、行业、社会负责任的立场，更好地办事于数字经济高量量开展和高程度平安。

据倪行军介绍，蚂蚁集团已经在无障碍和适老化革新、包管算法公允性、加强算法普惠等方面做了一些工做。

此外，从往年起头，蚂蚁集团和浙江省内一些学术机构和同业倡议成立浙江金融科技伦理委员会，旗下的数字金融平台也发布了平台自律原则。本年6月，蚂蚁集团启动ESG可继续开展战术，“科技伦理建立”做为重要子议题上升为集团重点工做。

同时，倪行军还透露，蚂蚁集团已在公司内部成立科技伦理委员会，接下来还将成立参谋委员会，邀请业界资深的专家学者，参与和批示科技伦理建立工做。

封面图片来源：摄图网-400094444

每日经济新闻