人工智能会“叛变”伤害人类?段树民院士作了一个木偶戏的比喻……

admin 发表于 2019-03-13 11:01


重器解读

“脑科学与类脑研究”简称“中国脑计划”,主要有两个研究方向:以探索大脑秘密、攻克大脑疾病为导向的脑科学研究以及以建立和发展人工智能技术为导向的类脑研究。

脑科学与类脑研究,对提高未来中国科技整体“智慧水平”,提高经济发展高质量,促进人类的生产生活方式的转变意义重大。

什么是人工智能?人工智能未来走向如何?科幻电影里的场景能否成为现实?中国的脑科学与类脑研究在世界处于何等水平?全国政协委员、中国科学院院士、浙江大学医药学部主任段树民一一作答。

全国政协委员 段树民接受本报记者 采访。 本报记者 姜贵东 摄

人工智能会超越人脑吗?

记者:三年前,Alpha Go在人机围棋比赛里击败了人类围棋世界冠军李世石。这几年,人工智能又有了飞速发展,您如何判断人工智能的未来走向?

段树民:人工智能已经并将更深刻影响到我们生活的各个方面,人们寄希望它能更强有力的造福于人类。必须指出的是,人类大脑最神奇的功能,如情感、意识、自我认知与思考、本能行为、创新能力等,仍然是现阶段弱人工智能所不能逾越的难关。

人工智能现在“弱”在了哪儿?

记者:逾越这个难关的瓶颈在哪里?

段树民:目前,弱人工智能发展的瓶颈是低效,要依赖海量数据和耗能巨大的运算系统。而我们人类可以从非常有限的信息中做出快速、高效、准确的判断和抉择。人类摄食、情绪、感情、协调运动等本能行为大都是先天就有的,是经过数百万年的进化后编辑在遗传密码上的,不需要后天太多的学习就具有的功能,而高级认知功能实际上都是建立在这些本能行为基础上的。这些恰恰是人工智能的短板。

人工智能将如何影响你我生活?

记者:今年政府工作报告提出,要拓展“智能+”,深化大数据、人工智能等研发应用。人工智能对于国家发展和人民生活具有哪些意义?

段树民:未来“智能+”的应用场景十分广阔——充分利用人工智能实现人机结合,制造业的社会生产率、产品质量和劳动者安全都能得到更好提升和保障;在医学领域,人工智能通过大数据的学习而应用于影像识别、疾病筛查,可能会比医生单凭肉眼判断强大得多;基于人工智能和脑科学发展起来的脑机接口将为残疾人提供替代缺失的功能,像健全人一样的生活;日常生活中,目前在智慧城市、智慧物流、无人驾驶等方面已经体现出非常好的应用场景。

最为关键的是,一旦突破瓶颈,进入强人工智能时代,通过脑机接口人工智能能够传导情绪控制人脑,在军事方面的意义你可以自行“脑补”。

人工智能会“叛变”伤害人类吗?

记者:最近一系列热映的科幻电影都涉及人工智能,也一直有人担忧人工智能受到恶意操纵或在不可预知的环境中“叛变”伤害人类。未来强人工智能时代,人工智能的安全可控性如何保障?

段树民:这个问题问得很好。这方面的担心是有道理的,随着人工智能的功能强大和应用的广泛,一旦出问题,后果不可想象。

科学界对人工智能发展有一个伦理上的限制,即图灵测试,如果一个人工智能具有了人类智能,通过了图灵测试(即人们不能区别出这个智能是机器的还是人类的),那就要十分小心地加以限制和规范。

科学伦理永远是人工智能发展不可逾越的底线。我们希望人工智能与我们的人类生活将更好地融合在一起,作为我们人脑延伸的一部分,做到可控的友好交互,强化我们的大脑。总的来看,这方面的安全可控性还是有保障的,木偶戏再精彩,线不还是牵在人的手中吗?

人工智能多了人脑会退化吗?

记者:未来人工智能的发展,除了依赖于脑科学研究成果外,它对脑科学的发展有没有作用?随着人工智能的广泛应用,人脑会进化还是退化?

段树民:人工智能和脑科学的发展确实是相互促进的,一方面人工智能发展瓶颈需要借鉴脑的工作机理,另一方面脑是自然界最复杂的结构,脑科学研究产生的大数据分析一定会从人工智能受益匪浅。

事分两面看,由于人工智能替代了部分人类的智能功能,部分脑功能退化的情况也不是不可能。例如现在就有人担心数字化时代到来,对手机、网络的依赖已经对儿童的一些认知功能产生了不良影响,是应该引起重视的。关键是我们怎么样正确应用人工智能。大脑的进化是一个非常漫长的过程,短期内应不至于对整个人类大脑的进化发生明显的作用。

中国的“脑计划”水平如何?

记者:比起应用端的风生水起,脑科学研究似乎还是个冷门,您能否简要介绍一下?

段树民:当前,世界各国都非常重视脑的研究,纷纷启动了大型脑科学研究计划。我国脑计划启动相对较晚,但在某些方面研究具有研究优势。总的来说,中国的“脑计划”处于和先进国家并跑水平。

脑科学不仅是最重要的基础前沿学科,也是与人类健康最密切相关的领域。我国已进入老龄社会,脑中风、老年痴呆、帕金森病等老年性脑疾病已经成为致残率高、危害健康最严重、社会负担最沉重的疾病。目前我们对这些疾病大都没缺少有效干预手段,其主要原因是对脑的基本机理和病理了解还非常有限。

人类已经可以控制动物大脑了吗?

记者:央视的《挑战不可能》节目中,您所在的浙江大学一名硕士研究生成功实现用脑电波操控小白鼠走迷宫,是不是说人类已经可以控制动物的大脑,现在能够控制人脑吗?

段树民:浙江大学那名硕士生是计算机科学与技术专业,从事这项研究的,需要有生物学、工学、计算机以及材料学等交叉学科的研究人员密切协作。

控制小白鼠走迷宫是通过记录人的脑电波对其大脑的意念进行解析,得到的解码信息转换成控制电信号无线传输给小鼠,再刺激小鼠脑内控制行为的脑区而实现对小鼠行为的控制。

这实际上引出了一个神经调控技术,如果发展出无创干预技术,即不需要在脑内植入电极,而是通过无线电波等,将来就可以实现对人类脑功能紊乱的干预,可用于治疗焦虑、恐惧、失眠、抑郁、药物成瘾等疾患。

后记,小编朋友研发了一个游戏化的少儿编程在线课程(5-12岁),游戏化教学结合scratch(一款在线少儿编程工具,类似乐高的积木拼搭),我家娃娃学了几次课,非常喜欢(超预期),16次课才200多块钱,对锻炼孩子的思维能力和动手动力很有帮助。

感兴趣的朋友可以扫描二维码,关注一下,或微信搜索“大耳猴少儿编程”