周涛:在人工智能时代,做一个警觉的乐观主义者

原创 admin  2019-01-15 01:59 

大数据文摘授权转载自湛庐阅读

作者:周涛

2019年1月8日,湛庐成功举办了“CHEERS2019·湛庐年度大会”。本文是电子科技大学教授、“数据少帅”周涛老师的演讲内容,他的分享以中立性、时效性、导向性、边界性等4个大维度展开,由此叩问了4个亟待思考的大问题。在技术乐观派和悲观派都无所适从的当下,他对于技术的警觉且乐观充满了敏锐的洞察力,发人深省。

(以下内容据周涛现场演讲记录整理,速记及图片来自湛庐阅读

我们现在处在信息爆炸的时代,全世界存储的信息总量大概有16ZB,也就是1600万PB,再过十年这个数字还会翻十倍以上,超过200ZB。

来源:现场PPT

拥有这么多数据并不代表我们能驾驭它,我们穷其一生都不可能把这些题目读一遍。所以很大程度上我们依赖于各种各样的信息中介,搜索得到的广告推荐无一不是从这些平台而来。所以,与其说我们是数据的驾驭者,不如说我们就像一个婴儿,因为我们接受的是信息中介喂的一勺勺“食物”,我们不知道里面有多少营养,又有多少有害物质。

人类花了几百万年的时间才适应从树上跳跃到用双脚在大地上行走,但是人类从一个信息极度匮乏的时代,到现在信息高度富余的时代只经历了20年。我本人就是在2000年发出自己的第一封邮件。所以一个很重要的问题是:我们这个社会是否真正为所谓的大数据时代做好了准备。

今天我将从四个方面来谈大数据和人工智能可能带来的挑战:

1.中立性

很多人认为技术总体来说是中立的,它理性、客观、中立,没有偏差,没有歧视。但是实际并非如此。

举个例子,60多年前,罗伯特·摩西斯在纽约做了中央花园的建设,在他的设计中,通向中央花园的长长的走廊的前边有一个低矮的桥头。那时美国大部分穷人和有色人种的出行方式都是公交车,但是公交车很高,没有办法从桥下开过去。这个看起来中立的设计,其实就使得纽约的中央花园基本变成了富人和白人的乐园。在当时看来这种歧视是无处不在的,但现在我们来看这是不可容忍的歧视。所以一个设计即便是嵌入到城市中,它依然有可能带来我们不容易发现的一种歧视。

来源:现场PPT

2018年初,有一篇文章讲述了一个很有趣的故事,有人设计了一套推荐系统,这个系统专门给求职的人推荐一些高端的职位,但这个设计对女性来说是不公平的。在中国,薪水前1%的人群里面,每9个男人才有1个女人,而在美国这个数字是7:1,在日本这个数字是33:1。

这条系统最初的目的很简单,就是尽可能让推荐的职位和求职者互相匹配,最终实现一次成功的招聘。但是它很聪明,它超出了我们很多伦理和道德的约束,因为它自动认识到了性别这个特征非常重要,于是它自己知道,我要尽可能地向男性推荐这些高端职位,少向女性推荐。

在这个系统运行一年多后,开发者发现女性获得高端职位的信息量比以前少了,这时他们才反省到,一个看起来越来越精确的系统,客观上有可能让女性获得高端职位的可能性进一步降低。原来他们在获得同等信息暴露的情况下,男女比例是7:1,如果聪明的计算机接管了这个推荐系统,未来比例可能在北美就不是7:1,而是10:1,15:1,20:1,所以一个善良的计算机的程序依然有可能导致不公正的结果。

来源:现场PPT

我从2007年开始就做推荐系统,在所有的广告推荐中,一个很自然的维度就是要考虑用户的价格敏感度——看他购买的东西在整个三级品类中的价格排名如何。如果你买了一支八千块钱的万宝龙的笔,那你肯定是富人;如果你买了一辆八千块钱的二手奥拓汽车,那你肯定是穷人。

可以想象,随着时间的推移,我们对信息中介的依赖越来越强,当我们到了新城市,可能需要计算机推荐一条一日游的路线;当我们要看慕课,计算机就会推荐课程,而这个时候,聪明的计算机会根据每个人的家庭出身和原有的学习情况等,做出不一样的推荐。也就是说,富人和穷人有可能会抵达城市中不同的角落,学习不同的课程,在很小的时候就规划不同的人生。

那么,数字化、信息化,甚至说大数据、人工智能发展五年、十年、二十年后呢,它们到底是会减弱不同阶级间的鸿沟,还是在某些时候,某些场景,会加剧这种鸿沟?这是我希望大家去思考的第一个问题。

2.时效性

2013年我翻译了《大数据时代》,书里面有一个故事,它讲未来有可能很可怕,我们可能会为还未发出的罪行而付出代价,因为计算机提前预测你会犯罪,提前逮捕了你。

比如,美国国土安全局会根据一个人的面部长相、姓名、宗教信仰,以及过往的资金流,交通出行的轨迹、通话人的记录,等等,来判断一个人疑似恐怖分子的可能性有多大。可汗就是一个非常典型的受害者,他实际上是一个无辜的人,但因为被视为高度恐怖分子,每次他到机场都需要提前五个小时登机,因为他经常会被安检四个小时。

来源:现场PPT

如果说恐怖主义距离我们很远,那大家可以想象一下酒驾。酒驾入刑在中国已经有十年了,这意味着喝酒驾车就是犯罪,这个犯罪背后的法理是很必要的,就好像危害公共安全法是一样的道理。酒驾并不是在全世界处处皆准,比如在瑞士,大家喝完啤酒开车很正常,这是一种生活方式。禁止酒驾某种意义上讲给了我们更多的安全,但是牺牲了一种生活方式。

如果我们再往前走一点,假设二十年后,那时无人驾驶成为一种主流交通方式,我们完全相信,绝大部分交通事故,尤其是恶性交通事故应该是由真人驾驶造成的。我想问大家,如果在座的各位接受了酒驾入刑,那么在二十年以后有没有可能接受把真人驾车视为一种违法行为呢?这是我希望大家考虑的第二个问题——有多少安全舒适,多少对未来的焦虑,都要和我们当前的生活模式做一个平衡。

上边讲的是为某种未来可能性付出代价,那么,反过来讲,可能中学的时候我们因为一次冲动打架留下了不良的记录;可能大学的时候我们为了整容,为了买部苹果手机,借了校园贷却没有及时还款,那么,这些记录就有可能在五年、十年后影响你申请购房贷款,影响你买车,甚至影响你的融资。

来源:现场PPT

中国有句古话说“浪子回头金不换”,这是因为你的父母、亲人和朋友能够努力忘掉你的过去,相信有一个全新的你出现。人类之所以如此睿智就是因为懂得遗忘,甚至某些时候我们努力遗忘,但是计算机恰恰相反,它的特别能力就是永不遗忘,它能在五年、十年、五十年、一百年都保留着你过去的信息。

希望大家在时效性这个方向思考的问题是,如果我们有可能会为还没有到来的未来提前付出代价,又有可能因为过去而影响我们的现在,那我们应该做什么选择?我们是不是只能够战战兢兢,亦步亦趋地沿着所谓的主流价值观前进?

大家应该知道,中国最可怕的一件事情就是主流价值观驾驭了一代又一代的人,我们的小孩从小就要读重点小学、重点中学,然后是读重点大学,去一流企业,考公务员,读研究生,要活得像其他人眼中成功的样子。这样的主流价值观已经束缚了我这一代人,未来人工智能、大数据的发展是会像大家想象的一样给我们带来多样性的世界,还是与之相反,会给我们更大的束缚?

3.导向性

为什么讲这个?因为社会往前发展要有一个总的社会福利增加方向,但是计算机不一定这样想问题。举个简单的例子,以前我们看新闻都是按点击付费,所以会有很多标题党,希望大家尽快点进去。大家看这张黄黄的图片,是2017年某知名搜索网站图片搜索第一名,题目叫做“黄色图片”,但是我相信大家点开看到这张图片恐怕是失望的。

来源:现场PPT

这种事情好解决,我们可以想办法改变函数,使得计算机的目标,或者人工智能的目标,与人类的正常福利目标一致。比如说,不仅仅是点开率,还有点开新闻之后用户在页面停留的时间,这个页面在第一窗口停留的时间,或者是微信转发数、点赞数等等,这样的话似乎矛盾就消失了。

但有时候这种矛盾是长期且不可能消失的。2014年,我们团队有一位副教授到明尼苏达大学做了一个联合项目,是一款网络游戏。一个问题是,当资源有限时我们要如何分配这些资源,比如说,每天拿出价值十万美元的装备免费发给所有的玩家,那这些装备给谁呢?这是一个典型的优化问题,大规模机器学习的问题。

事实上,我们确实成功使得玩家们在游戏中花费的时间比之前增加了20%,现在国内知名短视频平台也把用户连续使用APP的时间,从原来的十几分钟提高到了三十多分钟。

这些技术可以用在好的地方,比如在进行网络课程学习的时候,计算机可以通过大家的行为分辨学习难点,找到学习重点,从而帮助大家更好的学习。当这种技术被用在游戏和短视频中,则使得用户更沉迷其中,从商业角度来说是成功的,因为让用户更多的玩游戏,从用户的角度来讲也是成功的。当我们硬币的两面都是成功的时候,就没有任何力量站起来破坏这种成功。

所以,这是我希望大家思考的第三个问题,人工智能和大数据前进的方向可能会做到面面俱到,让每一方都满意,但是它不一定会给社会带来福利。

4.边界性

有些东西人工智能可以做,但是我们要思考要不要让它做。

我们可以通过计算机识别人的表情,通过微表情和姿态,从而判断你心中真实的想法。以前我们测谎要用脑电波、电极,再加上测试你的心跳、心率、脉搏、体表电解质、导电水平,现在有一个技术叫做不接触测谎,只用摄像头看你,不需要用任何物理接触,就能精确判断你是不是在说谎。也就是说,人工智能实际上有一种能力,它比较容易判断大家有没有在说真话,它能够判断你是不是真喜欢他,相亲对象对你有没有好感,等等。

也许未来你只需要一个十块钱的APP,再加上一个摄像头,就能知道那个说喜欢你的男生是不是真的喜欢你。

来源:现场PPT

现在就回到一个问题,我们经常说人类社会的基石是真相,我们需要真相。但从某种意义上讲,我认为人类社会的基石不仅有真相,还要有谎言,没有真相的社会不能想象,但没有谎言的社会一定也是苦不堪言,相信各位应该都已经意识到谎言有多么重要。

如果人工智能让我们没有办法说谎,那社会真的会繁荣,人们真的会幸福吗?这是我希望大家考虑的第四个问题,我们到底要把能够让人工智能发挥作用的边界画在哪里?什么时候?哪些地方?

不管你来自哪个行业,一个以大数据为原材料,以智能算法为引擎的新科技时代呼之欲出,而且正在到来,希望大家充分拥抱这样一个新时代。任何希望用传统的资源去阻挡或者延迟新时代到来的人,都只可能成为旧时代的关门人和关灯者。

什么样的好方法帮助大家尽快的进入新时代?就是湛庐文化韩焱刚才讲的——做一个学习者,看那些走在世界最前沿的科学家、创业者,他们的理念和思考。

我个人非常欣赏一句话,“胜利总是青睐有准备的头脑”。今天这个25分钟的演讲虽然不长,但希望能帮各位为即将到来的新时代做更早、更好、更充分的准备,从而成为新时代的胜利者!

听说点了「好看」的人都变好看了哦
本文地址:http://www.17xiuwang.com/2019/01/15/%e5%91%a8%e6%b6%9b%ef%bc%9a%e5%9c%a8%e4%ba%ba%e5%b7%a5%e6%99%ba%e8%83%bd%e6%97%b6%e4%bb%a3%ef%bc%8c%e5%81%9a%e4%b8%80%e4%b8%aa%e8%ad%a6%e8%a7%89%e7%9a%84%e4%b9%90%e8%a7%82%e4%b8%bb%e4%b9%89%e8%80%85/
关注我们:请关注一下我们的微信公众号:扫描二维码,公众号:aiboke112
版权声明:本文为原创文章,版权归 admin 所有,欢迎分享本文,转载请保留出处!

发表评论


表情