第101章 转型！

第101章 转型！ (第1/2页)

作为本次ICCV大会的正式参会作者，杨力昆有一篇关於卷积网络特徵提取与无监督预训练的第一作者论文被大会录用了，需要在此後的分论坛上进行宣讲。
　　
　　因为纽约大学的教学工作以及一些行政事务，他不得不推迟了行程，错过了今天白天的开幕式和ImageNet挑战赛的结果公布。
　　
　　走到行李提取处，杨力昆掏出手机，取消了飞行模式。
　　
　　随着信号重新连接，手机开始振动起来，一连串的未读邮件、简讯和学术讨论组的提醒如同潮水般涌入屏幕。
　　
　　他本以为这些只是同行之间例行的问候，或者关於明天报告日程的确认。
　　
　　然而，当他习惯性地滑开锁屏，看到屏幕顶端挂着的几条来自老友辛顿的未读简讯时，眼神不由得顿住了。
　　
　　「杨，你到巴塞隆纳了吗？如果在现场，立刻去ImageNet挑战赛的现场！」
　　
　　「QInet基於CNN，在ImageNet测试集上错误率只有15%！」
　　
　　「只差两个月，戴维·鲁梅尔哈特就可以听到这个好消息了，可惜了。」
　　
　　「杨，还有戴维，我们是对的！」
　　
　　杨力昆停下了脚步，推着行李箱的手不由握紧了。
　　
　　15%？！
　　
　　这错误率远低於市面上所有深度学习模型了吧？
　　
　　杨力昆非常清楚在ImageNet那上百万张图片，一千个分类的超大规模数据集上，此前学术界用传统的SIFT特徵配合支持向量机折腾了数年，错误率也只能艰难地维持在29%左右。
　　
　　而现在，有人用CNN把这个数字拉到了15%？
　　
　　杨力昆感到自己的心脏有些失律地跳动起来。
　　
　　在过去的十几年里，他和辛顿、本吉奥如同三个在黑夜里并肩夜行的朝圣者，固执守着联结主义的阵地。
　　
　　主流学术界对神经网络避之不及，无数次在经费申请和论文评审中给他们吃闭门羹。
　　
　　他本人在纽约大学也承受了巨大的压力，不得不经常用层次化特徵学习这样更符合主流大众口味的词汇来包装自己的CNN研究。
　　
　　现在告诉他，居然有人在CNN上取得了成功？
　　
　　杨力昆立刻拨通了辛顿的电话。
　　
　　电话几乎被秒接了起来，那头传来了辛顿异常亢奋的声音：「力昆！你看到消息了？」
　　
　　「辛顿，这消息是真的吗？」杨力昆努力保持克制，「15%的错误率，是谁做出来的？是你们实验室的模型吗？」
　　
　　「不，不是我们。」
　　
　　「是一个来自华国年轻数学学者，叫漆昊，他带去了一个叫作QInet的深层卷积神经网络。」
　　
　　"QInet。」
　　
　　「他是怎麽解决深度网络梯度消失问题的？他的计算设备是什麽？难道也是GPU？"
　　
　　「没错，他不仅用了GPU，而且在网络深度、随机裁剪、数据增强等工程细节上，做了创新，力昆，他用的是你当年创造的卷积网络架构，但他把它的层数加深到了前所未有的高度！」
　　
　　「他用事实证明了，我们这麽多年来坚持的方向是完全正确的，在足够的数据和算力面前，传统的特徵工程已经过时了！」
　　
　　听着电话里辛顿激动的话，杨力昆靠在行李提取处的廊柱上，有些出神。
　　
　　那一瞬间，过去数年里遭受的所有冷眼，质疑和自我怀疑，似乎都在巴塞隆纳温润的夜风中消散了。
　　
　　他突然感觉到了一股前所未有的动力。
　　
　　他一直深信CNN的潜力，但由於各方面的限制，他自己的实验室在此前也未能跑出如此惊世骇俗的成绩！
　　
　　现在，一个华国青年漆昊，用一套名为QInet的模型，在ImageNet这个舞台上，当着全世界计算机视觉顶尖学者的面，把传统学派的骄傲击得粉碎。
　　
　　「力昆，你明天有报告对吧？我打赌，明天的会场会彻底疯狂。」辛顿说道，「我已经准备去巴塞隆纳了，我们必须尽快弄清楚QInet在架构设计上的一些细节，如果你见到他，务必代我向他致敬。」
　　
　　「我会的，辛顿，事实上，我现在就迫不及待想去会场了。
　　
　　挂断电话後，杨力昆推起行李箱，大步朝机场出口走去。
　　
　　伦敦，DeepMind那间塞满了伺服器线缆的临时办公室里，哈萨比斯正盯着屏幕上社交媒体的信息。
　　
　　有人在上面分享了巴塞隆纳IcCV的ImageNet测试结果。
　　
　　当他看见第一名的成绩後，整个人僵在了原地。
　　
　　在过去的几个月里，他那支刚刚成立，誓要解决智能问题的团队，正深陷於如何让算法理解高维图像特徵的难题中。
　　
　　为了让强化学习算法学会玩雅达利游戏，他们尝试了无数种手工特徵工程，试图从几万像素的画面中提取出边界和小球，但那些自以为聪明的传统数学规则，在动态画面面前脆弱得像纸糊的一样，稍微一有抖动就直接宣告失败。
　　
　　而现在，屏幕上那个由华国青年漆昊创造的，名为QInet的深层卷积神经网络，却将imagenet复杂图片分类错误率，降低到了15%？
　　
　　「这不可能————他怎麽做到的？」哈萨比斯疯狂地在网络上查找相关信息。
　　
　　还试图联系了在ICCV现场的人。
　　
　　在得知QInet用了CNN模型，并且使用了数据增强和GPU矩阵乘法之後，哈萨比斯突然醒悟了！
　　
　　如果把这个QInet的架构剥离掉最後的分类输出层，直接作为特徵提取器拼接到他们的强化学习算法上，那他们的游戏AI就不再需要人类去教它什麽是小球，什麽是挡板了！
　　
　　它自己就有可能用眼睛看懂一切像素！
　　
　　「这华国人真特麽的是个天才。」哈萨比斯顾不上现在的时差，当即抓起手机，跨洋拨通了他们最重要的早期投资人，马斯克的电话。
　　
　　此时，加州SpaceX总部办公室内。
　　
　　刚刚熬夜开完猎鹰9号火箭梅林发动机阀门改进会议的马斯克，正瘫在椅子上，喝着红牛，当看到屏幕上跳出哈萨比斯的来电时，他随意地按下了接听键。
　　
　　「哈萨比斯，如果你的模型还没学会玩游戏，那我建议你长话短说，因为我正忙着阻止特斯拉ModelS在量产前夕把我的钱包烧光。」
　　
　　「埃隆，听着，先别管你的火箭和电动车了。」哈萨比斯忽略掉了马斯克的冷幽默。
　　
　　「我可能真的找到了让AI学会玩游戏的方法了。」
　　
　　马斯克直起身子，突然有了兴趣：「哦？是哪个矽谷大厂又搞出了什麽能自动过滤垃圾邮件的划时代算法吗？如果是这种无聊的把戏，我可没空。」
　　
　　「不，不是矽谷，是巴塞隆纳的icCV挑战赛。」
　　
　　「一个叫漆昊的年轻学者，带着他设计的QInet卷积神经网络，在ImageNet挑战赛上把分类错误率干到了15%，你要知道，第二名那帮自诩精英的施乐欧洲研究中心，用尽了浑身解数，也才跑出26%的成绩。」
　　
　　马斯克虽然不是人工智慧领域的专业学者，但他是一个崇尚第一性原理的疯子，对於断层式领先11%这种数据上的超越，他瞬间抓住了关键。
　　
　　「15%对26%？"
　　
　　这不合理，传统学术界那帮家夥不是天天在论文里论证，说神经网络在特徵提取上有缺陷，叠层数解决不了问题吗？这个漆昊是怎麽解决基础算子的空间平移不变性的？」
　　
　　「这就是他最厉害的地方！」
　　
　　「本没有在算子层面做任何复杂的几何证明，他只是对数据进行了随机裁剪和镜像翻转，然後用了两张英伟达的显卡，靠着算力，让模型在庞大的数据洪流中自己学会了空间不变性！」
　　
　　「马斯克，你明白这意味着什麽吗？我们一直在做的游戏AI，那个困扰我们许久的视觉输入瓶颈，现在有了解决办法了！」
　　
　　

（本章未完，请点击下一页继续阅读）