计算机视觉界,存在着一个所有人默认的黄金律条,那就是特徵提取器本身必须具备严格的几何不变性。

  为了让算法在面对图像中的物体位移、旋转和缩放时保持稳定,传统的计算机视觉学派可以说是无所不用其极。

  他们用的都是差分高斯、梯度方向直方图等复杂的数学算子,试图在像素进入分类器之前,就将这些空间变量归一化。

  他们以为,这是唯一能让计算机看懂世界的路。

  可现在,讲台上的那个华国青年,告诉他们不用那麽麻烦。

  他们其实用不上那些华而不实的数学算子。

  只需要对数据源进行随机采样,然後在输出端,用最基础的方法,就能直接在统计层面上把所有的不确定性抹掉。

  好心塞哦。

  不过很快在场计算机人又高兴了起来。

  他们心塞郁闷,是因为自己过去赖以生存的研究方向,很有可能马上就会被淘汰了,高兴的是,他们终於不用再受那份非人的折磨了!

  「等一下————如果QInet这套模型真的可行,那岂不是意味着,我再也不用在淩晨三点,为了让特徵算子能多识别出猫胡须,去在成千上万行代码里调那些该死的超参数了?」

  「没错,我的兄弟!」

  「不仅如此!你想想看,我们之前那个卡在准确率只有51%的课题,如果我们明天就用漆昊这套方法,我们的准确率会飙到多少?!」

  「起码75%吧!」

  「先别高兴太早,一切都要等复现了再说!」

  对於这群常年泡在实验室里的计算机人来说,传统计算机视觉的研究早就进入了绝望0

  SIFT、HOG、FishrVector·.这些经典算法的潜力已经被压榨到了极限,大家为了在顶会上发一篇论文,不得不像个中世纪的链金术士一样,用各种技巧把无数个创新点强行拼接在一起,只为了换取区区0.5%的微弱提升,以此来发一篇论文。

  有时候他们也都认可了外界的说法,认为深度学习这个领域已经没救了。

  现场坐着的计算机人中,有些已经准备好拿个奖後,就离开这个折磨人,没有前途的领域。

  但就在刚才,漆昊向他们证明了深层卷积网络的可行性!

  漆昊用实际数据告诉他们,深度学习领域其实潜力巨大!

  纵然这一切还没有被完全验证,但是,漆昊给了他们一个希望!

  他们愿意相信漆昊,不仅仅是因为QInet的训练结果,还有一部分原因是,漆昊在数学界的成果,让他说的话,有了一定的可信度。

  再说直白点,那就是换一个无名之辈来,讲同一套东西,现在他们估计都没那麽大反应,也不会接受立刻接受卷积神经网络会重新回来的可能性。

  主会场内,惊叹声和密集的辩论声几乎要将天花板掀开。

  而就在这片热闹中,坐在前排评委席的李教授,衣口袋里的手机忽然响了。

  她看了一眼来电显示,神色微微一敛,随即穿过激动的人群,快步走到了会场外相对安静的露天连廊上。

  按下接听键,话筒里立刻传来了她博士生导师,加州理工学院计算机视觉皮特罗的声音:「李,你怎麽跑到巴塞隆纳去主持那个什麽ImageNet挑战赛了?」

  「我之前就提醒过你,不要在那种繁琐机械的图像分类比赛上浪费太多精力,学术界的核心在於探寻最本质的科学规律,而不是去当一个整理上百万张图片的高级数据图书管理员,这在学术委员会那里可拿不到什麽加分。」

  听着导师唠叨,李教授并没有生气,只是无奈地笑了笑。

  其实之前整个计算机视觉界对於她顶着巨大压力搞出来的ImageNet资料库,大多持冷眼旁观的态度。

  在那些笃信算法胜过一切的传统学术大佬眼里,靠堆积海量数据来做图像识别,简直就是小孩过家家。

  「皮特罗,ImageNet目前已经————」

  「好了,先不说这个。」皮特罗直接打断了她的话,语气稍微放缓了一些,「我打电话来是想告诉你一个新动向。」

  「多伦多大学的辛顿来找到了我,声称他的实验室找到了一种能够有效训练深层神经网络的方法,他听说了你的ImageNet项目,希望能获得授权,用你手里的那些海量图片来测试他们的模型。」

  辛顿?

  是那个坚持了多年的联结主义和神经网络,在主流学术界眼里的过气学者辛顿?

  「辛顿要使用ImageNet?」李教授追问道,「他是想用什麽模型来跑?」

  「还能是什麽?他那个万年不变的执念卷积神经网络呗。」

  「也不知道那东西有什麽魔力,让他如此着迷。」

  「不管如何,我们该帮他,还是要帮,你那个数据集就让他们去折腾吧,不过,你也别抱太大希望,神经网络在特徵提取上的天然缺陷,是不可能靠堆叠层数来解决的。」

  听着导师滔滔不绝的技术批判,李教授转过身,隔着连廊洁净的落地玻璃窗,望向了会场内。

  台上,那个叫作漆昊的华国青年正单手插兜,神色从容地回答着众人的提问。

  李教授突然压抑不住自己的自豪感。

  她终於可以对那些嘲讽她只是在造垃圾场的人,给予回击了。

  而这个底气,来自於台上的那个华国青年!

  「皮特罗教授,我想,多伦多大学那边可能不用急着开始做实验了。」

  「嗯?为什麽?」皮特罗在电话那头愣了一下。

  「因为,就在十多分钟前,在IcCV的ImageNet挑战赛现场,已经有人用卷积神经网络,取得了有史以来最好的成绩。」

  「你说什麽?」

  「卷积神经网络取得最好的成绩?李,今天可不是愚人节。」

  「有一个华国的年轻学者,他叫漆昊,他带来了一套名为QInet的深层卷积神经网络模型,他们的模型跑出了的结果,错误率只有15%。」

  「而第二名,施乐欧洲研究中心XRCE的结果,错误率是26%。」

  皮特罗握着听筒不出声了。

  施乐欧洲研究中心XRCE的实力他是清楚的,错误率在26%可以说是在意料之内的事。

  这已经算是近几年来最好的成绩了。

  但那个QInet是什麽情况?

  15%?

  在追求0.5%提升都得脱层皮的计算机视觉界,11%的断层式差距他们一般都会默认是个错误的存在。

  毕竟这也太离谱了,就跟出BUG的程序居然自顾自跑起来一样离谱。

  「这不科学!是不是评测伺服器的评测脚本出BUG了?还是他们作弊把测试集放进了训练集里?!这不合逻辑,CNN连图像基础的旋转和平移不变性都无法在算子层面保证,怎麽可能跑出这种成绩?!」

  「没有BUG,我们其实验证了多次,结果没有问题。」

  「皮特罗,时代变了,他没有在算子层面做任何复杂的几何归一化,他只是对数据进行了随机裁剪和镜像翻转,然後在GPU上,用算力,强行让网络自己学会了空间不变性,事实证明,在足够庞大的数据和深层网络面前,我们过去引以为傲的方式,不值得一提」」

  。

  「15%,15%————」皮特罗喃喃自语,还没等他回过神来,李教授便礼貌地说了句「现场颁奖要开始了」,便挂断了电话。

  听着话筒里传来的嘟嘟盲音,皮特罗放下了手。

  此时,在他的办公室里,正坐着另外两个人。

  一位是头发花白辛顿,而在辛顿身旁,则是他的得意门生亚历克斯。

  两人原本正兴致勃勃地看着手里的几页草稿,那是他们设计出来,准备在英伟达GTX

  显卡上尝试运行的深度卷积网络设计初稿,他们今天特意来找皮特罗,就是为了商讨借用ImageNet的数据集的事。

  看着打完电话後出神的皮特罗,辛顿疑惑道:「皮特罗?怎麽了?是李那边不同意授权吗?没关系,如果她有顾虑,我可以亲自去跟她解释,这个实验对神经网络的未来至关重要————」

  「不,辛顿,李没有不同意,而是————你们好像不用再做这个实验了。」

  亚历克斯愣了一下,着急地说道:「教授,我们的代码已经基本调通了,只要能拿到ImageNet的数据,我们有信心将分类错误率降低到23%甚至更低!这会是神经网络史无前例的突破!」

  "23%?"

  「亚历克斯,把你的草稿收起来吧,刚刚从巴塞隆纳IcCV现场传来的消息,ImageNet

  挑战赛的结果已经出来了。」

  辛顿眉头一皱,心中升起一股不祥的预感:「今年是谁拿了第一?还是XRCE吗?他们的错误率是多少?」

  「第一名是QInet的模型,他的开发者来自於华国,叫漆昊。」

  「QInet也是一个卷积神经网络,它的错误率是在15%,超过第二名11%。」

  亚历克斯瞪大了眼睛,甚至怀疑自己的耳朵出了问题:「15%?!我们现在的理论模型极限预测也才20%左右,他们怎麽可能做到15%?!」

  而坐在一旁的辛顿,脑子突然一片空白。

  这位在深层神经网络的泥潭里苦苦挣紮了数十年,被主流学术界冷落,嘲讽甚至一度拉不到研究经费的教授,此时迷茫了起来。

  他原以为,自己和亚历克斯正在进行的这项基於GPU加速的CNN研究,将会是他们实验室可以在明年惊艳全世界的耀眼成果。

  可他万万没有想到,他们的成果还没出来,就已经有人拿出了比他们更好的模型出来!

  「QInet,漆昊————」辛顿乾瘪的嘴反覆念叨着这两个名字。

  「成功了,竟然真的成功了!哈哈哈哈!」辛顿突然毫无预兆地大笑起来,他站起身来,像个小孩子一样在办公室里兴奋踱步。

  又疯了一个?

  「辛顿,你没事吧?」皮特罗有些担忧地看着他,「你的研究被人抢先了,而且差距拉得这麽大————」

  「不,你不懂,皮特罗!」

  辛顿回答:「我高兴不是因为别的,而是因为这个华国青年用无可辩驳的事实,向全世界证明了,我是对的!神经网络不是垃圾!它才是通往真正人工智慧的唯一道路!」

  「我们都被困住太久了!」

  「自上世纪八十年代反向传播算法被冷落以来,学术界就陷入了对传统统计学习和支持向量机的迷信中。」

  「他们嘲笑神经网络无用,认为它绝无可能解决复杂的认知问题,而QInet的出现,将会打破这些偏见,这不单单是漆昊团队的成功,更是联结主义学派在沉寂了数十年後的复兴。」

  「看着吧,皮特罗,计算资源的瓶颈终将被打破,算法的范式已经改变,从今往後,那些曾经唱衰神经网络的人,都不得不重新审视神经网络这个领域。」

  他快步走到亚历克斯身边,一把按住学生的肩膀,说道:「亚历克斯!快!立刻就去查这个漆昊的联系方式,哪怕是发邮件,打电话,我们也必须立刻联系上他!」

  「我们要去质疑他的数据吗,导师?」亚历克斯有些兴奋。

  「不!我们要去向他请教!」

  亚历克斯:?

  辛顿的眼神里没有丝毫的嫉妒,只有对先进技术的渴望:「他既然能跑出15%的成绩,说明他在底层算子的设计、网络深度的控制,甚至是GPU矩阵乘法优化上,绝对掌握了我们还未曾发现的秘密!」

  「时代已经变了,亚历克斯,如果我们不立刻跟上他的步伐,我们就会被这个新时代抛弃!」

  此时此刻,辛顿那份原本准备用来震惊世界的草稿,在QInet面前,显得是那样的微不足道。

  巴塞隆纳,国际会议中心。

  「先生们,女士们!今晚注定是一个将被写入计算机科学教科书的伟大时刻!」

  「现在,让我们用最热烈的掌声,有请本次ImageNet挑战赛的无可争议的冠军,来自华国的漆昊团队,上台领奖!」

  在聚光灯的追踪下,漆昊走到了舞台中央,摄像机镜头对准了他。

  「恭喜你,漆昊,你是当之无愧的第一名。」李教授将奖金支票递到他手中,「这是ICCV为你准备的两万美元奖金,以及我们合作夥伴英伟达赞助的最新一代顶级旗舰GPU。

  「6

  漆昊接过道了谢。

  没想到,他这次出门,没怎麽花钱不说,还倒赚了两万美金回去。

  「漆昊,今晚过後,计算机视觉,和深度学习领域的格局都会被你改变,不仅是我们这些搞学术的要受到你这套QInet模型的影响,我想,连那些矽谷的晶片巨头们,也该重新审视他们的战略了。」

  「如果你後续的研究还需要更多的硬体算力,我可以亲自帮你去联系英伟达的那位黄总,我会告诉他,这对於他们来说,也是一次重要的机会,我相信他们会愿意免费向你提供GPU的。」

  免费啊。

  那不要白不要了。

  更何况,如果由李教授这位ImageNet的创始人去推动英伟达的黄总,这位精明的商人绝对能在提前意识到QInet对於GPU市场意味着什麽,到时候,自己不仅能获得源源不断的免费硬体支持,深度学习领域也能快速发展起来。

  接着漆昊与李教授握手合影。

  合影留念结束後,主持人开始引导台下的观众起立鼓掌,准备进入下一个环节。

  漆昊与李教授顺着台阶退到舞台一侧的休息区,由於晚宴和自由交流时间还没正式开始,这一角暂时成了难得的清静之地。

  「漆昊,再次祝贺你。」李教授端起一杯苏打水,递给漆昊一杯,微笑着说道,「今晚过後,全行业的目光都会盯在QInet上。」

  「作为这个奇蹟的创造者,你接下来有什麽具体的打算?是准备把这套架构开源,还是已经有了下一步的研究计划?比如探索更具挑战性的视频生成,或者是多模态的融合?」

  「谢谢李教授,其实,我可能要让您失望了。」

  「回国之後,我打算暂时把深度学习和图像识别的工作放一放,想重新回归数学。」

  「回归数学?」李教授眼中流露出诧异。

  「漆昊,这可太可惜了!你可能还没意识到你现在站在一个多麽关键的历史节点上。」

  「QInet拉开了深度学习新时代的大门,无论是学术界还是工业界,现在都渴望你接下来的动作,如果你顺着这条路走下去,你完全可以建立一个属於你自己的研究帝国,而纯数学那可能是很多年都看不到任何应用成果的路。」

  「我明白您的意思,李教授。」

  「但我总觉得,现在的深度学习,还缺失一点东西。

  李教授微微挑了挑眉,顺着他的话问道:「缺失什麽?」

  「损失函数的优化路径,其实是在寻找一个流形上的一个极小状态,这个过程,非常类似於某种共形变换下的面积极小化过程,也就是通过参数的调整,让数据流动的路径面积达到最小,同时保持特徵的某种几何不变量————」

  漆昊自顾自地解释着,然而,当他亲口说出共形变换群,极小化状态以及严格证明的下界这几个词汇时,他脑中冒出了一些东西。

  这些东西,他不知道最终导向什麽地方,但就是这麽突然冒出了出来。

  关键这玩意没前没後的,就跟证明题跳了步骤一样。

  唉,学霸的灵感真是挡也挡不住。

  漆昊看向了一旁的白板,继承了老苏数学家的优良传统,他写下了一行极简的式子————
为更好的阅读体验,本站章节内容基于百度转码进行转码展示,如有问题请您到源站阅读, 转码声明
圣墟小说网邀请您进入最专业的小说搜索网站阅读系统,我真不是苏联学霸,系统,我真不是苏联学霸最新章节,系统,我真不是苏联学霸 圣墟小说网
可以使用回车、←→快捷键阅读
开启瀑布流阅读