到了2000年初期,研究神经网络的“傻子”更不受待见了:学术机构不允许他们发表论文,计算机视觉圈子将他们拒之门外。大量专家学者都觉得,这是一条行不通的道路。2003年,LeCun从产业界回归,成为纽约大学的教授。他和Hinton、Bengio结成非正式的联盟,共同合作研究神经网络。2006,Hinton和学生终于完善了BP算法,此时距离它被提出已经过去了整整20年。不过,真正让这套算法声名鹊起的,是6年以后的一场大赛,它和日后被称为“AI女神”的李飞飞有关。
极富个性的AI女神1992年,李飞飞随父母从北京到新泽西,落地后不久,妈妈找了份收银的工作,爸爸给人修相机。用她的话来说,“过往的一切被连根拔起”。肤色不同外加语言不通,很长一段时间李飞飞是被排挤的对象,好在她拥有惊人的毅力:每天只睡4小时恶补英语,17岁时每天花10多个小时在餐厅里当清洁工赚钱,用两年多的时间完成了美国高考课程。其间,她的数学天赋引起了老师的注意,在午休时抽空教她超纲的微积分。1995年,李飞飞以数学满分,总分1250分的高分吸引了无数名校的橄榄枝,最终她选择了普林斯顿大学。和Hinton一样,李飞飞是个“不安分”的学生。本科学物理,因为对生物感兴趣还去研究了一年藏药,研究生学的是电子工程,博士研究的是当时还是冷门的机器视觉,足迹遍布普林斯顿、加州理工、斯坦福等高等学府。丰富的经历也让她最终成为美国三院院士(美国国家工程院院士、美国国家医学院院士以及美国艺术与科学院院士)。早年间李飞飞的论文署名是Feifei Li,将姓放在后面,但很快这个署名变成了Li Feifei,但凡引用她论文的人都习惯性地用了Feifei——这个世界有太多人姓Li了,可在人工智能领域,Feifei只此一位。
神经网络杀了回来2009年,年仅33岁的李飞飞在斯坦福萌生了一个疯狂的想法,建立一个庞大的数据库用来教会计算机识别各种动物和物体。在此之前,计算机图片识别还仅限于汽车、飞机、豹子和人脸。这个想法需要耗费大量的人和时间用于基础的标注工作,无论是产业还是学界都不愿意给资金支持,逼得李飞飞一度想重开爸妈当年的洗衣店——那会儿,她一度开出10美元一小时的价格,让名校学生参与标注。尽管这样,按照进度,完成项目至少要19年时间。一次偶然的机会,她了解到了亚马逊的全球众筹项目AMT,以较低成本让全球有空余时间的网友帮忙完成这个不可能的任务。到了2009年,她携手这个名为ImageNet的项目发布论文时,已经动用了167个国家的5万人,他们在两年半的时间里前赴后继,最终建立了一个涉及5247个类别,320万张图片的庞大数据库,其中图片数据是当时最大数据库的100倍。等到2011年它停止扩建时,数据更新到了21841个类别,近1420万张图片。2010年,ImageNet开始举办大规模视觉识别挑战赛,利用自己海量的数据库检测各种人工智能机器视觉识别的能力。比如,给出一只东北虎的照片,允许机器给出5个判断,只要里面有“东北虎”就算正确,一个都没对算错。第一年,冠军的识别错误率是28.2%,第二年错误率仅仅降低了2.4%。但在2012年,一个叫AlexNet的模型将错误率一下子降低到了16.4%。这个模型就是Hinton和他的学生Alex Krizhevsky、Ilya Sutskever设计完成的。他们率先在机器视觉领域使用了卷积神经网络,在人工智能的夜空上砸下了一枚重量级的烟花。砰的一声、火花四溅、光芒万丈。自此,神经网络就像LeCun曾预言的那样:杀了回来!