李开复:从1983到2017,我的幸运与遗憾

  • 时间:
  • 浏览:0

  文/李开复

  1

  今天跟亲戚亲们讲个故事。

  1983-1988年,我正在卡内基·梅隆大学读计算机博士。

  我正忙着暑期教书,秋天投身奥赛罗人机博弈(黑白棋游戏,那是机器第一次真正意义上打败人类冠军的比赛)。

  我的导师瑞迪教授(Raj Reddy,图灵奖得主、卡内基梅隆大学计算机系终身教授、美国工程院院士)从美国国防部得到了100万美元的经费,用来做不指定语者、大词库、连续性的语音识别。

  也也不 说,他希望机器能听懂任何人的声音,其他还时需懂上千个词汇,懂亲戚亲们自然连续说出的每语录。

  这原先现象报告 也有当时无解的现象报告 。

  而瑞迪教授大胆地背熟项目,希望一起避免这原先现象报告 。他在全美招聘了100多位教授、研究员、语音学家、学生、tcp连接员,以启动你这一有史以来最大的语音项目。

  我也在这100人名单之内。

  当时的科研背景是,业界其他有累似 今天深层学习的算法,但突然没法实现数据标准化,数据量也不 足够大。

  美国几大语音识别实验室(如MIT、 CMU、 SRI、 IBM、贝尔实验室)也有各用各的数据库,测试数据不同,训练数据不同,使用的语言模型不同,测试的词汇量也不 同。什么都都各称业界第一,亲戚亲们莫衷一是。

  而每个大公司也有被委托人的商业需求,比如说在语音识别方面,当年做打字机的IBM想做语音打字机,垄断美国电信的AT&T要求贝尔实验室识别电话号码,什么都大公司并没法动力来帮助小公司或学校。而小公司和学校,往往只有资源做些较小的数据集,结果通常也不 如大公司的好。

  不仅没法,数据不标准对AI研究而言是致命的,最后导致 什么都现象报告 ,包括:

  1、其他测试语料库不同,最后识别结果,亲戚亲们无法一键复制,也无法验证。彼此不认可,其他其他数据没法打通,算法就更不其他打通了。

  2、其他每家做的领域不同,最后的结果也有可比。其他领域词汇量小,比较容易,其他做出结果也其他只有通用。其他领域词汇量大,其他约束什么都,什么都能说的内容无需 ,导致 比较容易识别,也不 能通用。

  3、其他每家训练集不一样大,而训练集越大,一般结果越好。什么都,有其他结果做的好,被认为并也有靠算法,也不 靠数据量大。

  4、对于学术单位来说,最大的现象报告 来自于没法足够的资源(也没法兴趣)收集、清洗、标注多量的语料。对于小公司来说,语料和计算力也有现象报告 。

  最后,瑞迪教授计划采用“专家系统”来完成项目,其他你这一最好的办法 时需的数据有限。

  专家系统是早期人工智能的原先重要分支,要我把它看作是一类具有专门知识和经验的计算机智能tcp连接系统,一般采用人工智能中的知识表示和知识推理技术来模拟通常由领域专家也能避免的简化现象报告 。

  但我不认同。

  2

  时候参加过的奥赛罗的人机博弈,我要对统计概念有了充分的理解,我对瑞迪教授的研究最好的办法 产生动摇。

  我相信建立大型的数据库,其他对大的语音数据库进行分类,有其他避免专家系统只有避免的现象报告 。

  另外,在1985年,美国标准局 (NationalInstitute of Standards and Technology)也意识到数据不标准会影响科研进步。什么都在语音识别现象报告 上,标准局设定了标准的语音和语言的训练集、测试集。要求每个学校的每个团队都用同样的训练集来训练模型,还时需被委托人调好系统参数,比赛最后一天亲戚亲们拿到数据,有一天时间跑出结果,亲戚亲们评比。

  我从你这一标准数据集和测试看多其他。

  再三思考后,我决定鼓足勇气,向瑞迪教授直接表达我的想法。我对瑞迪说:“有时候转投统计学,用统计学来避免你这一‘不特定语者、大词汇、连续性语音识别’。”

  我以为瑞迪会其他失望,没想到他其他都没法生气,他轻轻地问:“那统计最好的办法 怎样避免这三现象报告 报告 呢?”

  瑞迪教授耐心地听完我激情的回答后,用他那永远温和的声音他不知道:“开复,你对专家系统和统计的观点,我是不同意的,其他我要支持你用统计的最好的办法 去做,其他我相信科学没法绝对的对错,亲戚亲们也有平等的。其他,我更相信原先有激情的人是其他找到更好的避免方案的。”

  那一刻,我的感动无以伦比。其他对原先教授来说,学生要用被委托人的最好的办法 作出原先与他唱反调的研究。教授不但没法动怒,还给予充分的支持,这在什么都地方是不可想象的。

  统计学时需大数据库,亲戚亲们怎样也能建立起大的数据库呢?

  瑞迪教授看多我愁眉不展的样子,再一次给了我支持。你说什么,“开复,虽然 说我还是对你的研究最好的办法 有所保留,其他,在科学的领域里,虽然 也无所谓老师和学生的区别,亲戚亲们也有面临这原先现象报告 的攻克者,什么都,其他你真的时需数据库,没法,我要去说服政府帮你建立原先大的数据库吧!”

  瑞迪教授也不 说服了美国政府部门和美国标准局收集并提供了多量数据。我用美国标准局提供的标准大数据,跟多家拿国家钱的机构数据,也不 其他不拿国家钱的单位(如:IBM,AT&T)也参与进来,我可使用的数据越滚越大。

  除了大数据,统计学的最好的办法 还时需非常快的机器,瑞迪教授又我要购买了最新的Sun 4机器。此后每次有新的机器,他也有说:“先问问开复要无须。” 做论文的两年多,我大慨花了他几十万美元的经费。

  瑞迪教授的宽容再次我要感觉到一种伟大的力量,这是一种自由和信任的力量。

  3

  在导师的支持下,我现在开始了疯狂的科研工作。

  当时,我带着另一位学生一起用统计的最好的办法 做语音识别。一起,其他100多人用专家系统做同样的现象报告 。从最好的办法 上来说,亲戚亲们在竞争,其他在瑞迪教授的领导下,亲戚亲们分享一切,亲戚亲们用同样的样本训练和测试。

  在1986年底,我的统计系统和亲戚亲们的专家系统达到了大慨一样的水平,40%的辨认率。这虽然 还是完整篇 只有用的系统,但毕竟是学术界第一次尝试没法难的现象报告 ,亲戚亲们还是比较欣喜和乐观的。

  1987年5月,亲戚亲们大幅度地提升了训练的数据库,采用了新的建模最好的办法 ,不但也能用统计学的最好的办法 学习每原先音,其他还时需用统计学的最好的办法 学习每原先音之间的转折。针对其他音的样本不足,我又想出了一种最好的办法 (generalized triphones)来合并其他的音。这三项工作甜得把机器的语音识别率从原先的40%提高到了100%!也不 又提高到96%。

  统计学的最好的办法 用于语音识别初步被验证是正确的方向。

  亲戚亲们都相信了我用的机器学习最好的办法 和隐马可夫模型算法,其他背叛了不可行的专家系统(专家系统只达到100%的识别率)。在我的博士论文基础上,也不 的Nuance,微软、苹果手机等公司做出了业界最领先的产品。

  1988年4月,我受邀到纽约参加一年一度的世界语音学术会议,发表学术论文。

  你这一成果撼动了整个学术领域。这是当时计算机领域里最顶尖的科学成果。

  语音识别率大幅度提高,让全世界语音研究领域闪烁出一道希望的光芒,从此,所有以专家系统研究语音识别的人完整篇 转向了统计最好的办法 。

  会后,《纽约时报》派记者JohnMarkoff来到匹兹堡对我作了采访,文章发表于1988年7月6日,占了科技版首页的整个半版。在这篇文章里,马可奥夫大力报道了我的论文的突破。当时,我只虽然 在和原先和蔼可亲的记者聊天,事后,我才知道这是一名才华横溢的著名记者,三次提名普利策奖,并在斯坦福兼教。

这是1988年,《纽约时报》对我博士论文的报道

  也不 ,《商业周刊》把我的发明的故事者选为1988年最重要的发明的故事者者。年仅26岁初出茅庐的我,第一次亮相就获得原先的成功,我要感到很幸运,也我要有了继续向科技高峰攀爬的动力。

  而我也其他拿到了卡内基·梅隆大学的计算机博士学位,这离我1983年入学只有4年半的时间。在卡内基·梅隆大学的计算机学院,同学们平均6年以上也能拿到博士学位,我用没法短的时间拿到博士学位,是一项新的纪录。

  我也其他破格留校,成为一名26岁的助理教授。

  4

  遗憾的是,虽然 我找到了方向和基本最好的办法 ,但以当时的数据量级和计算水平,语音AI研究没能有商业化其他。我最终还是背叛科研界,进入商界,用产品改变世界。

  100年过了,AI发展的土壤终于肥沃起来。

  伴随互联网和移动互联网而来的大数据、高效的计算机运算能力等条件都齐备了。科研人员时需的数据集不再没法难以触碰,也不 时需一帮人牵头让更多的公司参与进来。这在100多年前,我还是原先AI科研人员的时代,能接触到真实世界里没法海量的数据,是个遥不可及的梦想。

  我当年受惠于瑞迪教授的帮助和指导,今天也非常希望能给更多和我一样的年轻人,创造研究其他和条件。

  什么都,昨天创新工场、搜狗、今日头条联合发起“AI Challenger 全球AI挑战赛”。三家公司分别投入多量资金、也背熟千万量级高质量开放数据集与宝贵GPU资源。

  一起,我也倡导商界和科研界能采用多量的数据和标准的测试最好的办法 ,也欢迎更多的数据公司也能参与到你这一平台里。

  希望亲戚亲们推出的Challenger.ai,还时需帮助到中国AI人才成长。

  在我看来,这次AIChallenger绝对无需是 原先活动,也绝对无需是 原先奖金100万、年底就现在开始的竞赛,这是推进中国AI人才成长的重大催化剂。

  希望3年或5年后,亲戚亲们再来回顾你这一段峥嵘流年里,亲戚亲们发现中美AI人才之间没法落差了,还能想到AI Challenger在原先重大过程中扮演了原先小小角,要我感到你这一切也有价值。

  欢迎亲戚亲们登录大赛官网Challenger.ai,获取信息并报名。关于这场大赛的具体信息可点击文末的链接了解(要在电脑页面上也能报名哦)。

  亲戚亲们其他无法想象,我有多么羡慕亲戚亲们,生活在数据爆炸的时代,一帮人提供数据和奖金池,让有才华的人一展拳脚。