网站首页    信息智能    2020谷歌技术发展
  • 汽车零部件首秀历史

    他们看似小小的发明却大大的改变了我们的生活。1916年,凯迪拉克在Type 53上第一次引入了点火钥匙;1967年倒闭的美国汽车制造商史蒂倍克发明了油表和雨刷器;1954年,通用汽车公司安装了汽车空调;第一个LED大灯诞生是在2008年的奥迪R8 V10上。在2014年,奥迪发明了激光大灯

    3 ¥ 0.00
  • 10亿销售额的国内购物中心

    2019年国内购物中心的总销售额约为3.5万亿元。占当年国内消费品零售总额的8.5%,这与成都购物中心占零售总额的比例相当。上海这个占比约为14%,全国最高。国内能够超过6.8亿元的购物中心总数不会超过2000个。2019年上海超过10亿元的购物中心总数不超过70家。

    0 ¥ 0.00
  • 揭秘家族办公室ICONIQ

    它目前共有225位高净值客户,管理资产规模620亿美元。提供服务含金融投资、税务规划、地产投资等业务。2020年,它抓住新冠疫情机会,在年初推出一个十亿级别的投资项目“战术机会”:寻找由于疫情而产生的各种投资机会,例如优先贷款、结构性股权以及救济性融资。

    1 ¥ 0.00
  • 神经科学商用案例

    过去几年内发表的一些学术研究表明,应用神经科学的方法有助于预测销售环节的购买决策以及广告的投放效能,甚至还能预测音乐的文化契合/流行度,这些都是通过直接粗放的问卷调查无法实现的。谷歌、微软、戴姆勒等已将神经科学研究手段纳入业务中,并获成功。

    2 ¥ 0.00
  • 互联网本质是新房东

    互联网所有的进化全部基于一个前提和原理:网络效应。网络上信息越多,就会吸引更多网民,会制造和生产更多的信息,又会吸引其他网民和增加上网时长。在网络效应下,即使没有智能手机的产生,只要时间够长,信息仍然会越来越多。媒体本身,就是最大的生意。

    0 ¥ 0.00
  • “逼良为劣”的国内商业模式

    国内稍具规模的线下零售商超基本上是“上游盈利模式”,就是商家向上游生产供应商要利润。此模式将线下零售商超变成“出租婆”:看似商家从上游供应商那确保了自己的盈利,实为“饮鸩止渴”,最终所有成本由“零售价格”承担,降低了商家自己的商品竞争力。

    14 ¥ 0.00
  • 掌握香奈儿的神秘家族

    掌控香奈儿品牌的韦特海默家族,曾历经普法战争、两次世界大战等百年之大变局。二战中涉险、与香奈儿女士的争产与诉讼后,韦特海默家族表现出了惊人的复原力,并通过与高价值社会资本的互动融合,实现家族企业的百年长青与持续发展。

    7 ¥ 0.00
  • DST全球投资战略:地缘套利

    2010年DST刚露头角,《经济学人》将其与南非的Naspers、中国的腾讯归为一个群体,称为新兴市场三巨头。DST在全球的投资战略就是四个字:地缘套利。 “世界从来以及未来都不可能达到所谓的‘扁平’状态,而所谓成功的商人,比的就是谁能够率先利用信息落差而某得利益”。

    23 ¥ 0.00
  • 清洁空气30年

    我国过去的经济增长在很大程度上依赖于化石燃料消费,造成了严重的空气污染问题,解决经济增长与污染改善之间的矛盾已成为我国发展生态文明的关键。我国一直致力于将大气污染、碳强度与经济增长脱钩,建立具有可持续发展和生态文明特征的社会发展模式。

    4 ¥ 0.00
  • “跛脚”的粤港澳大湾区

    区位优势支持了大湾区东岸和北岸城市的大发展,巨大的产业聚集和虹吸效应使各种生产要素都向深圳、广州等核心城市聚集,而西岸城市却发展缓慢。经过四十多年的基础设施建设,交通条件已经大为改观,周边产业和要素聚集情况开始逆转,西岸城市的新区位优势若隐若现

    1 ¥ 0.00
  • 拯救花旗总部大厦事件

    纽约花旗总部大楼危机整个事件中,它产生了英雄,却没有恶棍;从花旗集团到该市建筑部门的官员,与事件有关的每个人都表现得堪称楷模。LeMessurier不仅毫发无损,反而因此扩大了他的声望。一个做了正确选择的工程师涉及到一个更大的问题,即专业人士应该如何表现。

    2 ¥ 0.00
  • 好莱坞烂片流水线

    好莱坞百花齐放的电影公司被并购成了六大电影公司,并被要求每年产出稳定的收益。压力之下,制片方根本不敢冒险去拍摄任何新的题材。对编剧的压榨也越来越严重,谁还玩命搞创作?垄断北美80%市场后,六大只肯拍自己的独家IP,大片越来越无趣就很容易解释了。

    2 ¥ 0.00
  • 中国轮胎40年

    回头看中国轮胎业发展史,它几乎走过了大多数中国企业可能经历的每一个阶段:从粗制滥造靠低价抢占市场、到购买国际先进设备、让产品行销海外。再自主研发挑战世界头部品牌。最后把工厂开到全世界。经过这样一轮残酷的洗礼,资源将更多地向头部企业集中。

    0 ¥ 0.00
  • 21世纪以来美国制造业演变

    分析2000—2018年间制造业及其细分行业发展和演变发现,美国制造业经历了“空心化”再到回流,高端先进制造业不断优化升级,传统基础产业长期保持优势,顶层设计、科技创新、创新生态有重要驱动作用。化工产品、计算机及电子产品和交通装备制造业属优势行业。

    0 ¥ 0.00
  • 从土地金融到土地财政

    过去40年,根本没有土地“财政”,带给国家城市乃至整个经济巨变的是土地“金融”;未来要转向的,是土地财政,即进入运营阶段。最核心的内容就是有没有创造收入、有没有创造足够的税收。所以从获取金融一次性的收入为主,变成获取财政可持续的现金流收入为主

    8 ¥ 0.00
  • 视听价值链:“元宇宙”

    当物理空间去中心化之后会发生什么?多个行业对火遍欧美的元宇宙的投入将达到数万亿美元。它不光包括3D主机、VR头戴设备游戏、以及提供更多如沉浸式剧场的活动,像旅行、教育和现场表演这样的传统行业将以游戏思维和虚拟经济被重塑;同时还有内容社区综合体。

    9 ¥ 0.00
  • 从米其林看中国产业弱点

    中国的缺点是即使能够设计出来富有独创性的半导体和发动机,但缺乏能够实际制造这种高科技产品的工厂。中国要想成为制造业强国,首先试着挑战米其林三星怎么样?按照设计图,不论何时何地都能均质制造产品。代价恐怕就是变成死脑筋、不知变通、缺乏进取精神。

    3 ¥ 0.00
  • Reits的历程

    由于中国的直接融资占比低于发达国家,股票市场没有发达国家成熟,股票市场规模占GDP的比重要低于发达国家。因此使用REITs与股市规模之比来估算REITs市场规模并不合理。参考全球主要REITs市场REITs规模占GDP的比重的范围,可以计算得到中国REITs市场的规模大致在3-8万亿元。

    3 ¥ 0.00
  • 谷歌的人类大脑“地图”

    谷歌与哈佛大学的Lichtman实验室合作,发布了最新的「H01」数据集,这是一个1.4 PB 的人类脑组织小样本渲染图。H01 样本通过连续切片电子显微镜以 4nm 分辨率成像,再通过自动计算技术重建和注释,最后可以看到初步的人类大脑皮层结构。但H01只有整个人类大脑容量的百万分之一

    1 ¥ 0.00
  • 张小龙:微信这个产品

    很多人可能从人们的日常生活习惯,社会变迁等角度去考虑它,我从产品的角度来考虑,做了一些什么,我们做的事情可能很多,如果非要我把它归结为非常简单一两个词来表示的话,我想用两个词来表达它,一个是'连接',一个是'简单',这就是微信最核心的东西。

    3 ¥ 0.00

【作者:JeafDean;来源:GoogleAIBlog;转载自:新智元《JeafDean万字长文回顾2020谷歌技术发展》2021.01】

 

JeffDean发了一篇几万字长文,回顾了这一年来谷歌在各个领域的成就与突破,并展望了2021年的工作目标。本文为部分编译,参考链接可以查看原文。

当我20多年前加入谷歌的时候,只想弄清楚如何真正开始使用电脑在网络上提供高质量和全面的信息搜索服务。时间快进到今天,当面对更广泛的技术挑战时,我们仍然有着同样的总体目标,那就是组织全世界的信息,使其普遍可获取和有用。

2020年,随着世界被冠状病毒重塑,我们看到了技术可以帮助数十亿人更好地交流,理解世界和完成任务。我为我们所取得的成就感到骄傲,也为即将到来的新的可能性感到兴奋。

GoogleResearch的目标是解决一系列长期而又重大的问题,从预测冠状病毒疾病的传播,到设计算法、自动翻译越来越多的语言,再到减少机器学习模型中的偏见。基于我们对2016至2019年的年度回顾,本文涵盖了今年的关键亮点。

 

01

新冠病毒和健康

 

COVID-19的影响给人们的生活带来了巨大的损失,世界各地的研究人员和开发人员联合起来开发工具和技术,以帮助公共卫生官员和政策制定者理解和应对这场流行病。

苹果和谷歌在2020年合作开发了暴露通知系统(ENS),这是一种支持蓝牙的隐私保护技术,如果人们暴露在其他检测呈阳性的人群中,可以通知他们。

ENS补充了传统的接触者追踪工作,并由50多个国家、州和地区的公共卫生当局部署,以帮助遏制感染的传播。

在流感大流行的早期,公共卫生官员表示,他们需要更全面的数据来对抗病毒的快速传播。我们的社区流动性报告,提供了对人口流动趋势的匿名追踪,不仅帮助研究人员了解政策的影响,如居家指令和社会距离,同时还进行了经济影响的预测。

https://img-blog.csdnimg.cn/img_convert/5bb145d142659cd925001c78dbc6517d.png

我们自己的研究人员也探索了用这种匿名数据来预测COVID-19的传播,用图神经网络代替传统的基于时间序列的模型。

冠状病毒疾病搜索趋势症状允许研究人员探索时间或症状之间的联系,比如嗅觉缺失----嗅觉缺失有时是病毒的症状之一。为了进一步支持更广泛的研究社区,我们推出了谷歌健康研究应用程序,以提供公众参与研究的方式。

https://img-blog.csdnimg.cn/img_convert/d3c782114115a2c1bc2ad94416e95f6f.png

图:COVID-19搜索趋势正在帮助研究人员研究疾病传播和症状相关搜索之间的联系

谷歌的团队正在为更广泛的科学界提供工具和资源,这些科学界正在努力解决病毒对健康和经济的影响。

https://img-blog.csdnimg.cn/img_convert/da3bb7ceedc6d27833914dcf74603566.png

图:一个模拟新冠病毒扩散的时空图

我们还致力于帮助识别皮肤疾病,帮助检测老年黄斑变性(在美国和英国是导致失明的主要原因,在全世界是第三大致盲原因),以及潜在的新型非侵入性诊断(例如,能够从视网膜图像中检测出贫血的迹象)。

https://img-blog.csdnimg.cn/img_convert/7af56edccb325e5e1e167f1baf8da000.png

图:深度学习模型从视网膜图像中量化血红蛋白水平。血红蛋白水平是检测贫血的一项指标

今年,同样的技术如何可以窥视人类基因组,也带来了令人兴奋的演示。谷歌的开源工具DeepVariant,使用卷积神经网络基因组测序数据识别基因组变异,并在今年赢得了FDA的4个类别中的3个类别的最佳准确性的挑战。丹纳-法伯癌症研究所领导的一项研究使用同样的工具,在2367名癌症患者中,将导致前列腺癌和黑色素瘤的遗传变异的诊断率提高了14%。

 

02

天气、环境和气候变化

 

机器学习能帮助我们更好地了解环境,并帮助人们在日常生活中以及在灾难情况下做出有用的预测。

对于天气和降水预报,像NOAA的HRRR这样基于计算物理的模型一直占据着主导地位。然而,我们已经能够证明,基于ML的预报系统能够以更好的空间分辨率预测当前的降水量(“西雅图的本地公园是不是在下雨?”而不仅仅是“西雅图在下雨吗?”)它能够产生长达8小时的短期预报,比HRRR准确得多,并且能够以更高的时间和空间分辨率更快地计算预报。

https://img-blog.csdnimg.cn/img_convert/80926165f42181a7296749698a7c2a6f.png

我们还开发了一种改进的技术,称为HydroNets,它使用一个神经网络来建模真实的河流系统,以更准确地了解上游水位对下游洪水的相互作用,做出更准确的水位预测和洪水预报。利用这些技术,我们已经将印度和孟加拉国的洪水警报覆盖范围扩大了20倍,帮助在25万平方公里内更好地保护了2亿多人。

https://img-blog.csdnimg.cn/img_convert/d27a2789a49086341bdaf683ab3c05c8.png

03

可访问性(Accessibility)

 

机器学习继续为提高可访问性提供了惊人的机会,因为它可以学会将一种感官输入转化为其他输入。举个例子,我们发布了Lookout,一个Android应用程序,可以帮助视力受损的用户识别包装食品,无论是在杂货店还是在他们家的厨房橱柜里。

Lookout背后的机器学习系统演示了一个功能强大但紧凑的机器学习模型,可以在有近200万个产品的手机上实时完成这一任务。

同样,使用手语交流的人很难使用视频会议系统,因为即使他们在手语,基于音频的扬声器检测系统也检测不到他们在主动说话。为视频会议开发实时自动手语检测,我们提出了一种实时手语检测模型,并演示了如何利用该模型为视频会议系统提供一种识别手语者为主动说话者的机制。

04

机器学习在其他领域的应用

 

2020年,我们与FlyEM团队合作,发布了果蝇半脑连接体,这是一种大型突触分辨率图谱的大脑连接,重建使用大规模机器学习模型应用于高分辨率电子显微镜成像的脑组织。这些连接体信息将帮助神经科学家进行各种各样的研究,帮助我们更好地理解大脑是如何运作的。

05

负责任的人工智能

 

为了更好地理解语言模型的行为,我们开发了语言可解释性工具(LIT),这是一个可以更好地解释语言模型的工具包,使得交互式探索和分析语言模型的决策成为可能。

我们开发了在预训练语言模型中测量性别相关性的技术,以及在谷歌翻译中减少性别偏见的可扩展技术。

为了帮助非专业人员解释机器学习结果,我们扩展了2019年引入的TCAV技术,现在提供了一套完整而充分的概念。我们可以说“毛”和“长耳朵”是“兔子”预测的重要概念。通过这项工作,我们还可以说,这两个概念足以充分解释预测;您不需要任何其他概念。

https://img-blog.csdnimg.cn/img_convert/4188827d90f8145d6c3dbb871bc7f596.png

概念瓶颈模型是一种技术,通过训练模型,使其中一层与预先定义的专家概念(例如,“骨刺呈现”,或“翅膀颜色”,如下所示)保持一致,然后再对任务做出最终预测,这样我们不仅可以解释这些概念,还可以动态地打开/关闭这些概念。

 

06

自然语言理解

 

更好地理解语言是我们今年看到相当大进展的一个领域。谷歌和其他公司在这个领域的大部分工作现在都依赖于transformer,这是一种特殊风格的神经网络模型,最初是为了解决语言问题而开发的(但是越来越多的证据表明,它们对图像、视频、语音、蛋白质折叠以及其他各种各样的领域也很有用)。

在2020年,我们描述了Meena,一个对话机器人,可以聊任何事情。

https://img-blog.csdnimg.cn/img_convert/acf39bd5b139ce255cae64c9de46987a.png

 

07

机器学习算法

 

谷歌仍向无监督学习方向大力发展,例如2020年开发的SimCLR,推进自监督和半监督学习技术。

http://p2.itc.cn/q_70/images03/20210116/b015c744f259476f8f3722f7724971ce.png

使用不同的自监督方法(在ImageNet上预训练)学习的表示形式,对ImageClass的分类器进行ImageNettop-1准确性训练。灰色十字表示受监管的ResNet-50。

 

08

强化学习

 

强化学习通过学习其他主体以及改进探索,谷歌已经提高了RL算法的效率。

他们今年的主要重点是离线RL,它仅依赖于固定的,先前收集的数据集(例如先前的实验或人类演示),从而将RL扩展到了无法即时收集训练数据的应用程序中。研究人员为RL引入了对偶方法,开发了改进的算法以用于非策略评估,此外,他们正在与更广泛的社区合作,通过发布开源基准测试数据集和Atari的DQN数据集来解决这些问题。

http://p4.itc.cn/q_70/images03/20210116/3c02237baef34b2c8356730bfea88514.png

使用DQN重播数据集的Atari游戏的离线RL

另一个研究方向是通过学徒制学习(apprenticeshiplearning),向其他代理学习,从而提高了样本效率。

需要注意的是,将RL扩展到复杂的实际问题来说是一个重要的挑战。

http://p1.itc.cn/q_70/images03/20210116/83f80b44f96a4c26980e1b0ded6b333b.png

概述我们的方法并说明AttentionAgent中的数据处理流程。顶部:输入转换-一个滑动窗口将输入图像分割成更小的补丁,然后将它们"扁平化",以便将来处理。中间。补丁选举-修改后的自我注意力模块在补丁之间进行投票,以生成补丁重要性向量。底部:动作生成--AttentionAgent在补丁之间进行投票,生成补丁的重要性向量。行动生成--AttentionAgent选择重要性最高的补丁,提取相应的特征,并基于这些特征做出决策。

 

09

AutoML

 

毫无疑问,这是一个非常活跃和令人兴奋的研究领域。

我在AutoML-Zero中:不断学习的代码,我们采用了另一种方法,即为演化算法提供一个由非常原始的运算(例如加法,减法,变量赋值和矩阵乘法)组成的搜索空间,以查看是否有可能从头开始发展现代ML算法。

但是,有用的算法实在太少了。如下图所示,该系统重塑了过去30年中许多最重要的ML发现,例如线性模型,梯度下降,校正线性单位,有效的学习率设置和权重初始化以及梯度归一化。

http://p7.itc.cn/q_70/images03/20210116/6b7b28eb8cd54404afa81b3354a7a9df.png

 

10

更好地理解ML算法和模型

 

随着神经网络被做得更宽更深,它们往往训练得更快,泛化得更好。这是深度学习中的一个核心奥秘,因为经典学习理论表明,大型网络应该超配更多。

在无限宽的限制下,神经网络呈现出惊人的简单形式,并由神经网络高斯过程(NNGP)或神经切线核(NTK)来描述。谷歌研究人员从理论和实验上研究了这一现象,并发布了NeuralTangents,这是一个用JAX编写的开源软件库,允许研究人员构建和训练无限宽度的神经网络。

http://p9.itc.cn/q_70/images03/20210116/0fb5196cecb34ab8bf67afc9de841056.png

左:该示意图显示了深层神经网络如何随着简单的输入/输出图变得无限宽而引发它们。右图:随着神经网络宽度的增加,我们看到在网络的不同随机实例上的输出分布变为高斯分布。

 

11

机器感知

 

对我们周围世界的感知--对视觉、听觉和多模态输入的理解、建模和行动--仍然是一个具有巨大潜力的研究领域,对我们的日常生活大有裨益。

2020年,深度学习使3D计算机视觉和计算机图形学更紧密地结合在一起。CvxNet、3D形状的深度隐含函数、神经体素渲染和CoReNet是这个方向的几个例子。此外,他们关于将场景表示为神经辐射场的研究(又名NeRF,也可参见本篇博文)是一个很好的例子,说明GoogleResearch的学术合作如何刺激神经体量渲染领域的快速进展。

http://p6.itc.cn/q_70/images03/20210116/8655de9147c8405bbb0ee0199cfcbc0c.png

在与加州大学伯克利分校合作的《学习因素化和重新点亮城市》中,谷歌提出了一个基于学习的框架,用于将户外场景分解为时空变化的照明和永久场景因素。这能为任何街景全景改变照明效果和场景几何,甚至将其变成全天的延时视频。

http://p0.itc.cn/q_70/images03/20210116/37e85f869ab2425d9737961cd394cef2.gif

2020年,他们还使用神经网络进行媒体压缩的领域不断扩大,不仅在学习的图像压缩方面,而且在视频压缩的深层方法,体压缩以及深不可知的图像水印方面都取得了不错的成绩。

http://p0.itc.cn/q_70/images03/20210116/8544f28e2c314fb9a468a5ae79fbc2af.png

第一行:没有嵌入消息的封面图像。第二行:来自HiDDeN组合失真模型的编码图像。第三行:来自我们模型的编码图像。第四行:HiDDeN组合模型的编码图像和封面图像的归一化差异。第五行:模型的归一化差异

通过开源解决方案和数据集与更广泛的研究社区进行互动是另一个重要方面。2020年,谷歌在MediaPipe中开源了多种新的感知推理功能和解决方案,例如设备上的面部,手和姿势预测,实时身体姿势跟踪,实时虹膜跟踪和深度估计以及实时3D对象检测。

http://p3.itc.cn/q_70/images03/20210116/d5b8bb13cb3a41f4bff319e68736304d.png

最后,展望这一年,我特别热衷于构建更多通用机器学习模型的可能性,这些模型可以处理各种模式,并且可以通过很少的培训示例来自动学习完成新任务。该领域的进步将为人们提供功能更强大的产品,为全世界数十亿人带来更好的翻译,语音识别,语言理解和创作工具。这种探索和影响使我们对工作感到兴奋!

参考链接:

https://ai.googleblog.com/2021/01/google-research-looking-back-at-2020.html

2021-01-19
2020年,随着世界被冠状病毒重塑,我们看到了技术可以帮助数十亿人更好地交流,理解世界和完成任务。GoogleResearch的目标是解决一系列长期而又重大的问题,从预测冠状病毒疾病的传播,到设计算法、自动翻译越来越多的语言,再到减少机器学习模型中的偏见

2020谷歌技术发展

谷歌人工智能