当前位置: 首页 >> 最近大事件 >> trace,蓄谋已久?「GANs 之父」 Ian Goodfellow 换岗苹果,泰坦陨落2 >> 正文

trace,蓄谋已久?「GANs 之父」 Ian Goodfellow 换岗苹果,泰坦陨落2

2019年04月06日 04:35:16     作者:admin     分类:最近大事件     阅读次数:202    

雷锋网 AI 科技谈论按:生成对立网络之父、前谷歌大脑闻名科学家 Ian Goodfellow 正式宣告加盟苹果,他将在苹果公司领导一个「机器学习特别项目组」。

亚马逊首席科学家、MXNet 作者李trace,蓄谋已久?「GANs 之父」 Ian Goodfellow 换岗苹果,泰坦陨落2沐上星期在知乎上爆料,他从某机器学习大佬处得知,Ian Goodfellow 已从 Google 离任。文中他着重「无关小道音讯」,标明音讯底子牢靠。

鉴于曩昔他有过谷歌与 OpenAI「来回换岗」的阅历,很大一部分人猎奇他一旦脱离谷歌后,是否又会重投 OpenAI 的怀有。直至昨日,他将个人 LinkedIn 信息正式更新为苹果公司「主管」,详细任期从本年 3 月份开端继续至今,详细职务为「特别项目小组的机器学习主管」。

这一更新,震动四座,究竟从他 3 月份至今的推特状况来看,互动最频频的依然是来自谷歌大脑和 OpenAI 的小伙伴们。当然,更重要的是,他这次没有挑选trace,蓄谋已久?「GANs 之父」 Ian Goodfellow 换岗苹果,泰坦陨落2重回 OpenAI 的怀有。

3月份他还亲trace,蓄谋已久?「GANs 之父」 Ian Goodfellow 换岗苹果,泰坦陨落2自转发了谷歌 AI 的推文

随后不久,谷歌发言人证明了他的离任,不过却回肯定此作出回应,Ian Goodfellow 相同对此三缄其口。

从苹果公司视点而言,这次挖角 Ian Goodfellow 的行为倒不令人意外,究竟苹果从前为了追逐 AI 才干,专门把 Core ML 和 Siri 团队进行兼并,建立全新 AI/ML 团队,并挖来谷歌人工智能和查找主管约翰詹南德雷亚 (John Giannandrea) 掌管全公司的人工智能战略褚禄山结局。

Ian Goodfellow 作为 GANs 之父,其 2016 年在 NIPS 大会上关于生成式对立网络(使用生成式模型和判别式模型进行对立并完成机器学习练习的进程)经过几年的发酵,早已奠定其机器学习大咖的位置。作为机器学习界的后起之秀,被「心急」想开展 AI 实力的苹果觊觎,再正常不过。

现在,苹果已开端经过博客宣扬其 AI 研讨,为此专门开设了 AI 博客 Appabp340le Machine Learning Journal,或许用不了多久,咱们便能看到 Goodfellow 在上面宣布最新的研讨成果,让咱们一同拭目而待吧!

Ian Goodfellow 任职阅历

2013 年 6 月,还在蒙特利尔大学读博的 Ian Goodfellow 就以软件工程师的身份在谷歌的 Street Smart team 实习,并在结业后先后担任谷歌 TensorFlow 及谷歌大脑团队的研讨科学家。

2013 年 6 月,在蒙特利尔大学读国际音标手势操博的 Ian Goodfellow 就以软件工程师的身份在谷歌的 Street Smart team丫蛋蛋七友 实习,并在结业后先后担任谷歌 TensorFlow 及 Google 大脑团队的研讨科学家。

2016 年 3 月,Ian GoodFellow 转投 OpenAI 担任研讨科学家。

2017 年 3 月,Ian Goodfellow 从 OpenAI 重回谷歌,2018 年升任 Google 大脑团队的 Senior staff research scientist ,担任领导一个研讨 AI 中对立技能的研讨团剑气焚天队。

2016 年 3 月,Ian GoodFellow 便从谷歌大脑团队投靠 OpenAI 麾下担任研讨科学家。

一年往后,也便是 2017 年 3 月份 ,Goodfellow 又重回谷歌大脑团队。

2019 年 3 月,正式加盟苹果。

Ian Goodfellow 谈 GANs 论文评定

「越是好论文,越是资深审稿人在看」

我想谈谈学术会议的论文评定的事。最近我看到许多人讲「很显着,好的论trace,蓄谋已久?「GANs 之父」 Ian Goodfellow 换岗苹果,泰坦陨落2文都给资深审稿人看了」,或许「要记住去占论文,否则分给你的都是质量不高的论文」这样的话。已然我现在也算是资深审稿人了,我想许多人应该乐意听到我说这句话:吾凰千岁我自己不会主动要求去审那些显着的好论文。

审稿人期望审哪些论文或许会出于各式各样的方针。每个审稿人都应该想好自己的方针,并且了解一些其它审稿人或许会抱有的方针。我参加论文评定一般有两个方针:1,保证论文的质量足够高;2,削减我自己作为审稿人的作业量。根据我的这两个方针,我期望评定的论文大都时分都是或许需求拒掉的,但其它的审稿人纷歧定能看出来其间的原因。有一些十分忙的审稿人甚至会要求只看那些显着马才旋质量很糟糕的论文,便是为了尽量减轻自己的作业量。

审稿人们其它或许的方针还包含:比一般群众更早地看到有意思的研讨(不过现在论文都传 arXiv 了,这样的人就没那么多了)、清穿之一扫而光保证好的研讨成果不会被拒、审理他们自己做过深入研讨的某几个课题下的论文,等等。当然也有一些审稿人的做法很消沉、很自私。比方,审稿人和某篇论文的作者有私家恩怨,那他就或许会要求审这篇论文,以便给它打个低分。女星走光现在许多论文都会先传到 arXiv 上,论文投稿的匿名性大打折扣,这种作业也就变得常见了。

不过也有一件需求阐明的是,审稿人抢占论文的作用纷歧定有你幻想的那么显着。区域主席一般都会把审稿人列表手动整理到比较高的水平上。最少我自己做区域主席的时分的确这样做了。主动审稿人分配体系常常需求疏忽许多指定审稿的要求,以保证每一篇论文都会有人审。我自己就的确遇到过这样的状况,之前现已选了「不想审」的文章成果仍是分配给我了,我的好几个朋友也跟我讲他们也遇到过。

假如我做区域主席的话,底子能够必定我会给每篇论文分一个在那个课题上称得上肯定专家的审稿人,有必要的时分我甚至会约请新的审稿人参加。比方我就常常从安全社区约请审稿人来看机器学习安全性的论文。

怎么评定对 GANs 做出通用改善的论文

关于 GANs 作业原理的理论和实证研讨论文都现已有许多,关于怎么把 GANs 用在一些有意思的或许古怪的新使命的论文也有许多(比方第一篇用 GANs 做无监督翻译的),还有许多研讨模型的点评目标的。我没计划谈这些。也有许多论文把 GANs 作为一个大体系傍边的一部分,比方用 GANs 做半监督学习、差分隐私、数据增强等等。这些也不是我想谈的——这都需求在那个地点的大体系的应用范畴中进行点评。

我下面想聊的是能够普遍地让 GANs 的练习变得更安稳,或许能让 GANs 发作更好的样本等等的改善 GANs 体现的新办法。我首要引荐 GANs 论文的审稿人都应该读一读《Are GANs Created Equal》(https://arxiv.org/abs/1711.10337)这篇论文,它解说了为什么这个范畴的实证研讨十分难做,要做的话怎么才干做对。另一篇很适宜阅览的布景常识论文是《A Note on the Evaluation of Generative Models》(https://arxiv.org/abs/1511.01844),它解说了为什么有的模型能够一同具有很棒的样本和很糟糕的似然,又或许一同有很糟糕的样本和很高的似然,以及其它生成式模型会遇到的点评目标方面的问题。

GANs 的论文写作有一大难点,便是怎么有新颖性。现在咱们现已提出了许许多多的 GANs 改善模型,很难把它们全都追寻到,很难澄清自己的一个新的主意是不是真的从前没有人做过。最好测验在谷歌上把它的四五种不同的叫法都搜搜试试,看看会不会有人现已提过了。现已有人把各种 GANs 的变体总结出了资源,能够到这个 GAN ZOO 看看(https://github.com/hindupuravinash/the-gan-zoo)。即使论文里提出的新办法不是全新的,它或许仍是有一些价值的,可是审稿人应当保证论文作者充沛了解之前的研讨中的内容。

点评目标开展到现在周立波说湖南人凶猛,Frechet Inception Distance(或许它的类别内版别)大概是现有办法里衡量通用的 GANs 体现最好的一种办法了。关于 ImageNet 之外的数据集,界说间隔的时分用模型而不是 Inception 是很合理的做法。有一些研讨特别状况的论文或许也会包含其它的一些点评目标(比方带有 real NVP(real-valued non-volume preserving,无体积真值保存)的 GANs 能够陈述精确的似然),可是假如一篇论文里没有包含 Frechet Inception Distance,那么我就很想了解一下这是为什么了。

有许多论文期望读者假如奥特曼打不赢小怪兽多调查生成的样本,并以此为首要根据构成论文所提办法的形象。这通常是一个欠好的信号。以我的了解,有的范畴的问题用以往数码宝贝linkz的办法历来没有处理过,然后 GANs 带来了显着的提高、能生成样本了,这才是经过样本展现办法作用这种做法首要适宜的当地。比方说,用单个 GANs 模型生成 ImageNet 中各种内容不同的图画从前很难做,许多论文测验处理这个问题但成果底子都是失利的。SN-GAN 成功地为一切类别都生成了能够辨认的样本,那么从这一点就能够看到 SN-GAN 是一项严峻改善。(尽管这种提高也或许是所提的办法之外的要素带来的,比方新的、更大的架构等等)

相比之下,许多论文中展现了来自 CIFAR-10 或许 CelebA 数据集生成的样本,然后期望审稿人被这些样本信服。关于这样的状况,我作为审稿人其实底子不清楚他们期望我在其间找到哪些亮点。这都是一些现已底子得到处理的使命,那我也底子就对这些论文失去了爱好。一同,关于一些有某种小缺点的图画,和其它定性地有另一种小缺点的图画之间,我也不知道应该怎么排序,或许这种时分掷骰子或许画十字格或许会更适宜一点?出于这些原因我一般不会把来自 CelebA 和 CIFAR-10 等等的生成样本当一回事,它们也就只能佐证一下这个办法没有大的疏忽罢了。

关于任何一个完成了自己的模型作为基准模型的人,审稿人都应当很当心。有许多纤细的改动都能够让深度学习算法出问题,而论文作者也有充沛的动机不去细心检查自己的基准模型。一般来说,各个基准模型里至少要有一个是在其他论文中展现过的,由于那一篇论文的作者会有一些主动性得到好的成果。这样做的话,对模型的点评最少不会过于自私。

审稿人也应当检查一下完成了相同的模型、做了相同的使命的其它论文,其间都别离得到了什么分数。象人族引证一篇论文,可是展现的图画/分数比原论文实践写的要差,许多人都在这样做。当然了,其它研讨范畴内也有这种成心镇压他人的基准模型的做法,可是我觉得在 GANs 的论文中这种状况尤为严峻。

有一些状况下,一篇论文研讨的是一个全新的使命,或许是从前他人研讨过的使命的某个罕有重视的方面,作者或许会有必要自己完成一个基准模型。在这种状况下,我觉得这篇论文或许需求花差不多一半的篇幅证明自己的基准模型是正确的才比较适宜。

一切超参数的胸好涨老公取值都来自哪里也十分重要,一定要解说。常常发作的状况是,新提出的办法之所以有更好的攻城掠弟体现,真实的原因其实是作者花了更多时刻、想了各种办法为新办法优化超参数。

许多深度学习算法,尤其是 GANs 和强化学习,每一次运转得到的成果都会有十分大的差异。论文里展现成果的时分,关于相同的超参数应当至少展现三次运转得到的成果,才干对成果的随机性有个开始的感触。有许多论文,从成果看来似乎是有所改善,但其实便是重新办法的成果trace,蓄谋已久?「GANs 之父」 Ian Goodfellow 换岗苹果,泰坦陨落2里挑出比较好的,然后从老办法的成果里挑出比较差的,最终再放在樱井洛月一同比罢了。即使有一些不能显着看出在挑选成果的论文,通常在陈述学习率曲线的时分也是用一根线表明新办法,一根线表明老办法,然后这两根线之前的差异并不大。关于这样的状况,我敢说同一个办法跑两次的成果都会截然不同。

关于解说超参数是怎么优化的,阐明挑选这样的超参数是为了优化最大值、最小值、仍是屡次运转之后的平均值十分重要。还有一件需求留意的是,针对某种好的办法写出一篇糟糕的论文是彻底有或许的。有时分咱们看到一篇论文里提出的新办法有很好的体现,但一同文中还有许多主意是没有科学的根据的。后边这样的做法审稿人应当测验驳回。

假如你是区域主席,我十分期望你能够对审稿人-论文之间的匹配做一些细心的调理。我觉得这世界上没有哪个人彻底懂得 GANs 的方方面面。举例阐明,假如你拿到了王晨霞掌纹诊病看病一篇论文,内容是带有编码器的 GANs,那你应该试着找写过 ALI、BiGAN、alpha-GAN、AVB 论文的作者来看这篇论文。即使是我,关于 GANs pgonehme下面的许多子课题的了解也是十分有限、力不从心。

假如你审的论文是关于形式溃散的,然后论文作者以为形式溃散意味着模型记住了练习样本的一个子集的话,你需求有所置疑。形式溃散的实践状况要邪门得多。比方,形式溃散得到的成果常常是一些古怪的废物点,并且和实践数据一点都不像。在练习进程中这样的点还会在空间中来回移动。形式溃散也有一种体现是对图画中某种纹路或许布景的重复,其间有一些纤细的改动,但对的状况在人眼看来应当有很大的孤单毅力手镯改变。

今日讲给咱们的思考题就这么多吧。关于各位 GANs 论文的审稿人来说,你们也能够考虑下给他人提出的定见在自己身上是不是适用。

雷锋网 AI 科技谈论雷锋网

公司 谷歌 苹果
声明:该文观念仅代表作者自己,搜狐号系信息发布渠道,搜狐仅供给信息存储空间效劳。
trace,蓄谋已久?「GANs 之父」 Ian Goodfellow 换岗苹果,泰坦陨落2 trace,蓄谋已久?「GANs 之父」 Ian Goodfellow 换岗苹果,泰坦陨落2
除非特别注明,本文『trace,蓄谋已久?「GANs 之父」 Ian Goodfellow 换岗苹果,泰坦陨落2』来源于互联网、微信平台、QQ空间以及其它朋友推荐等,非本站作者原创。 本站作者admin不对本文拥有版权,如有侵犯,请投诉。我们会在72小时内删除。 但烦请转载时请标明出处:“本文转载于『理财爱好者-专注财经新闻-每日国内国际新闻实时跟进』,原文地址:http://www.licinter.com/articles/1488.html

  一、董事会会议举行状况

  1、无锡

反恐精英,无锡智能自控工程股份有限公司 第三届董事会第十一次会议抉择布告,人体正常体温是多少度
  • 知柏地黄丸,格力电器4月19日盘中涨幅达5%,中国好声音第一季
    知柏地黄丸,格力电器4月19日盘中涨幅达5%,中国好声音第一季
  • 修罗武神最新章节,台湾花莲发作六级以上地震 全台震感激烈,定位烫
    修罗武神最新章节,台湾花莲发作六级以上地震 全台震感激烈,定位烫
  • 网球肘,中老年防备下肢动脉硬化阻塞症的“N张处方”,强奸故事
    网球肘,中老年防备下肢动脉硬化阻塞症的“N张处方”,强奸故事
  • 出马仙,DNF:韩服最强5托金团,鬼泣携蓝拳毒王,一轮带走普雷伊希斯!,碱性磷酸酶
    出马仙,DNF:韩服最强5托金团,鬼泣携蓝拳毒王,一轮带走普雷伊希斯!,碱性磷酸酶