第22章 想法撞车
书迷正在阅读:末世:从文明令牌开始、我的八位师姐风华绝代、相亲失败一千次富江成了我女友、狂徒太嚣张了、我大帝晚年不详,系统你才来?、仙钥、鬼的悼亡诗、我也是异常生物、这个明星想找个班上、四合院之开局截胡秦淮茹
85年出生的伊恩最近几年的压力有点大。 对于一个普通的博士生来说,他其实并没有什么做的不好的地方,相反,他聪慧努力,也一直就读于名门。 本科,硕士均毕业于斯坦福,恩师是谷歌大脑的创办人吴恩达,博士就读于蒙特利尔,在AI三巨头之一的本吉奥指导下学习。 他的学业经历,个人智慧说是万里挑一也不为过,不过如果要与他的导师们去做对比,确实稍显暗淡了一些。 28岁的伊恩已经读到了自己博士的最后一年,数据的生成算法是他博士时期一直在思索的方向。 许多研究者们也已经在尝试使用神经网络去模拟人脑,来生成新的数据。 只可惜目前为止,这些数据通常存在很大的问题,完全无法使用。 并且一个很大的阻力是,生成出来的图像往往不可名状。这些无用的克系图像缺乏利用的手段,也不好去评估它们。 而前几日,IMAGENET上模型性能超越人类标准的结果让他有了新的灵感。 如果说,深度网络已经可以在一些图像类任务上达到人类水平的话,是否就可以避免生成式网络结果不好评判的问题,通过两个网络的相互对抗来完成这样的过程呢? 伊恩越想越觉得合理,他昨晚甚至没顾得上睡觉,而是直接花了一晚上的时间实现了一个生成-对抗的雏形版本,并尝试训练了一下,发现结果似乎和预期的基本一致。 按捺不住激动的心情,他想要尽快和导师讨论这里面的原理和做法。 伊恩在本吉奥的办公室门口来回徘徊了二十多分钟,本吉奥这才从远处大步流星地走了过来。 如果忽略头发和一把络腮胡中掺杂的白色,今年49岁的本吉奥其实看着相当年轻,只论这個面相的话,最多是一个三十五六的男人。 尤其是两道形状有些像憨豆先生的浓眉,让他显得更加忠厚,平易近人。 伊恩连忙往前跨了几大步,同时将自己手中的笔记和实验记录展开。他指着上面的几行核心的式子,正要开口的时候,却被本吉奥无情打断了。 “我知道你很急,但是你先别急。”本吉奥看着伊恩这个火急火燎的样子,调侃道,“我们做学术讲究的就是根基扎实,稳扎稳打。着急有什么用?着急没用呀。” “有什么话不能等我们进去了坐下慢慢聊呢?”本吉奥说着,掏出自己的钥匙,打开了办公室的门。“进来吧,这才七点多你就蹲在了我办公室的门前,想来一定有了什么重大的发现吧?” “很急,我真的很急。”伊恩深耕生成领域已经有段时日,在他昨天想到这个思路的时候,他就已经意识到了这将会是整个模式上的重大变革。 从本科开始到现在,十年磨一剑,伊恩非常兴奋。他有不错的学术嗅觉,能感觉到这个想法的不同凡响。自己的出头之日就要到了吗? 就在此时此刻,他可以感觉到这是一个绝佳的契机,能够凭借自己的实力,去摆脱吴恩达弟子,本吉奥弟子这一即是光环又是阴影的经历。 让世人真真正正地认识到他自己,通过自己提出的技术和算法来重新看待自己。 “两个网络的相互对抗吗。”本吉奥听完之后沉吟了一会,不像伊恩的几个朋友那样急着提出反对和怀疑的态度,本吉奥对富有想象力,富有创意的点子一直都是非常鼓励的态度。 “同时训练两个模型,而不是一个。生成器和判别器两者可以左脚踩右脚地螺旋相互提升。你是想通过这种模式,去让生成器的分布最终尽量接近于提供的真实数据。” “这样,我们也摆脱了寻常的思路,我们训练判别器,不是为了让它可以百分之百地判断图片是不是生成的。反而,我们的目的是为了让判别器再也不清楚到底哪些是真,哪些是假。”伊恩补充道。 “对抗只是一种形式,其本身的目的还是为了训练一个生成式的网络。我有信心,这种方式可以摆脱对数据标签的依赖,大量的其他数据可以在不需要额外处理的情况下被利用起来。” 伊恩直到此时,激动的情绪还没有平息。 “不仅仅是如此,生成只是最初步的应用。”本吉奥思索了一会儿,说道,“它完全可以通过对数据的筛选来达到特别的目的。只需要少量的代码调整,我相信它可以很好地处理布局简单的图案,尤其是在人脸这样的方向,这是非常危险的技术。”
“你打算给它取一个怎样的名字?”本吉奥一边说着一边打开了电脑,给技术起名字是一个难题,也是一门艺术。 名字取不好,工作全白搞。 一个响亮的名字,一个有趣而简洁的缩写,都很有可能会提升工作的知名度,受欢迎程度和应用范围。 “生成...与..对抗。要不,就叫它生成式对抗网络?”伊恩也还没有仔细去想这个问题,便将这个想法中最关键的两个元素给添加到名字当中。 “GenerativeAdversarial吗,我来看一看。”取名的第一步,自然是检索,看看有没有人已经占了坑位。 本吉奥这一检索,远在天边的孟繁岐突然打了个喷嚏,心说这大夏天的,怎么还着凉了呢? “这个名字好像已经被人给占用了,就在前两天,非常不巧啊。”本吉奥此时还没有意识到问题的严重性,“看来我们要换另一个名字了。” 一边说着,本吉奥一边点开了这个预印本。 “DreamNet是什么网络,好像之前没有看到过。”本吉奥依稀觉得这个名字似乎这两天有谁提过,但他忙于别的研究事宜,倒也没有太在意。 但刚刚看完摘要,本吉奥的眼神便犀利了起来,表情也变得非常严肃。 伊恩此时还在苦思冥想,到底用个怎样的名字会好一些。 而本吉奥则用一句话,无情地击穿了他的防御,“伊恩,看样子我们不能使用的可不只是一个名字啊。” “什么?我们的想法撞车了?”伊恩大惊失色,学术想法撞车,这对科研人员来说可能是最倒霉的事情之一了。