学霸从谈恋爱开始

我爱西瓜书

首页 >> 学霸从谈恋爱开始 >> 学霸从谈恋爱开始最新章节(目录)
大家在看全民:智械之主,我即是天灾!灵玉废土之上,我拖家带口去拾荒!灵兆复生转移开局便有念能力末世:觉醒空间异能的我直接无敌末世:开局饕餮纹身,吃啥补啥天灾降临:我在副本里捡破烂穿成男频大佬赘婿文里的恶毒女配
学霸从谈恋爱开始 我爱西瓜书 - 学霸从谈恋爱开始全文阅读 - 学霸从谈恋爱开始txt下载 - 学霸从谈恋爱开始最新章节 - 好看的科幻小说小说

第五十一章 注意力即所有

上一章目录下一章阅读记录

老赵那边非常利索地把服务器的账号密码发了过来,顺便还非常贴心地把江大自己开发的服务器登录器也发了一个过来。

苏飞按照Linux系统的操作命令,先登陆上去看了看配置,这不看不知道,一看吓一跳。

老赵分给他的这台服务器插了四张显卡,清一色的3080ti,苏飞查了下型号,这一张就得近万,而作为核心与这四张显卡协同运算的cpu那就更了不得了。

他不由得有些感叹,老赵啊老赵,你年轻的时候是得多大牛,这都退居二线了,手里还富得流油。

苏飞敢打包票,就这四张3080ti的配置,就能抵得上江大不少教授实验室的资源了。

不过这四张卡有两张已经在运作了,估计是其他学生申请了学校的服务器,在跑实验。

既然有了这种配置,苏飞也算是有底气了,他根据自己的模型单元构建起了一个模型结构,然后挑选了人工智能领域中非常典型及复杂的任务,机器翻译。

其实就是语言翻译,目前为止使用的各种翻译软件其核心技术就是基于机器翻译。

这其实还是自然语言处理领域,但又不局限于自然语言处理,因为机器翻译是公认的大数据训练,其训练的复杂度和图领域不相上下,这也就代表着这个实验任务能在很大程度上反应论文模型在人工智能领域的性能。

而苏飞思前想后,决定采取现在国际上公认的两个机器翻译标准任务,将英语翻译成德语以及法语的BLEU任务和WMT任务,这两个翻译任务是目前最有说服力的实验,现在甚至有一个实时榜单专门对这两个任务打榜,在人工智能领域几乎无人不知无人不晓。

所以,苏飞要在最有公信力的任务上下手,做到一击毙命。

在他熬夜修仙两天后,终于辛辛苦苦把自己的模型构建出来了,但应用到这俩任务上去时,他却傻眼了。

“卧槽,这训练一轮就得半小时?”

要知道,人工智能领域的训练轮数都是1000次打底,像机器翻译这种2000次都是常态的。

“这起码得4、50天才能训完啊……”

这简直就离谱,一篇论文耗时最长的居然是任务训练,而最为核心的模型构建只花了几天时间。

而且,在训练中途出了啥岔子,比如说有其他同学一不小心占用了他这张显卡的计算资源,导致程序崩溃,他的模型数据一旦没保存下来,那就得重新训练。

还有一个很重要的问题是,万一训练出来的性能没有想象中的好,苏飞还得调节参数,再训练一次,这时间跨度就未免太长了。

苏飞思考良久,只得又去找VX里的那个中年秃头大叔。

【老赵,能不能再给我台服务器。】

【咋滴了,刚给你的那台服务器出啥岔子了?】

【显卡有些不够用。】

【要几张显卡。】

苏飞想要在一周左右训练完,这么一算……

【8张3080ti。】

那边发来一个小企鹅头掉了的表情包。

【你当我是提款童子?前天不刚让你给我低调点?!】

【那6张也行。】

两三周以内也能接受哇。

【还也行?滚!】

【老赵,你知不知道你现在冰冷的话语正扼杀一个跨时代的造物!】

苏飞发了一张痛心疾首.jpg。

对面直接发了一张滚.jpg。

最终,二人沟通协商数次,老赵敲定了一个方案。

老赵会用管理员权限把所有其他账号冻结一个月,只保留苏飞的账号,这样给苏飞的那台服务器的四张显卡就只能由苏飞使用,也不需要担心其他人一不小心占用了资源导致程序崩溃,因为压根没其他人了。

当然,想要使用这台服务器的其他同学会被安排到其他服务器去,老赵顺便会帮他们把数据也一起转移过去。

这样一来,苏飞用四张卡同时训练,十几天应该就能搞定。

老赵,还是靠谱儿,苏飞决定之后这篇论文发表成功,一定要好好报答报答老赵。

在得到老赵的全力支持后,苏飞也是起飞了,把训练程序往四张显卡上一扔,他就完全撒手不管了。

有句话怎么说来着,要让你的钱比你更努力地工作?

在深度学习领域,要让的显卡比你更努力地工作!

既然训练程序的问题已经解决了,苏飞便直接开始动笔写论文了。

虽然训练结果还没出来,但苏飞相信这个模型的性能绝对不会差,到时候结果出来了直接把数据填上去,就能直接发表了。

什么?万一性能很差?

这是看不起系统的灵感激发卡吗?

狗系统虽然很狗,经常发布一些奇奇怪怪的任务,但灵感激发卡的功效也是实打实的。

在撰写论文题目的时候,苏飞一字一顿地打上标题。

【注意力即所有(Attention is all you need)】

这种有些狂妄的论文标题很像是一些初出茅庐的小子,不知天高地厚而一时中二取的标题。

苏飞的确是初出茅庐的小子,但他坚信,以注意力机制构建的模型单元担得起这个论文题目。

【目前的主流模型结构都是基于复杂的循环神经网络或者卷积神经网络而构造的编码器-解码器架构。如果在编码器-解码器架构中再加一层注意力机制,那么这个模型的性能就会变得更好。】

【但是,迄今为止从没有人仅用注意力机制构建出一个编码器-解码器架构的模型。本文提出一个新的模型,其舍弃主流的模型架构,单纯采用注意力机制,并引入多头注意力机制与位置向量的概念解决目前注意力机制中的两个难点,其具体的模型构造为……】

【……基于上述的理论,此模型并不局限于自然语言处理领域,其独特的并行运算结构能适用于人工智能领域的任何问题,并且大大提升训练速度,因此,本文将该模型命名为变压器(Transformer)。】

这也算苏飞的一个小趣味,Transformer在英文中不止是变压器,更有变形金刚的意思,而这个模型的确就如同变形金刚一样,非常灵活多变,能适应各种任务。

喜欢学霸从谈恋爱开始请大家收藏:(m.shuhesw.com)学霸从谈恋爱开始书河书屋更新速度全网最快。

上一章目录下一章存书签
站内强推斗破:我都成帝了,怎么系统才来末日救赎之歌七零相亲:相亲到了最强战神军官反派重生:这主角有点不对劲港片:人在和联胜,爆兵称霸港岛末世:爱捡破破烂的萌崽她重生了檀郎冷战三年,她提离婚他却红了眼权宠嫡女:世子妃夜夜想和离降魔除妖记怒甩渣男后,我当场闪婚千亿首富神豪:从绑定追星系统开始攻略失败回现代,暴君忏悔求复合签到无上神魔体,吾为魔道第一人御兽:我有一本山海经!商如意宇文愆全集小说阅读免费离谱!都无敌了,女帝让我吃软饭狂赎【溺光】娶了神医妃,杀神残王他站起来了
经典收藏我是寄生全球进化:我有进化模拟器末世重生:血月下的死神我是实验动物饲养员末世:组队就变强我统领万千女神诡异末世:我给自己烧冥币龙魂重生系统穿越诸天聊天群江山令华丽转身系统地球纪元银幕时代我滴世界有弹幕蛮荒小龙女从鸿蒙开始升级世界无尽战争:战无不胜无尽星衍怎么一不小心就成了大佬?衰神天下异世之紫微
最近更新黑暗终章:灵疫纪996社畜末日逃生日记星际种田,大小姐靠炼药逆袭战火燃星宇末日孤途:破晓之战量子传奇末日逆袭:暗夜绝杀时光逆旅的救赎警告!禁止S级觊觎顶级貌美向导末世推荐!更适合i人的打卡地!穿越文明垃圾场,我能修复一切杀意侧写硬科幻:背离神者,弑神演义量子仙宗穿书废土:修仙我是认真的星网争春秋我带着地铁装备穿到末世了无限穿越寻找末世救赎开局觉醒读心我抢重生者机缘虚拟尘世
学霸从谈恋爱开始 我爱西瓜书 - 学霸从谈恋爱开始txt下载 - 学霸从谈恋爱开始最新章节 - 学霸从谈恋爱开始全文阅读 - 好看的科幻小说小说