重生08:游戏开发有手就行_第398页

  也就是说,所谓的注意力机制,就是通过其他人对自己的需求,来找到自己的定位。】

  第435章 有条不紊
  【同时,你的其他同事也做了一遍和你相同的动作,每个人都利用注意力机制来找到自己的定位。避免出现你和另一位关卡设计出现矛盾,甚至出现团队做出5个1-1关卡,而1-2、1-3等关卡根本没有人去做。

  这种团队中成员都做一遍就叫做self-attention,自注意力机制。

  同样的,五个人一起打英雄联盟,或是一款游戏中的国战,都是自注意力机制的体现。

  比如比赛中要打团战了,你是去偷塔还是加入团战,是带线还是刷野。团战中,肉盾是不是抗住了伤害,治疗有没有给出关键技能,输出有没有注意走位,都是自注意力机制的体现。

  这是团队系统运行的内在需要,是大家组成这个团队的最终目的,不管你是否去做这个机制。

  除了注意力机制和自注意力机制,还有一种multi-head self-attention,多头注意力机制。

  所谓的多头,在这里可以被称为多个维度。

  还是以游戏开发为例,自注意力机制能保证开发出的游戏完全符合游戏设计的初衷,但这仅仅是工作或者说业务的范畴,属于成功开发游戏的基础条件。

  多头注意力机制就是确保团队能达到最优解的充分条件了。

  比如团队老大是不是满足了大家的收入需求,程序员经常加班有没有人关心健康,美术小姐姐今天上班哭了会不会被安慰等等。

  现实中大家上班都有怨言,因为职位、待遇、人际关系、性格原因等等多种维度的因素,没办法完美运行多头注意力机制。但人工智能没有这种主观上的影响,它只会按照人类的设定,完美的运作多头注意力机制。

  这也就是attention is all you need这篇论文的核心变形金刚的核心所在。】

  当然,文韬只能浅显的对公众解释注意力机制的内容,它背后的数学模型、如何实现等,就不是能轻易解释的清楚的内容了。

  即便如此,这篇发布在围脖上的文章也让网友们仿佛进入另一个领域。

  “我去,文韬他真的是在跟我解释诶!”

  “这是要用AI来模拟现实世界啊!”

  “很难想象,要实现变形金刚模型,要经历多少掉头发的思考,它背后的数学模型又是如何对自然与社会的运作机制进行深刻理解并反复校正自身的。”

  “虽然还是不太懂,但我大受震撼!”

  “我猜文韬就是想说,AI的本质上是把现实世界通过一些算法转化成通过算法形成的虚拟世界吧!”

  “说了这么多,这个叫变形金刚的架构到底能干啥呢?有没有大佬说一下?”

  “文韬不是说过吗,他要弄一个大语言模型来着。”

  “我表哥的叔叔的同学是搞这方面的,昨天听他说还可以搞什么蛋白质结构预测啥的。”

  “告诉大家,能干的多了去了,我本人就是在黑洞上班,虽然不是openAI,但他们聊天的时候说,好像以后还可以搞文生视频、文生图片!”

  “什么叫文生视频和图片啊?”

  “顾名思义,你给AI输入一段话,比如‘一个穿着白裙子的小姑娘正在院子里荡秋千’,AI就能给你生成好些符合你描述的图片或者视频内容。”

  “卧槽,这也太神奇了吧?真的能办到吗!”

  “还不知道嘛,但是现在已经有了理论基础,相信openAI那边很快就会根据变形金刚架构开始做产品了吧!”
  

  “天呀,难以想象,可怕的是可能要不了太久就真的会有产品出现了!”

  ……

  事实上,transformer架构已经完全做出来了,并且大语言模型chatGPT都已经在进行训练了。

  在论文的基础上,文韬直接指明了大语言模型这个方向,openAI正在全力实现GPT功能。

  在论文发布后,有两家大公司分别处于迷茫和兴奋的状态中。

  迷茫的是谷歌,AI领域的人才正在缓慢流失,即便他们的工作文化充满自由,但这阻止不了人才们向往openAI。

  特别是attention is all you need发布后,这一趋势更加明显。

  同时,谷歌对于transformer架构的紧急研究并没有能取得多少成果,虽然基于这个架构的构想出现了好几个,但是他们缺少实现的方法,甚至连基础的训练方式都很难搭建出来。

  兴奋的则是微软。

  openAI需要大量的云计算算力,微软提供了这份算力,但这并不是免费的。

  虽然他们是openAI成员之一,但这并不意味着就要白送,最多给个折扣。

  赚钱还不算完,transformer架构的提出,让全世界的AI研究员们都震撼异常,这对微软云计算来说也是一个巨大的广告效应。

  看见没有,连openAI都在使用我们的云计算,其他研究单位还不赶紧来签合同?!

  同时,微软作为openAI成员之一,天然的就拥有技术授权,哪怕transformer本身是开源,微软也能从自家参与项目的成员中获得一定的额外信息,比如谷歌很想知道的模型训练方法啥的。

  这让微软十分看好openAI的长远发展,甚至主动联系文韬,询问openAI子公司什么时候开放融资。

  文韬回答说快了,毕竟chatGPT已经开始搞了,需要巨量的资金。从GPT1到GPT4,保守估计百亿美刀级别。

  看着微软又赚钱又搞AI的,文韬不担心他们的技术突破太快,只是对于他们赚钱感觉很不爽。

  黑洞有发展云计算的能力,但是资金需要的太多。

  显卡、switch、AI,都是要花大钱的项目,云计算只能放在后面了。

  好在几个项目的进展都算是顺利,听蓝宝石的王汉飞信誓旦旦的保证,说是第一张实验性的显卡已经设计完成并且马上进行成品试验。

  而惊蛰GPU适配游戏的进度也不慢,虽然需要适配的游戏总量非常大,但各大游戏公司都挺配合的,让文韬比较放心。

  switch的情况也差不多,试验机也在组装调试中,文韬应该不久之后就能拿到手里试玩了。

  双人成行游戏的开发进度完全不用文韬担心,黑洞已经是一家成熟的游戏公司了。这一次他想试试自己只设计核心玩法,把关卡、剧情、流程等全部交给黑洞,然后自己来当双人成行的第一个玩家!
  
 
这个月应该会完结了吧_(:зゝ∠)_
   
 
  



 
  第436章 天王星 海王星 冥王星

  文韬做出把双人成行的开发工作全部交给团队的决定后,团队成员立马感受到了史无前例的压力。

  以往的游戏中,文韬除了拿出初版设计,也会参与游戏一些关键决策与指导。