您当前的位置:首页 >> 潮流饰家

Meta内讧!大模型制作组人员流失大半 算力紧缺竟成

2024-01-27 12:18:03

《科创板日报》9年底6日讯(编辑 邱思雨) 据The Information新闻报道,消息民间团体透露,Meta参与LLaMA单项的部门大半都已辞任,缘故是Meta另一研究课题小组(OPT小组)与LLaMA小组就算力资源作立即了一场在表面上的大争。

LLaMA是Meta在本年2年底公技术开发表的一款开放源码的人工智能大型自然语言静态。在本年7年底,Meta公技术开发表了其最新版本LLaMA 2。相较上十代,LLaMA 2训练所用的token翻了一倍至2万亿。

而在2年底公技术开发表的穿越时空LLaMA静态的14位核心原作者里,已有少于一半的人全部辞退,包括Timothée Lacroix、Guillaume Lample、Marie-Anne Lachaux、Gautier Izacard等。

论文重定向:https://arxiv.org/pdf/2302.13971.pdf

另一OPT小组则在2022年5年底公技术开发表了开放源码大静态OPT-175B,并在几个年底后着手技术开发与腾讯PaLM相互竞争的竞品,立即技术开发出有第二个更大的静态。

而LLaMA小组技术开发的静态则比OPT要小。知情民间团体透露,LLaMA研究课题小组普遍认为较小的静态在侦探小说时会高效。但由于LLaMA静态小,因此获取的算力资源比OPT小组要少,这也许让LLaMA小组的研究课题部门展现出有不被重视。

Meta AI特别负责人Joelle Pineau也在访问里承认,LLaMA和OPT小组密切关系在算力资源分配上有些紧张。

另外,算力资源内的大不仅导致了LLaMA小组半数研究课题部门的亡命,OPT小组或多或少也陷入部门流失的问题。OPT静态的19位原作者里,也有半数已辞退Meta。

论文重定向:https://arxiv.org/pdf/2205.01068.pdf

缘故主要系OPT小组正要技术开发的与腾讯PaLM相互竞争的竞品,已被Meta放弃。Pineau无奈地透露:“所有研究课题小组都只想换用自己的静态,这时要么选项其里一个,要么让他们协作。”Meta AI的一些他的公司也表达过误导指,OPT和LLaMA两个小组单项的类似度过高,却要相互竞争有限的算力资源。

最终,Meta AI的高级官员决定顺利进行小组重组,将LLaMA和OPT小组的以外研究课题成员聚集痛快,成立了生成式AI小组。

在AI算力竞技里,科技产业娱乐业往往拥有比大多数公司更加充沛的算力资源。而Meta大静态研究课题部门因算力的大争而相继辞退越来越比拟了,迄今为止更有算力紧缺程度比只想象里还要严重,科技产业娱乐业也许也不例外。

先诺特韦片利托那韦片
红草止鼾胶囊用法用量
胃长期反酸烧心怎么回事
思密达与肠炎宁哪个功效好
什么消炎药治嗓子疼
相关阅读
友情链接