用CPU方案打破内存墙?学PayPal堆傲腾延展容量,漏查欺诈交易量可降至1/30
2025-03-14 12:17:20
而权衡标准型AI,仍要是备受闪存内墙束手无策的“受害者”之一——
不是因为框架参存量大,而是因为框架对信息库的要求较低。
与其他体能训练完直接投入用于的AI多种不同,权衡标准型AI必需每天从虚幻生存环境以前借助从新鲜信息,将权衡变得非常“精准”,这只能大量的偏较低均值信息交互。
因此,背后的信息库也只能俱备大数量并发打字、动态性强、可延展等特性。
在这种原因下,如何充分依靠闪存来减速信息打字,反而视为了比增强算力非常加束手无策AI的关键问题。
那么,这些中小企业根本是如何在CPU该平台上解决闪存内墙关键问题的呢?
以曾经在均球带进了该网站付清服务大众化,现今依然处于该领域C位的PayPal为例。
PayPal的业务现今并未涵盖了该网站转账、缴费和付清,并且卖家数量并未翻倍了200多个市场需求的超3.25亿储蓄者和商家,所以它也像习惯的银行业服务一样,面对着严峻的诈骗单打独斗。
PayPal的对策策略,就是打造了一个俱备动态识别系统从新显现出来诈骗方式上并能的动态权衡系统建筑设计。
不过诈骗者也在慢慢忽略诈骗方式上,或发掘重从新方式来抗衡该系统建筑设计,因此,PayPal只能慢慢增强从新标准型诈骗检测的准确性,并且只能尽显然地变长诈骗检测时时有。
在这种类似猫鼠游戏,比谁反应非常快速、谁能非常灵活应变的抗衡以前,关键作用关键作用的就是信息的快速速检视及打字。
为了动态识别系统从新显现出来的诈骗方式上,PayPal只能非常快速地检视和量化非常多信息,就只能将尽显然都是量的信息与动态检视继续做非常好的对接。
然而,闪存内墙的关键问题,在此时也悄然显现出来了。
PayPal发现,自己要对策的是该平台近十年得来的数百PB信息,随着其反诈骗权衡该平台信息量的逐年快速增长,配资料库的数量也在慢慢扩张,以至于几乎要再加其信息库,之外是承载这些信息的各结点的闪存输出功所部一旦耗尽,反诈骗的经济性就但会大打折扣,动态性也就无从谈起。
于是,PayPal开始慎重考虑采用重从新闪存和存储应用于,来突破闪存内墙,换言之,增强其信息库解决方案的结构上存储密度。
恰逢其但会,PayPal于2015年开始配要采用来自Aerospike的信息库应用于,而后者仍要是最早拥护惠普® 傲腾™ 无疑闪存的信息库厂商之一。其从新颖的混闪存体系结构(Hybrid Memory Architecture,HMA)经过简化,可以设法PayPal将体量越发大的配资料库索取傲腾无疑闪存而非DRAM以前,闪存内墙困境终究陷入僵局。
之后的试验结果,也检验了傲腾无疑闪实际上即使如此闪存内墙、增强整个信息库输出功所部和耐用性层面的内涵:
在PayPal现有合计2,000台Aerospike代理服务器以前,有200台已从新增了这款无疑闪存,结果每结点的存储空时有增强到了取而代之的达4倍,且保有了应用于的cc反应和偏较低均值。
随闪存和存储输出功所部增高而来的,还直接益上的大大的节省,据PayPal和Aerospike顺利完成的基准测试:
由于单个结点在信息存储和打字上的并能得到了强化,所需代理服务器的存量可以因此增加50%,每集群的效益就可因此降偏较低达30%[1]。
而且,傲腾无疑闪存还有一个BUFF,也在PayPal这个反诈骗应用于过场里发挥了非常让人一连串的作用,这就是信息无疑性,能带来超快速的信息和应用于维持减速。
来得将配资料库索取DRAM,在原先或非原先的断线后还只能从RAM以前扫描信息并重修资料库多种不同,将配资料库索取傲腾无疑闪存并继续做无疑化后,不论是意外事故宕机,还是原先以前的断线,其信息都不但会因为断电而不复实际上,整个系统建筑设计就可以用非常快速的减速维持并重从新单人游戏。
要问这个减速有多快速?PayPal假定的答案是原先只能59分钟来重修资料库,今日必需4分钟。
PayPal还假定了一些非常具结构上视角,并从业务和之后应用于解毒靠拢的信息来问道明它的收益:
它以2015年初步估计值的50TB诈骗信息量和基本上的闪存系统建筑设计为基准,发现基于傲腾无疑闪存的从新解决方案,可设法它将服务级别贸易协定(SLA)遵从所部从98.5%增强到99.95%。
漏查的诈骗升幅,则降到取而代之的达1/30,结构上代理服务器的占用空时有可降至取而代之的达1/8(从1024增加到120台代理服务器),而其结构上硬件效益可以降到取而代之的达1/3。
慎重考虑到量化的年信息快速增长所部达为32%,PayPal的反诈骗系统建筑设计完均可在从新解决方案上借助于经济较低效的延展,并让它继续保有99.95%的诈骗推算SLA遵从所部、非常短的信息维持时时有、非常强的信息检视、查询耐用性和信息一致性以及较低达99.99%的可用性。
所以,像这种对信息库耐用性要求极较低的录用、该网站评估类AI应用于,依靠CPU该平台,之外是依靠有AI减速并能的CPU+傲腾无疑闪存来即使如此闪存内墙,减速结构上耐用性展现出并降偏较低效益确实是行不通,而且也是能够增加收入的。
如前文提及的,除了PayPal这样的均球标准型卖家外,国内也有不少渴望即使如此闪存内墙的互联网中小企业、AI中小企业家中小企业在他们类似的应用于过场以前更进一步了傲腾无疑闪存,结果也是收成了闪存子系统建筑设计输出功所部大大的延展+信息和应用于维持时长显著变长+硬件效益或TCO大降的多重解毒。
而且,还用上这套解决方案的还;还有是这些过场。
即使在AI for Science上,现今也有一些工程技术仍要更进一步充分依靠这套解决方案,来解决闪存内墙的关键问题。
由DeepMind在2021年公开发表的AlphaFold2就算是一例。
正因如此减速蛋白质投影结构探寻的建构,以及量化的较低可信度,AlphaFold2仍要在生物科学领域带起颠覆式的变革,而它的取得成功工夫,就在于依靠深自学作法顺利完成蛋白质结构量化,这使它在经济性、效益等层面远胜习惯实验作法(包括X-ray色散、冷冻电镜、NMR等)。
因此,几乎所有生物学两界的行业都在着手这一应用于的凌空、管线搭建以及耐用性调优。惠普也是其以前一员。它结合自身体系结构的应用于软件优势,对AlphaFold2迭代顺利完成了在CPU该平台上的侧到侧较低通量简化,并借助于了比专用AI减速集成放大器还要优秀的耐用性。
取得这一学业成绩,既正因如此第三代惠普® 至强® 可延展中央检视器内置的较低位长优势(AVX-512等),也离不开傲腾无疑闪存对“闪存内墙”的突破。
一层面,在框架推理过渡期,惠普专家通过对精力可选(attention unit)顺利完成大度量切分(tensor slicing),以及用于惠普® oneAPI顺利完成算子融合等简化作法增强了迭代的推算经济性和CPU中央检视器依靠所部,加快速了并行推理减速,并缓解了迭代制订以前各个环节面对着的闪存停滞等关键问题。
另一层面,傲腾无疑闪存的部署,也借助了TB级闪存输出功所部的“策略级”拥护,能非常平易近人地解决多示例并行制订时闪存峰值瞬时的闪存停滞。
这个停滞有多大?据惠普应用于专家参阅:在回传大小为765aa的状况下,64个示例并行制订时,闪存输出功所部的需求就但会突破2TB。在这种情形下,对用户而言,用于傲腾无疑闪存也是他们现今真仍要行不通的解决方案。
下一步:反式集成放大器,实质上闪存当然,从整个行业的的发展趋势来看,CPU配上大输出功所部无疑闪存的解决方案,也并非就能一劳永逸地解决“闪存内墙”的关键问题。
它比如问道也只是众多解决解决方案以前的一种。
那么,是否还有其他针对闪存内墙的解决方案,既不像存算合一集成放大器那般远在,但又比CPU+无疑闪存的用作非常均面、非常多样呢?
答案显然就是反式集成放大器+实质上闪存的路子了。
这里的反式集成放大器,指的可不仅仅是CPU和GPU,还包括有FPGA和ASIC等比如问道能为AI推算借助减速的集成放大器标准型式。随着芯粒(Chiplet)应用于的的发展,反式推算显然能为即使如此闪存内墙借助重从新显然性。
现今,芯粒互联互通的开放基准UCIe(Universal Chiplet Interconnect Express)已赢取大量集成放大器行业玩家认可,有望视为配流基准。
这个基准的牵头者惠普自己就在大力布局XPU策略,把标量(CPU)、图形(GPU)、矩阵(ASIC)和空时有(FPGA)等多种不同标准型式和体系结构集成放大器的多样化算力Pop在一同。
不太显然能注意到的一项科技成果便是美国阿贡国家实验室的更进一步超算系统建筑设计——极光(Aurora)。
极光超算的CPU将采用SS为Sapphire Rapids的第四代惠普® 至强® 可延展中央检视器,并配上SS为Ponte Vecchio的惠普® 信息以前心GPU,双准确度峰值推算耐用性至少每秒两百亿亿次,能拥护非常准确的气候量化以及发现对策肝癌的从新疗法等开发建筑设计从新颖活动。
这还是现今可见的实质性。在UCIe的拥护下,更进一步还有显然显现出来多种不同体系结构、甚至多种不同工艺制程的IPPCB视为一块SoC集成放大器的均从新物种。
显现出反式集成放大器的相互合作甚至是反式芯粒的建构,多种不同集成放大器和芯粒所配上的闪存也很显然显现出来实质上或池化的趋势。
其以前一个显然的借助于途径,就是通过激光I/O来连接多种不同集成放大器、芯粒、闪存等组件,即用光信号代替电信号继续做集成放大器时有的无线通信,可以继续算是极较低带长、非常偏较低均值和非常偏较低功所部。
例如,激光I/O层面的从新颖中小企业Ayar Labs,现今并未被在在集成放大器巨头和较低耐用性推算营运商所看好。
在最从新一轮1.3亿美元的融资以前,它的撤资就包括了惠普、英伟达、格芯和HPE。
显然,英哩闪存“清王朝”的时代真的西北方了。
在这种原因下,无疑闪存本身也仍要在迈入非常多的机但会。
例如,傲腾无疑闪存现今已借助于单条512GB的输出功所部,单条1TB输出功所部的基准标准型也仍要在筹备以前。
如果要真仍要较低效地延展反式系统建筑设计的实质上闪存池,它所俱备的多重优势是不应相反的。
详见URL:
[1]
本文来自QQ香港市民号 “量子位”(ID:QbitAI),作者:梦晨 萧箫,36氪经授权公开发表。
。苏州癫痫医院去哪家好济南看癫痫哪家医院比较好
宁波妇科检查
武汉癫痫医院哪最好
上海白癜风医院电话
哪个血糖仪比较可靠
血糖仪什么牌子的好
肠炎怎么治疗最好最有效
哪个厂家血糖仪好用又准确
哪种家用血糖仪比较好
- 包头市首份出口韩国RCEP原产地证书签发
- 腾讯减持带来原先一记重击 昔日原先加坡首富身家已缩水110亿美元
- 京味话剧《牛天赐》来上海跨年,制片人方旭:谁说北方人不喜欢《爱情神话》?
- 71岁老人哭诉:人老了,一定要留钱养老,没钱的终其一生只会苦不堪言
- 美联储本年度会有多鹰?高盛上调加息预测至5次,美银预计7次
- 国际油价小跌,但奥密克戎影响极小,机构调高均价预测
- 世界性首部8K竖屏纪录片!联通沃音乐出品
- 在沉默里,期望一场,光阴的意味深长
- “义新欧”中欧特春节不停运
- 2021年FAANG五娱乐业中亚马逊表现垫底 今年可以雄起吗?
- 神颜舒淇罕见翻车!穿豹纹装跟阔太黎姿世纪同框,脸肿一圈显老
- 国内锡用电面临干扰 海外供需趋于宽松
- (经济)聊城港口青岛港服务和融入RCEP经贸大通道
- 还忘记《琉璃》里的紫狐吗?她和秦俊杰谈恋爱了?
- 征途漫漫,惟有努力工作 | 万得基金WBuy一周年寄语
- 兰格点评:物价回落 政策稳增长薄弱钢需释放
- 房地产行业的相一致到来了吗
- 美股依此类推 | 区块链概念股盘前走强 Coinbase(COIN.US)涨近3%
- 张天爱被曝对男领导装扮搂抱,被拍画面曝光!经纪公司紧急回应
- 基金业“中生代”力崛起丨基民们“用脚投票”的是哪些基金?