要说在如今ChatGPT掀起的人工智能浪潮中受益最多的厂商,除始作俑者OpenAI外,吃到了最大一块蛋糕的可能就是英伟达(NVIDIA)这个在许多玩家眼中卖显卡的半导体巨头。
无论是ChatGPT/GPT-4、还是百度的文心一言,它们表现出的智能化背后不仅仅有来自肯尼亚的数据标签工,更需要用庞大的算力来作为支撑。然而,并不是每一家AI初创企业都有能力建设属于自己的算力矩阵。为此,日前英伟达方面提出了一个新的模式——租算力。
(资料图片)
近日英伟达CEO黄仁勋宣布了DGX Cloud计划,将面向商业客户开放用于开发ChatGPT等人工智能技术的超级计算机,几乎任何企业都可以用云租赁的方式,使用这些强大、但成本昂贵的设备。对此他在英伟达年度GTC(GPU Technology Conoference)开发者大会上更是表示,“人工智能的iPhone时刻已经开启”。
如果说AIGC的破坏性创新已经到来,诸多创业公司正在竞相建立颠覆式的商业模型,那么业界巨头同样也在寻求应对之道。
据悉,英伟达的DGX Cloud是其与甲骨文等合作伙伴打造的云服务,任何人只要有网络,就可以登录集成了多达3.2万个英伟达芯片的超级计算机。具体来说,这个包含8个Ampere A100或Hopper H100旗舰HPC加速器,每个节点共有640GB显存的套餐价格是每月3.7万美元。虽然咋一看这个价格并不便宜,然而Ampere A100和Hopper H100本身就很贵,如果是购买所需的花费更是远不止这个数。
其中,Ampere A100是英伟达在2020年推出的产品,这款专为人工智能、数据分析、科学计算打造的GPU芯片,与常规意义上的RTX显卡有着巨大的差异。它的GPU芯片“占地面积”高达826平方毫米,容纳了540亿个晶体管,有6912个CUDA核心排列在108个SM单元中,还具备432个张量核心,HBM2显存容量为40GB,带宽达1.55TB/s,售价更是高达15000美元。
Hopper H100则拥有800亿个晶体管,相比上一代的Ampere A100有着六倍的性能提升,以及两倍的MMA改进。尽管英伟达方面一直没有公开其官方建议零售价,但显然其要比Ampere A100贵得多。
那么搭建一个类似ChatGPT的大语言模型需要多高的算力呢?据市场调查机构TrendForce发布的报告显示,如果以Ampere A100的算力来计算,运行算力消耗高达3640PF-days(即假如每秒计算一千万亿次,需要计算3640天)的ChatGPT需要至少3万块Ampere A100。
这是一笔多么大的数字呢?如果全部按零售价计算,OpenAI则需要支付4.5亿美元。实际上,OpenAI背后的微软确实花了数亿美元来为ChatGPT搭建了超级计算机,并且用的还不是Ampere A100、而是最新的Hopper H100 Tensor Core。
但事实上,除了建立超极计算机所需的硬件是一笔天文数字外,让大语言模型能够跑起来需要的能源、也就是电力成本,也同样惊人。
一块Ampere A100的功耗是400W,那么3万块Ampere A100的功耗就是12MW,再算上硬件方面的投入,最终的结果就造成了这无疑是个不折不扣的“富人游戏”,以至于“用ChatGPT编程比招一个程序员更贵”这样的段子,其实并非开玩笑。对于微软、谷歌、百度这样的巨头而言,这样的成本显然并不会成为障碍,但对于中小团队来说,如此巨大的成本几乎就是一座不可逾越的大山。
而英伟达推出租赁算力服务,为的就是让更多创业者参与进来,特别是参与到大语言模型的市场竞争中。英伟达的商业模型就是向B端用户销售以Ampere A100和Hopper H100为代表的先进算力,毕竟在他辛辛苦苦建立了CUDA生态后,自然是希望有更多的参与者加入进来,所以租赁算力也成为了英伟达为培育市场所作出努力的缩影。
如果说建立大语言模型只有堆砌算力这一条路,那么英伟达方面显然大可高枕无忧。毕竟在面向深度学习的计算芯片业务中,唯有英伟达既拥有优秀的硬件架构、又具备完善的软件生态,所以对于想要在AI领域有所作为的参与者来说,购买英伟达的硬件、加入CUDA生态才是最有性价比的选择。
但非常遗憾的是,诸如斯坦福大学推出的大语言模型Alpaca横空出世,让初创企业参与大语言模型的市场竞争时又多了一个选项。
据悉,Alpaca是基于Meta的LLaMA 7B大语言模型开源的产物,仅使用了52k数据在8个80GB规格的Ampere A100上将70亿参数训练了3个小时,再算上生成数据使用OpenAI的API,总成本还不到600美元,最终却实现了可比肩GPT-3.5的表现。所以Alpaca也证明了不仅仅是参数达到千亿以上规模的大模型能成功,中小尺寸的模型同样可能也具备一定的可用性,并能够用更小的算力成本在特定的场景下,获得大模型80%甚至95%的能力。
如果创业者不再去“卷”大语言模型,而是学习Alpaca做垂直领域的中小尺寸模型,那么英伟达的加速卡又要卖给谁呢?所以他们也需要降低门槛,来让更多的参与者有机会用上更便宜的算力才行。
-
英伟达推出算力租赁服务,AI不再是“富人游戏”要说在如今ChatGPT掀起的人工智能浪潮中受益最多的厂商,除始作俑者OpenAI外,吃到了最大一块蛋糕的可能就是英伟达(NVIDIA)这个在许多玩家眼
-
美高校曾对囚犯进行“人体实验” 民众:骇人听闻 全球要闻美国加利福尼亚大学旧金山分校日前发布报告承认,该校两名皮肤病专家曾于20世纪60至70年代对至少2600名囚犯进行一系列
-
成都高中学业成绩查询使用常见问题及处理办法汇总成都高中学业成绩查询使用常见问题及处理办法1 入学年选错了怎么办?答:在“联系客服”中,找到页面左上角的“账号信息”(13开头的8位数...
-
环球热议:去东北上学准备什么 去东北上大学都要准备什么东西1、去东北上大学,行李中需要准备自己带的东西是:一床干净的被套、枕套、床单、衣服不用带很多,最多带到10月份穿的,厚衣服用来寄,鞋子多带
-
无法识别的usb设备怎么解决_世界微速讯1、首先确认是否USB本身的故障,可以用同一个USB设备在另一台电脑上接上。2、若都不能使用,则说明U盘损坏,确认是否为USB接口损坏。3、用另一
-
全球最资讯丨华易算命网八字排盘_华易算命网1、马年女生。2、农历七月二十。3、早上九点多出生。本文就为大家分享到这里,希望小伙伴们会喜欢。
-
当前关注:大妈带拖车抢上地铁致骨折索赔22万元,法院:自己担责近日江苏无锡,2021年6月12日,65岁的李女士快速冲进即将关门的地铁,结果随身携带的拖车被夹住,她用力拉拽拖车时,不
-
热点聚焦:鹤壁淇滨区:二支渠华丽蝶变 城市风光更灵动头上,柳枝飘拂,鸟语花香;脚下,小桥流水,廊亭水榭;岸边,水吧、咖啡厅林立……好一派诗情画意的滨水风光。犹如城市动脉的二支渠,经过...
-
护工5天多次殴打老人被警方带走 家政公司回应 世界今亮点护工5天多次殴打老人被警方带走家政公司回应,家政公司,家政,居家
-
世界微头条丨《梦幻西游手游》西牛贺洲第五关通关方法梦幻西游手游最近大家都在玩,相当热门,梦幻西游手游作为一款高画质游戏,上手难度不大,操作简单,广大玩家爱不释手,玩家在游戏中常常会遇
-
一九是从哪天开始的一九是从冬至那天开始算起的。冬至后即开始“数九”,俗称“交九”,意味进入到一年中最寒冷的时节。所谓“数九”,是指从“冬至”当天算起...
-
每日讯息!ddp是什么意思网络用语_ddp是什么意思1、1DDP,英文全称是DeliveredDutyPaid,(namedplaceofdestination)中文名称是
-
天天看热讯:恩比德半场打卡下班76人大胜公牛 老里弗斯不担心恩比德的伤势他会为客战勇士做好准备(今日/头条)一、恩比德半场打卡下班76人大胜公牛北京时间3月23日,76人客场挑战公牛。全场战罢,76人116-91大胜公牛。全场比
-
每日消息!我国法人和其他组织数量持续攀升记者22日从国家市场监督管理总局获悉:截至2022年12月31日,统一社会信用代码数据库里共有法人和其他组织约1 7亿个,较2021年增长11 30%。其中,法
-
当前最新:水务新科技新产品亮相2023年长江水博会博览会现场。人民网张沛摄人民网武汉3月23日电(张沛、王郭骥)3月22日是第三十一届“世界水日”。当天,2023年长
-
焦点速读:魔方公式口诀上左下右最后一步_魔方公式口诀上左下右1、公式一:“左上下右上”对齐下十字,然后找到任意两条相邻的边,每条边的上半部分颜色相同。应用这个公式可以使所有的四个边
-
当前视点!阿根廷主帅坦言,比不上瓜迪奥拉和安切洛蒂,当选年度教练很幸运阿根廷国家队主帅斯卡洛尼出席新闻发布会,坦言自己击败了瓜迪奥拉和安切洛蒂当选FIFA年度最佳主教练,并对此发表了感言。“当你赢得世界杯冠
-
劈组词语 环球热点评1、劈柴、劈头、劈刀、劈杀、劈脸、劈山、劈啪、劈手、劈账、劈掌、劈腿、劈成、劈裂、劈口、劈雷、劈空、劈历、劈画、皴劈、劈蚌、分劈、劈礰
-
全省公租房信息系统建设座谈会召开3月13日,全省公租房信息系统建设座谈会在省住建厅召开。各市州住房和城乡建设局住房保障科科长、业务负责人员和公租房信息系
-
天天讯息:保定贷款的申请周期是多久?本文从贷款类型、资质和材料准备、银行审核流程以及贷款金额和期限等多个角度分析了保定贷款的申请周期。申请人应该提前做好准备,选择信誉良
-
英雄联盟皎月女神出什么,lol皎月女神出装 皎月女神出什么装备 世界快看点本文目录一览1,lol皎月女神出装皎月女神出什么装备2,英雄联盟皎月女神出装3,lol中单皎月女神怎么出装详细点4,英雄联盟皎月女神出转先出什
-
世界热议:安杰洛·奥博纳1、安杰洛·奥博纳是足球运动员。本文到此分享完毕,希望对大家有所帮助。
-
百面锦旗百个暖心的故事,他们用心守护着每一位旅客 全球资讯百面锦旗百个暖心的故事,他们用心守护着每一位旅客
-
焦点速递!航班管家APP强制、频繁、过度索取权限被工信部通报据工业和信息化部通报存在问题的APP(SDK)名单显示,深圳市活力天汇科技股份有限公司开发的航班管家(应用版本:8 4 9)所涉问题为APP强制、频繁
-
天天观察:太原补牙可以用医保报销吗问:太原补牙可以用医保报销吗?可以,但需要看具体如何治疗。目前国家医疗报销规定,如果是治疗性质的牙科治疗,在医保报销范围之内。已经纳
-
071期唐龙排列三预测奖号:奖号形态参考 焦点热门排列三第2023070期奖号为567,奇偶比为2:1,大小比为3:0,和值为18,跨度为2。体彩排列三历年第071期开出奖号分别为:917、202、984、34
-
*** 次数:9999999 已用完,请联系开发者*** 日拱一卒无有尽功不唐捐终如海的意思|全球热文1、“日拱一卒无有尽,功不唐捐终入海”是“锲而不舍,天道酬勤”,勉励人们勤奋进取的意思。2、日拱一卒无有尽有名言:宁可十年不将军,不...
-
开发三味的观看顺序_开发三味1 6无修全集在线观看_环球消息1、提问后,请您尽快处理您的问题,否则将辜负回答您问题的热心网友,您可以有如下选择:采纳答案:选择一个您最满意的回答为满
-
世界播报:令人震撼的小说被改编成电视剧了,跟我一起默念三遍:千万别演砸昨晚(3月20日),取材自路遥的知名中篇小说《人生》改编而成的电视《人生之路》开播了,这是一部讲述农村青年奋斗史的作品。在小说里,作者通
-
天天新资讯:海螺创业(00586.HK)预计2022年度净利润同比增长不少于110%海螺创业(00586 HK)预计2022年度净利润同比增长不少于110%,财政,净收益,海螺创业,公司股东