首页 / 应用电子技术 / gpu云服务器(gpu是什么)

gpu云服务器(gpu是什么)

Time:2024-05-31 23:07:01 Read:707 作者:CEO

谷歌执行官将人工智能革命比作人类对火的驾驭.现在,要是这个行业能够确保数字引火物为其提供燃料就好了。

作为新一代人工智能系统生命线的先进芯片的短缺引发了一场锁定计算能力和寻找解决方法的竞赛。用于AI的图形芯片或GPU几乎全部由制造。但随着ChatGPT的病毒式成功,对它们的需求激增远远超过了供应,ChatGPT是一种能够以类似人类的方式回答问题的聊天机器人。

gpu云服务器(gpu是什么)

“因为存在短缺,这与你认识的人有关,”Lamini的联合创始人兼执行官SharonZhou说,Lamini是一家帮助公司构建人工智能模型(如聊天机器人)的初创公司。“这就像大流行期间的卫生纸。”

亚马逊网站和等云服务提供商微软可以向ChatGPT背后的公司OpenAI等客户提供的处理能力。AI开发人员需要服务器容量来开发和操作他们日益复杂的模型,并帮助其他公司构建AI服务。

即使是世界上联系紧密的科技企业家也在努力确保产能。在5月16日关于AI的国会听证会上,OpenAI执行官SamAltman表示,由于处理器瓶颈,如果使用ChatGPT的人少一些会更好。

“在这一点上,GPU比药物更难获得,”ElonMusk在5月23日告诉华尔街日报CEO委员会峰会。

不过,成为马斯克有其好处。知情人士称,今年早些时候,急需甲骨文计算能力的初创公司突然被告知买家了甲骨文的大部分备用服务器空间。知情人士说,初创公司被告知买家是马斯克,他正在打造自己的OpenAI竞争对手X.AI。

获得数以万计的图形芯片对于培训可以生成原始文本和分析的大型AI模型的公司来说至关重要。创始人说,如果没有它们,人工智能背后的大型语言模型的工作就会运行得慢得多。Nvidia的图形芯片擅长同时进行大量计算,这对于AI工作至关重要。

瑞银分析师估计,较早版本的ChatGPT需要大约10,000个图形芯片。马斯克估计更新版本需要Nvidia先进处理器的三到五倍。

一些投资者正在梳理他们的网络以获得备用计算能力,而另一些投资者则在协调处理器和服务器容量的批量订单,这些处理器和服务器容量可以在他们的AI初创公司之间共享。据AI投资者和初创公司称,初创公司正在缩小他们的AI模型以提高效率,他们购买自己的带有相关图形芯片的物理服务器,或者转而使用甲骨文等不太受欢迎的云提供商,直到短缺问题得到解决。

其他创始人只是乞求亚马逊和微软的销售人员获得更多权力。

周说,她与一位前Nvidia工程师共同创立的Lamini拥有所需的芯片。她和接受《华尔街日报》采访的许多其他创始人拒绝确切说明他们是如何获得这些资产的。

“业界对GPU的需求强劲,”OpenAI发言人表示,并补充说该公司致力于确保其客户拥有所需的容量。

甲骨文和马斯克没有回应置评请求。微软和亚马逊拒绝置评。

Nvidia近表示,它正在扩大供应以满足不断增长的需求,但许多AI创始人预计短缺至少会持续到明年。对Nvidia产品的需求推动该公司股价上涨约167%。芯片成本各不相同,但一些零售商以约33,000美元的价格出售Nvidia的AI芯片,尽管在需求旺盛的情况下它们可以在二级市场上获得更高的价格。

一些公司正在封锁云容量,因为担心他们以后无法访问它们。“人们现在只是继续为它们付费,即使他们不需要它们,”Arthur的执行官AdamWenchel说,该公司开发工具来保护公司免受数据泄露等AI风险的影响。

创始人和投资者表示,能够获得计算能力的公司仍需等待数周才能使用它。PerplexityAI的执行官AravindSrinivas说:“即使你已经预付了费用,也不意味着GPU会在第二天或一周内送到你这里来。”该公司构建了一个人工智能驱动的对话搜索工具。“你只需要等待。”

服务器制造商及其直接客户表示,他们需要等待六个月以上才能获得Nvidia的图形芯片。Supermicro的执行官表示,该公司的图形芯片系统订单处于历史水平,该公司正急于增加制造能力。

所有这些都为这些先进的芯片创造了二级市场,部分涉及大型加密公司,这些公司在繁荣时期购买芯片进行采矿,而现在在数字货币市场低迷的情况下不需要。

AI研究公司GenerallyIntelligent的执行官邱侃君自去年以来一直在为自己的服务器购买先进的图形芯片,以渡过当前的短缺。一位风险投资家近给她发消息,询问她是否有闲置产能可以出租给其他初创公司。秋还没有决定是否放弃她的芯片。

与此同时,OpenAI的奥特曼和其他员工一直在处理来自在其平台上构建人工智能服务的公司的投诉。

为医生开发人工智能助手的Nabla的执行官兼创始人亚历克斯勒布伦表示,OpenAI的软件可能需要长达两分钟的时间来响应查询。Nabla使用AI自动生成笔记、推荐信和临床建议,其客户希望这些笔记能够立即生成。

Lebrun说,作为一种解决方法,Nabla已经构建了一些更简单的模型来更快地生成材料的初稿,然后依靠版本的ChatGPT进行终调整。“的初创公司是那些学会如何解决所有这些限制的公司,”Lebrun说,并补充说他直接向Altman提出了这些问题。

Altman和其他OpenAI代表告诉创始人,该公司正在与其的投资者和数据中心提供商微软合作解决这个问题。

Copyright © 2002-2024 应用电子技术网 版权所有 
备案号: 滇ICP备2023006467号-62

免责声明: 1、本站部分内容系互联网收集或编辑转载,并不代表本网赞同其观点和对其真实性负责。 2、本页面内容里面包含的图片、视频、音频等文件均为外部引用,本站一律不提供存储。 3、如涉及作品内容、版权和其它问题,请在30日内与本网联系,我们将在第一时间删除或断开链接! 4、本站如遇以版权恶意诈骗,我们必奉陪到底,抵制恶意行为。 ※ 有关作品版权事宜请联系客服邮箱:478923*qq.com(*换成@)