华南吴彦祖IT之家 7 月 30 日消息,英伟达官网公告显示,亚马逊云正式推出了由英伟达 H100 Tensor Core GPU 驱动的新的 Amazon Elastic Compute Cloud(EC2)P5 实例。
据介绍,该服务允许用户通过浏览器轻松扩展生成式 AI、高性能计算(HPC)和其他应用。
NVIDIA H100 GPU 的一个重要特点是其对 Transformer 的优化,这是许多最新的先进 AI 应用所使用的关键技术,可确保 H100 在这些应用中提供更高的性能和效率。
IT之家查询发现,虽然 AWS 尚未就集成 AMD MI300 芯片到其云服务中作出任何公开承诺,但亚马逊弹性计算云副总裁 Dave Brown 证实 AWS 正在积极考虑这一方案。
英伟达表示,开发人员和研究人员几乎每天都在借助大型语言模型 (LLMs) 发掘 AI 的新应用,而将这些新用例推向市场需要加速计算的效率。
NVIDIA H100 GPU 通过架构创新提供超级计算级性能,包括第四代 Tensor Cores、用于加速 LLMs 的新 Transformer 引擎以及最新的 NVLink 技术,可以带极其可观的性能。
据介绍,EC2 P5 实例非常适合训练和运行复杂 LLMs 和计算机视觉模型的推理。这些神经网络驱动着最复杂和计算密集型的生成式人工智能应用程序,包括问答、代码生成、视频和图像生成、语音识别等。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。
来源:估值之家 中间件(Middleware)是一种应用于分布式系统的基础软件,定位于各类应用/服务与操作系统/数据库系统以及其他系统软件之间,主要解决分布式环境下数据传输、数据访问、应用调度...
原标题 钟南山:奥密克戎感染不再适合称为新冠肺炎,病毒不存在“北强南弱” 2022年12月15日,中国工程院院士钟南山在中山大学、北京大学、清华大学联合主办的全国高校抗疫大讲堂进行直播讲座,...
《财经》年会2023:预测与战略于2022年12月17日-18日在北京召开。中国社会科学院学部委员、国家金融与发展实验室理事长李扬发表演讲。 当前为什么要强调财政政策、货币政策协调配合?李扬...
来源:环球人物微信公号 | 作者 田亮 曾经,他只是一名中专老师。 12月16日,中国信息通信研究院官网发布了《中国宽带发展白皮书(2022年)》,其中写道:截至2022年9月底,中国光...
日本央行12月20日公布利率决议,将政策利率维持在-0.1%不变,符合市场预期。此外,日本央行将继续不设上限购买必要数量的日本国债,日本10年期国债收益率目标也维持在0%左右。不过,值得注意的是,...
老“债王”高声疾呼:美联储应该停止加息 来源:华尔街见闻 赵颖 格罗斯指出,2%的实际利率水平足以抑制经济增长、提高失业率,并且当下的“隐形”债务风险也不容忽视。 美国通胀高企,美联储...