亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。 据了解,实例山东某某事务所有限公司亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马山东某某事务所有限公司用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用 据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。 Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。 此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)延伸阅读
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
-
- 金正恩参观武器装备展览会 登上“崔贤”号驱逐舰
- 以色列正考虑对加沙地带实施全面军事占领
- 外交部回应又一中国学者被无理拘押
- 北京解除暴雨黄色预警信号
- 联黎部队谴责以军漠视维和人员安全
- 北京:市民非必要不外出!非必要不要求到岗上班!
- 多所高校官宣:延长研究生学制
- 刚刚发布:天津蓟州防洪一级应急响应降级
- 以军方称空军、海军和地面部队都在加沙地带开展行动
- 第二批42辆M1A2T坦克深夜运抵台湾
- 126辆人道主义援助物资卡车进入加沙地带
- 泰国军方:泰柬边境所有地区已经停火
- 南京钟英中学等多校最新发布
- 泰国军方:泰柬边境冲突持续至第5天 柬方彻夜开火
- 英伟达汽车业务遇冷:一场多方角力的变局
- 吉林省发布山洪灾害气象风险橙色预警
- 联合国秘书长呼吁抓住机遇 结束加沙冲突
- 泰媒:泰空军出动战机摧毁柬方两处军事目标
- 河北滦平发生山体滑坡 4人遇难8人失联
- 重庆5列火车同框图火了!拍摄者承认系后期合成
- 搜索
-