宝德AI服务器助力某互联网企业抢跑AI大模型新赛道

一知半解 2023-07-11 16:40:21  49366

分类专栏：资讯

当下，以ChatGPT为代表的人工智能大模型技术发展迅猛，正以雷霆之势席卷各个行业。国内越来越多的企业纷纷布局AI大模型的全新赛道，引发了新一轮人工智能新技术热潮，驱动算力需求的爆炸式增长。

国内某互联网企业，始终以用户为中心，不断加大在新技术上的研发投入，持续推动服务零售和商品零售在需求侧和供给侧的数字化升级，致力于为用户提供品质服务。

为了促进自身业务发展和提升用户体验，该企业也向大模型领域发起进军，希望通过大模型数据训练和算法，实现产品应用的转型和升级，以提高品牌满意度。然而，要实现这一目标，强大的算力是必不可少的。

（图片来源于包图网）

算力是人工智能产业创新的基础，没有算力，做大模型就是天方夜谭。大模型需要处理海量的数据，并且需要在短时间内完成复杂的计算任务，这就要求更高水平的计算能力。因此，该客户迫切需要一款能满足大模型训练高性能计算需求的AI算力基础设施，为海量数据的大规模训练提供强大算力支撑。

在了解到客户的需求之后，宝德量身推荐了一款拥有高强的计算能力的宝德AI训练服务器PR4910E。其配备了最先进的硬件设施，包括高效的CPU、GPU和TPU等，可以提供强大的计算能力来支持复杂的AI模型训练，为该企业夯实了AI大模型算力底座。

它采用2颗身怀七大算力神器的第四代英特尔®至强®可扩展处理器，最大可达60核心，并具有13 个PCIe x16 Gen5插槽，支持10个全高全长双宽 GPU卡（NVIDIA® Tesla系列、英特尔®GPU Flex系列和昇腾Atlas系列等），可为大模型训练强有力的算力支撑；它支持32个 DIMM / DDR5内存插槽，支持最新400Gb ETH和NDR IB高速智能网卡，以及 GPU Direct RDMA，最多支持24个 NVMe SSD，且采用CPU 直通设计，大幅降低 I/O 延迟，这些都为大模型数据存储和传输提供高效可靠保证。

此外，它采用整机模块化设计，支持灵活切换 CPU 和 GPU/TPU 的异构拓扑结构，让算力发挥到极致，为各个场景下的AI应用加速提码，方便用户维护和管理。

“截至目前，宝德AI服务器一直稳定运行，为我们的AI大模型开发训练夯实了算力底座。得益于宝德AI服务器的强大算力支持，我们取得了阶段性的进展，同时AI技术得到不断精进，为大模型沉淀了数据资产和场景资产。这些资产都是根植于平台系统之内的，更符合我们大模型未来的应用场景。”客户称赞道。

网站声明：如果转载，请联系本站管理员。否则一切后果自行承担。

本文链接：https://www.xckfsq.com/news/show.html?id=26064

赞同 0

评论 0 条

宝德AI服务器助力某互联网企业抢跑AI大模型新赛道

相关文章

关注我们