400-025-7877

浅谈AI训练推理服务器

点击量:49 发布时间:2022-05-23

当今社会正在迈向智能时代,AI芯片、AI监控摄像头、智能传感器等“黑科技”产品,正不断深入我们的生活、工作场景,让人们运用新视角了解周围的环境。而人工智能技术的实现,都是以AI服务器的训练和推理能力为基础不断拓展的。

IDC将人工智能定义为具备学习、推理和自我纠正能力的系统。系统以AI服务器等硬件为载体,通过自然语言、语音、图像、视频等方式与人类交互,从交互信息中抽取知识建立知识库,并采用机器学习方式建立预测模型,基于模型进行推理给出结果。

据推测,用于推理工作负载的服务器市场份额将在不久的将来超过训练,并在预测期内保持这一趋势。现在的人工智能领域已经出现了多种类型的加速芯片,主要包括图形处理器(GPU)、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、神经拟态芯片等,未来,人工智能芯片市场会继续向灵活性和多样化的方向发展。

在人工智能三要素中,算力成为驱动AI产业化和产业AI化发展的关键要素。人工智能应用对算力最大的挑战依然来自于核心数据中心的模型训练,近年来,算法模型的复杂度呈现指数级增长趋势,正在不断逼近算力的上限。随着训练样本量的指数级增长以及训练模型的复杂度不断提升,AI计算正面临的三大困扰。首先,不同应用所需的硬件不同,带来采购和运维成本提升;其次,多机集群的延迟更高;第三,资源扩展不灵活、成本高。因此,设计出架构开放,能够满足高效、灵活、可扩展需求的服务器产品势在必行。

对于企业来说,采购AI服务器的主要会考虑这几个方面:用于人工智能训练的数据支撑、人工智能加速计算能力、配套的政策吸引、规模效应下的价格和成本因素,以及丰富的应用场景配置。另一方面,日益增长的业务实时性需求使边缘和端侧的计算能力变得越来越重要,IDC预测,到2023年,接近20%的用于处理人工智能工作负载的服务器将部署在边缘。 因此人工智能算力向边缘渗透已是必然趋势,无论是更接近于端侧数据产生的轻边缘还是更接近核心数据中心的重边缘,都将迎来很大的发展契机。

如此这些,都对服务器厂商们提出了新的要求,坤前计算机作为老牌服务器厂商,在AI服务器领域积累了丰厚经验,并积极布局AI+边缘计算系列产品,充分满足市场需求,努力为人工智能产业的算力基础添砖加瓦。

返回顶部