400-025-7877

人工智能服务器如何支持训练和推理?

点击量:181229 发布时间:2022-03-29

算力是AI产业发展的关键因素之一,随着深度学习、训练推理等算法的普及应用,AI产业发展对算力也提出了更高的要求。而人工智能服务器作为算力的底座,成为了备受关注的硬件设备,那么大家知道人工智能服务器究竟是如何实现AI训练和推理的吗?

首先训练就类似于人类在学校中学习,AI神经网络和大多数人一样——为了完成一项工作,需要接受教育。训练一个神经网络时,训练数据被输入该网络的第一层,同时一个神经元会基于所执行的任务为该输入分配一个权重——即该输入正确与否的程度。

但这个过程需要消耗巨大的算力。因为当算法告诉AI它错了,它依然不知道什么才是正确的答案。这个错误会通过网络的层反向传播回来,该网络则须做出新的猜测。在每一次尝试中,它都必须考虑其它属性,并为每一层所检查的属性调整权重高低。然后AI再次做出猜测,直到其得到正确的权重配置,从而最终可以在所有的尝试中都能几乎得到正确的答案。这便是人工智能服务器存在的意义——提供密集的计算能力。

人工智能服务器,塔式服务器

而当使用这些训练时,就是在需求一种可以保持学习并能将其学习成果应用于其从未见过的数据的快速应用,即推理的过程,推理可被用于将深度学习应用到语音识别和分类照片等各种各样的任务上。人工智能服务器上搭载的GPU具备并行计算(同时进行多个计算)能力,既擅长训练,也擅长推理。使用 GPU 训练的系统可以让计算机在某些案例中实现超过人类水平的模式识别和对象检测。

例如利用AI进行心脏病预测,通过神经网络的深度学习,以34000多个心脏超声波视频作为数据样本支撑,通过对海量特征数据的识别和分析,获取了心脏壁厚度和心室大小相关的特定特征,从而建立起有效的AI算法模型,在读取新的图像数据时通过特征的分析比对,分辨出潜在的心脏疾病患者。微妙精细的线索,能比经验丰富的临床专家更精准地识别出高风险患者,将其与看起来非常相似的良性心脏区分开,在患者身体状况发展到可能影响健康的程度之前,及时发出预警信号,从而有效防止心脏衰竭、猝死等恶劣情况的出现。

随着各行业发展对于具有海量数据并行计算能力、加速计算处理的AI芯片需求不断攀升,芯片制造商、服务器生产商、各大算法公司积极研究AI芯片的结构和工作原理,使得人工智能服务器等设施能够满足越来越高的训练推理需求,助力AI产业进入新的时代。

返回顶部