高算力AI模组前沿应用:基于ARM架构的SoC阵列式服务器

news/2024/5/10 4:27:28

本期我们带来高算力AI模组前沿应用,基于ARM架构的SoC阵列式服务器相关内容。澎湃算力、创新架构、异构计算,有望成为未来信息化社会的智能算力底座。

▌性能优势+AI驱动,ARM架构服务器加速渗透

一直以来,基于ARM架构的各类处理器芯片,以其低功耗、高效能、高可靠性、成本优势等综合特性,广泛应用于手机、平板电脑、物联网终端设备等各类通信及电子产品领域,极大推动了人类社会的信息化和智能化进程。

Nipic_17961491_20161224132752988000.jpg

而在服务器领域,之前一直是基于X86架构的产品占据主导,近年来,随着下游对于异构算力、智能算力需求的不断增长,以及类似于云游戏等安卓原生态应用的大规模兴起,越来越多的厂商开始将ARM架构应用于服务器领域,并推出了一系列相关产品。

去年以来,在智能算力需求的不断增长,以及生成式AI对于异构算力的庞大需求,ARM架构服务器在云游戏、数字人等新兴应用市场展现出独特优势,而对于传统服务器领域的渗透,也有加速的迹象。

ARM架构服务器的特点:

一、低功耗:ARM架构具有低功耗优势,其采用的处理器芯片,与传统X86架构芯片相比功耗更低,且具有更高的能效比,在IDC架构中集成ARM服务器,可以降低电费支出、节约能源消耗。

二、高效能:ARM架构具有更好的多核线程驱动性能,能够实现更好的并行处理和任务处理能力。

三、成本低:ARM架构处理器芯片,较X86架构芯片的制造成本更低,ARM架构服务器价格具有极高性价比,且开发成本更低。

四、高可靠性:具有更好的故障容忍性,可以提供更高的可靠性和稳定性。

017cb75b17914ea801202e602932e1.webp.jpg

据了解,亚马逊、浪潮、腾讯、百度、阿里等头部企业,都推出了基于ARM架构的服务器产品,因其低功耗、高性价比、高效能等优势、在云计算、物联网、智能交通、医疗健康等领域有广泛应用。

据TrendForce集邦咨询研究显示,近年企业对于人工智能、高效能运算等数字转型需求加速,带动云端采用比例增加,全球主要云端服务业者为提升服务弹性,陆续导入ARM架构服务器,预期至2025年ARM架构在数据中心服务器渗透率将达22%

▌基于ARM架构的SoC阵列式服务器,智能算力领域的新兴力量

以ARM架构为基础,创新性的采用SoC芯片作为算力来源,以灵活的阵列式架构打造的SoC阵列式服务器,也逐步进入企业级IDC以及各类边缘计算场景。这是一种专门针对企业级数据中心和边缘场景面临的空间制约和节能要求而优化设计的高密服务器,以高能效比、高性价比、高密度为设计原则,在一个机架式机箱内集成多达40路、60路、80路等针对服务器场景专门定制的高算力模组或者算力板,可为各类行业客户构建适低成本、高密度、高并发、高性能的算力集群。

Nipic_7259105_20180208084441760966.jpg

服务器内布置的每个算力模组或者算力板都是一个可以独立运行的最小系统,包含CPU、GPU、NPU、存储、网络等。相关SoC阵列式服务器可根据客户需求、定制多种算力节点、其内部采用模块化及热插拔设计,可以实现不停机维护。在通信方面配置了10G/25G交换节点,支持SDN自动化网络部署,并且内置了多维智能管理节点,可以进行全方位远程运维工作,有效减低运维成本。

01d6ef61baad1411013e8cd0ad0ada.jpg

以云游戏场景为例,随着《原神》、《崩坏》等爆款游戏的全球风靡,除了游戏运行向移动端转移外,也极大带动了云游戏市场的迅速扩展。而传统的通用型服务器,在支撑云游戏运行上,存在兼容性差、成本高昂等问题,而ARM架构的阵列式服务器,基于对安卓生态天然的兼容性,避免了服务器端到应用端的软件架构转换以及转换过程中的性能损耗,近年来在云游戏场景,几乎占据主导地位,目前正逐步向数字人、工业视觉、边缘AI、云XR渲染等领域拓展。

▌美格高算力AI模组,为SoC阵列式服务器提供澎湃算力

美格智能作为行业内最早推出高算力AI模组产品的企业,也不断推动AI模组产品在服务器、机器人、AI零售、无人机、云游戏、数字人、云桌面、云教育、工业AI检测、云XR等各领域的深度应用,从而真正让产品的AI能力能够助力行业。

美格智能助力客户定制推出SoC阵列服务器产品,集成了CPU+GPU+NPU+TPU复合异构算力集群,可以构建大规模智能算力矩阵;每个算力节点采用刀片+阵列式设计,支持热插拔,轻松维护;整机80GB带宽,每个板卡满负载1GB带宽;内置BMC多功能综合监控可视化管理系统,可轻松远程管理。

13.jpg

▲内置美格智能高算力AI模组SNM970的阵列式服务器终端

该SoC阵列式服务器,采用美格智能为其专门定制的高算力AI模组SNM970,基于高通 QCS8550(8 Gen2)研发,支持16GB LPDDR5X + 256GB UFS 4.0内存,服务器中最高可配置80路高算力AI模组,单颗模组内部支持Android虚拟化,可虚拟出多路计算单元(如80路模组服务器,单颗模组根据下游算力需求,可以虚拟出多路虚拟机,比如虚拟出4路的情况下则可同时支撑320台诸如手机等终端同时运行云游戏),更好的进行算力配置,充分发挥了高算力、高性价比、高能效比的优势,为实时互动云计算、边缘AI云计算、云渲染等业务场景提供最佳算力底座。

01..jpg

随着各行各业对于算力需求的爆发式增长,以及新兴应用场景对于创新型服务器的迫切需求,美格智能也将加大力度推动高算力AI模组在服务器领域的深度应用。

目前,美格智能团队已经与行业领先的SoC阵列式服务器客户密切协作,陆续打造出了针对SoC阵列式服务器场景,基于高通骁龙865/SM8475/QCS8550三代SoC芯片的深度定制的算力模组,同时做到封装兼容,更好助力客户产品的算力提升和产品迭代,为相关产品后续在AIGC领域的应用推广,以及向传统服务器市场的渗透,提供更好助力。

中国电信终端产业协会于2023年4月26日发布了《基于ARM架构的SoC阵列服务器技术规范》,以团体标准的形式明确了ARM架构SoC阵列式服务器的通用技术要求,国内相关厂商也在为下一代服务器的产品标准在开始探讨,相关产品将逐步进入发展快车道。


http://www.mrgr.cn/p/35474215

相关文章

对比CahtGPT Bard Claude2对中文的理解

对比CahtGPT Bard Claude2对中文的理解 今天简单测试了一下目前这三个很火的模型对中文的理解能力 简单问题 鲁迅和周树人的关系 Bard CahtGPT Claude 介绍一下平凡的世界这本书 Bard CahtGPT

GitHub仓库如何使用

核心:GitHub仓库如何使用 目录 1.创建仓库: 2.克隆仓库到本地: 3.添加、提交和推送更改: 4.分支管理: 5.拉取请求(Pull Requests): 6.合并代码: 7.其他功能&…

网络安全行业相关证书

一:前言 对于考证这个话题,笔者的意见是:“有比没有好,有一定更好,但不一定必须;纸上证明终觉浅,安全还得实力行”。很多人对于各种机构的考证宣传搞得是云里雾里,不知道网络安全行业…

虚拟局域网VLAN

概述 广播域 使用一个或多个以太网交换机互连接起来的交互式以太网,其所有站点都属于同一个广播域,随着交换式以太网规模的扩大,广播域响应扩大,从而形成一个巨大的广播域。 但是巨大的广播域会带来很多的弊端: 广…

Ubuntu 放弃了战斗向微软投降

导读这几天看到 Ubuntu 放弃 Unity 和 Mir 开发,转向 Gnome 作为默认桌面环境的新闻,作为一个Linux十几年的老兵和Linux桌面的开发者,内心颇感良多。Ubuntu 做为全世界Linux界的桌面先驱者和创新者,突然宣布放弃自己多年开发的Uni…

REST API的基础:HTTP

在本文中,我们将深入探讨万维网数据通信的基础 - HTTP。 什么是超文本? HTTP(超文本传输协议)的命名源于“超文本”。 那么,什么是超文本? 想象一下由超链接组成的文本、图像和视频的混合物。这些链接充当我…

使用TensorFlow训练深度学习模型实战(下)

大家好,本文接TensorFlow训练深度学习模型的上半部分继续进行讲述,下面将介绍有关定义深度学习模型、训练模型和评估模型的内容。 定义深度学习模型 数据准备完成后,下一步是使用TensorFlow搭建神经网络模型,搭建模型有两个选项…

Android 中 app freezer 原理详解(一):S 版本

基于版本:Android S 0. 前言 在之前的两篇博文《Android 中app内存回收优化(一)》和 《Android 中app内存回收优化(二)》中详细剖析了 Android 中 app 内存优化的流程。这个机制的管理通过 CachedAppOptimizer 类管理,为什么叫这个名字,而不…

k8s一站式使用笔记

前言 个人感觉比较磨心态,要坐住,因为细节太多,建议:一遍看个大概,二遍回来细品,不要当成任务,把握零碎时间 一、k8s安装 1、配置准备 硬件要求 内存:2GB或更多RAMCPU: 2核CPU或更…

【RabbitMQ】Linux系统服务器安装RabbitMQ

一、下载 首先应该下载erlang,rabbitmq运行需要有erland环境。 官网地址:https://www.erlang.org/downloads 下载rabbitmq 官网环境:https://www.rabbitmq.com/download.html 注意:el7对应centos7,el8对应centos8…

centos下安装ftp-读取目录列表失败-

1.下载安装ftp服务器端和客户端 #1.安装yum -y install vsftpdyum -y install ftp #2.修改配置文件vim /etc/vsftpd.conflocal_enablesYESwrite_enableYESanonymous_enableYESanon_mkdir_write_enableYES //允许匿名用户在FTP上创建目录anon_upload_enableYES //允许匿名用户…

数值线性代数: 共轭梯度法

本文总结线性方程组求解的相关算法,特别是共轭梯度法的原理及流程。 零、预修 0.1 LU分解 设,若对于,均有,则存在下三角矩阵和上三角矩阵,使得。 设,若对于,均有,则存在唯一的下三…

kotlin 编写一个简单的天气预报app(四)

编写界面来显示返回的数据 用户友好性&#xff1a;通过界面设计和用户体验优化&#xff0c;可以使天气信息更易读、易理解和易操作。有效的界面设计可以提高用户满意度并提供更好的交互体验。 增加城市名字的TextView <TextViewandroid:id"id/textViewCityName"…

matlab使用教程(5)—矩阵定义和基本运算

本博客介绍如何在 MATLAB 中创建矩阵和执行基本矩阵计算。 MATLAB 环境使用矩阵来表示包含以二维网格排列的实数或复数的变量。更广泛而言&#xff0c;数组为向量、矩阵或更高维度的数值网格。MATLAB 中的所有数组都是矩形&#xff0c;在这种意义上沿任何维度的分量向量的长度…

【英杰送书第三期】Spring 解决依赖版本不一致报错 | 文末送书

Yan-英杰的主 悟已往之不谏 知来者之可追 C程序员&#xff0c;2024届电子信息研究生 目录 问题描述 报错信息如下 报错描述 解决方法 总结 【粉丝福利】 【文末送书】 目录&#xff1a; 本书特色&#xff1a; 问题描述 报错信息如下 Description:An attempt…

三、前端高德地图、测量两个点之前的距离

点击测距工具可以开启测量&#xff0c;再次点击关闭测量&#xff0c;清除地图上的点、连线、文字 再次点击测量工具的时候清除。 首先 上面的功能条河下面的地图我搞成了两个组件&#xff0c;他们作为兄弟组件存在&#xff0c;所以简单用js写了个事件监听触发的对象&#xff…

视频怎么加水印?这几种加水印方法非常简单

给视频加水印是一种保护知识产权的方法。水印是一种数字标记&#xff0c;可以包括作者的名称、品牌标识或其他信息&#xff0c;以便识别和追踪视频的来源。通过给视频加水印&#xff0c;能够有效地防止视频被盗用或未经授权的使用&#xff0c;让我们的知识产权得到更好的保护。…

fpga开发——蜂鸣器

蜂鸣器的原理 有源蜂鸣器和无源蜂鸣器 无源蜂鸣器利用电磁感应现象&#xff0c;为音圈接入交变电流后形成的电磁铁与永磁铁相吸或相斥而推动振膜发声&#xff0c;接入直流电只能持续推动振膜而无法产生声音&#xff0c;只能在接通或断开时产生声音。无源蜂鸣器的工作原理与扬声…

Ueditor 百度强大富文本Springboot 项目集成使用(包含上传文件和上传图片的功能使用)简单易懂,举一反三

Ueditor 百度强大富文本Springboot 项目集成使用 首先如果大家的富文本中不考虑图片或者附件的情况下&#xff0c;只考虑纯文本且排版的情况下我们可以直接让前端的vue来继承UEditor就可以啦。但是要让前端将那几个上传图片和附件的哪些功能给阉割掉&#xff01; 然后就是说如…

Cisco 路由器配置管理

大多数网络中断的最常见原因是错误的配置更改。对网络设备配置的每一次更改都伴随着造成网络中断、安全问题甚至性能下降的风险。计划外更改使网络容易受到意外中断的影响。 Network Configuration Manager 网络更改和配置管理 &#xff08;NCCM&#xff09;解决方案&#xff…