欢迎来到芯果!

科技创业者的媒体合伙人
算力市场竞争进行时|近期集成电路要闻速递
主编:转载

 

【通讯转载自网络|本文末尾注明出处】

 

智算中心大批投建

专家提醒警惕“AI过热”[i]

 

作者/  IT时报记者 毛宇

 

2024年春节后,中国算力市场正经历深度转型与结构调整。

 

原本火爆的大模型赛道因高昂的投入及融资压力呈现降温趋势,不少初创公司由于难以承受大模型训练所需的巨额开销,纷纷转向更具潜力与针对性的垂直赛道,如政务模型、自动驾驶、医疗放射等细分领域。

 

“当前市场还是将AI炒得过热,不少中小厂商已在通用大模型的巨额投资成本门前倒下,我们需要警惕出现早些年前光伏产业产能过剩的情况,今年应该寻求一个新的突破点。”山海引擎COO彭璐向《IT时报》记者表示。

 

算力底座——GPU,仍是当下算力市场的关键词。

 

二手市场上,英伟达系列芯片算力价格近期出现明显下滑,较春节前下降约10%,显示出市场需求端的变化。进入4月以来,同花顺算力租赁概念指数连续下跌,截至4月23日发稿,跌幅超16%。

 

一名业内人士向《IT时报》记者表示,“这一波智算中心投建之后,市场竞争已基本充分,算力价格不会太离谱。”

 

01.小算力运营商玩不动了

 

尽管大型科技公司产品,如百度的文心一言、阿里的通义千问等在大模型领域仍保持较高投入,但市场普遍认为,随着算力成本飙升,只有极少数具备强大资金实力的企业能够支撑如此庞大的开支。此外,国内诸如MiniMax、月之暗面等公司的高额融资背后,折射出行业竞争加剧以及商业模式探索的压力。

 

公开资料显示,MiniMax、月之暗面背后均有阿里入股。前者创始人闫俊杰和周彧聪均来自商汤,又被誉为“商汤系”创业公司;后者则在今年2月完成B轮融资后成为目前国内大模型初创公司中估值最高的一家独角兽。

 

以英伟达为代表的算力芯片仍是市场焦点,然而,受限于美国芯片管制政策,英伟达面向中国市场推出的特供版H20芯片,在性价比和适用性方面未达市场预期,且采购需经过严格审查,在国内的出货量受到一定影响,市面上在售的英伟达芯片大多为二手芯片。

 

某电商平台上,《IT时报》记者搜索发现,不少服务商仍在售卖整机服务,某服务器厂商售卖搭载8卡H100、A100的服务器主机,标价在100万~300万元不等。记者咨询客服后得知,当前价格仍有优惠可谈,稍后记者拿到了更详细的报价,相较主页展示价格下调了20万~60万,并承诺可享受商家三年质保。

 

图片

 

某二手平台和社交软件上,亦有销售英伟达或华为昇腾的卖家不断上线“吆喝”,配文称“低价可谈”、“报价有效期为一周,以最新报价为准”。

 

“上面商家所说的质保是商家质保,并非英伟达官方质保,所以价格好谈。”上述业内人士说道。

 

“目前大厂仍在重押大模型,他们有资金、舍得投入。但据我了解,不少初创公司已经退出大模型赛道。很多算力运营商皆因高昂的硬件投入与维护成本面临生存挑战,无力采买大规模算力,也没办法帮客户进行大规模部署。”彭璐认为,预计在2024年年底,国内算力赛道还将有一批中小玩家退场。

 

02.算力价格企稳

 

当下,国内算力市场正由去年的卖方市场向买卖平衡转变,产业链上下游均在寻求适应新市场环境的发展模式,算力的售价也在企稳。

 

不久前,一家名为“超算互联网”的平台打出8*A800 80GB服务器,每卡每小时2元的促销价,相较市场8~10元的价格,打了“骨折”。

图片

 

“这个价格还是噱头为主,平台一共只拿出了10万元额度,最多也就9台8卡服务器用一个月。”一位业内人士告诉《IT时报》记者,这个价格并不具有普遍意义。

 

但与去年底市场“蹦着”涨价相比,进入阳春三月之后,算力价格的确下降了。而且由于大型互联网公司大多自建算力中心,而原先匆匆上线智算中心的IDC服务商也开始调整战略,从单纯提供裸金属或整机云服务器租赁服务,转向提供更多增值服务和PaSS服务。

 

“很多传统企业并不知道AI能为自己做什么?实际上,算力的真正需求还没有被激发。”清醒异构创始人余腾告诉《IT时报》记者,现在国内迫切需要的是,打通大模型落地的产业链,真正让传统企业主看到AI和算力的价值。

 

中国电子节能技术协会副理事长吕天文年初接受《IT时报》记者采访时表示,“两年后,国内算力市场会趋于稳定,淘汰和转型是部分公司的结局。但这不失为一件好事,千模大战和禁售政策鞭策了国产算力的进步,中小厂商也可尽快找准定位。”

 

03.自动驾驶及医疗领衔垂直赛道

 

中国大模型公司正探索深耕细分领域以求突破。国家数据局局长刘烈宏在3月举行的中国发展高层论坛2024年会上透露,中国10亿参数规模以上的大模型数量已超100个,行业大模型深度赋能电子信息、医疗、交通等领域,形成上百种应用模式,赋能千行百业。

 

“目前我们接到的自动驾驶需求较多,其次是医疗赛道,像科研机构、医学影像之类的技术科室都很适合使用智算。”彭璐透露。

 

当前新能源汽车中,以华为为首,小米、理想、吉利等车企均在布局加码大模型。医疗健康领域也表现出强劲发展力,此前,京东健康正式发布面向医疗健康行业的大模型“京医千询”,百度发布国内首个“产业级”医疗大模型“灵医大模型”,医联正式发布了自主研发的医疗大语言模型MedGPT等,均展现出超市场预期的发展前景。

 

04.数据标注成重要瓶颈

 

从追赶OpenAI转向精细化垂直应用,中国算力市场目前正进入关键阶段。

 

“垂直赛道上,中国大模型有一定竞争优势,因为美国受限于当地电力消耗、法律监管等问题,部分地区的规模化部署可能面临困境。”上述业内人士表示。

 

然而,随着国内大模型垂直赛道逐渐兴起,数据标注成为制约行业发展的重要瓶颈。传统人工智能中对于语音和图像识别的数据标注,依赖绝对精准的简单标注,并不要求标注人员掌握专业的领域知识,只需具备普通人类通识能力即可。但垂直大模型的训练效果,取决于精准的数据,并从人类反馈中强化学习(RLHF)。也就是说,需要通过利用人类对结果的反馈来指导智能系统“进化”。

 

图片

 

图源:东方IC

 

提供反馈的数据标注员需具备极强的专业素养,尤其是行业知识。特别是在专业性强、需要高度精准标注的领域,如建筑设计、航空仿真模拟等,相关数据处理成本高昂且人才稀缺,领域发展受到一定影响。

 

05.需加快形成全国一体化算力体系

 

2024年,生成式人工智能进入加速期。Open AI连续发布多模态大模型“炸场”,美国对算力芯片的出口管制出台新政。算力设备数量不足、自主研发能力不足以及高昂成本等问题,正制约着当前国内通用大模型的发展。

 

上述人士认为,相较GPT-4和即将面世的GPT-5,中国大模型仍有较大提升空间,中国企业仍在全球化竞争中面临严峻挑战。

 

智算中心正成为支撑人工智能产业快速发展及经济增长的新动能。《算力基础设施高质量发展行动计划》提出,到2025年,算力规模超过300EFlops,智能算力占比达到35%。

 

国家信息中心发布的《智能计算中心创新发展指南》预测,“十四五”期间,在智算中心实现80%应用水平的情况下,城市(地区)对智算中心的投资,可带动人工智能核心产业增长约2.9至3.4倍。

 

时不我待,这场“国力竞赛”期待更为强劲的引擎,同时也要谨防各地建设“一窝蜂”而导致的资源浪费。据不完全统计,全国已有超过30个城市投建或准备投建智算中心,“算力卖给谁”是这些智算中心的必答题。

 

今年两会期间,我国《政府工作报告》首次提出,适度超前建设数字基础设施,加快形成全国一体化算力体系,培育算力产业生态。

 

图片/ 超算互联网 东方IC

 

来源/《IT时报》公众号vittimes

 

智能物联网芯片

景气复苏[ii]

 

不少智能物联网芯片的业绩在2024年一季度实现了拐点。随着AI技术的提升和产业化,SoC芯片作为智能终端设备的“大脑”成为边缘计算的重要环节,实现智能交互并提升效率,推动终端设备进入智能物联网时代,智能物联网的迭代升级反过来促进上游芯片产业的周期性繁荣。

 

吴新竹/文

 

智能物联网(AIoT)是将人工智能与物联网相结合的技术,2023年下半年起,得益于高性能SoC、Wifi芯片、高清视频解码芯片的研发及商业化,AIoT相关芯片公司的业绩陆续走出谷底,2024年一季度,部分上市公司的业绩修复,个别公司营收已接近历史高峰水平,行业景气复苏。

 

以ChatGPT为代表的生成式AI系统给智能家居的交互方式带来升级,未来可以应用于智能音箱、可穿戴设备等为代表的智能家居产品,令产品反馈的丰富程度及准确性大幅提升,对用户意图的理解会更加“智能”,从而改善消费者的体验,为智能家居打开新的成长空间。AI SoC为边缘算力的承载体,有望跟随IoT设备的智能化浪潮实现快速成长,2027年中国AIoT SoC芯片市场规模将达到2794亿元。

 

-盈利修复

 

2022年消费电子行情低迷,受此影响相关芯片产品盈利式微,行业进入下行周期,芯片设计公司仍保持较高的研发投入,推动新一代芯片的研制。AIoT SoC芯片是应用于AIoT设备主控制器上的集成化芯片,是数据运算处理的中心,集成了中央处理器、图形处理器、神经网络处理器、视频编解码器、音频解码器、显示控制器、内存系统、网络接口、输入输出子系统等多功能模块,AIoT SoC芯片则集成多个AI模块,该类芯片不仅可满足消费电子的智能化升级需要,还能实现AI处理、音视频处理、智能语音等功能。

 

随着终端库存出清以及高性能芯片的商用上市,2023年下半年起,AIoT SoC走出谷底。2023年,乐鑫科技营业收入同比增加12.7%,扣非归母净利润同比增加63.6%,物联网芯片全球累计出货量突破了10亿颗,公司芯片产品已从Wi-Fi MCU这一细分领域扩展至AIoT SoC领域;恒玄科技营业收入同比增加46.6%,扣非归母净利润同比增加136%;全志科技(300458)智能终端应用处理器芯片收入同比增长12.4%。

 

AI大模型在边缘、终端的本地化、小型化部署趋势更加清晰,2024年一季度,瑞芯微(603893)在汽车电子、工业应用、机器视觉等领域同比大幅提升,营收增长约64%-67%,实现净利润6000万-7000万元,相比之下,该公司年各年一季度分别实现净利润1.1亿元、8415万元和-1838万元,2024年第一季度利润显著回升。2024年一季度,晶晨股份实现营业收入13.8亿元,同比增长33.1%,与历史收入高点2022年一季度的14.8亿元相比差距较小。

 

SoC具有集成度高、功耗低、发热小、兼容性强等特点,在视频编解码及视觉处理等方面实现多格式兼容,从终端产品来看,TWS耳机、智能手表、VR/AR等可穿戴设备的SoC市场长尾客户较多,琐碎又繁多的场景不适合芯片巨头的商业模式,芯片巨头通常适合庞大的单品类市场,如手机SoC、个人电脑CPU、GPU等。SoC更多追求的是低功耗带来的续航时间,给国产厂商创造出发展空间。研究机构预计,AIoT SoC芯片中国市场规模将持续扩大,2027年将达到2794亿元。

 

在视频领域,消费领域支持8K解码的智能盒子近年开始出现,超高清视频产业相关标准于2023年11月起实施,医疗健康、安防监控、工业可视化、智能交通等超高清新业务对8K高清显示的需求增长,8K标准、芯片等配套技术完善,8K技术持续突破技术短板,产业链进入加速成熟阶段,相关芯片的出货量提高。

 

Wi-Fi是支撑智慧城市和智慧家庭发展的重要技术,过去主要有2.4GHz和5GHz两个频段,而超高吞吐量和低延迟应用程序日益增多,智能家居、智慧城市、工业互联网等物联网市场的发展以及模拟现实、增强现实、高清、超高清等领域的推进要求Wi-Fi技术朝着更快速度、更低延迟、更高数据传输质量等方向不断演进。国泰君安指出,考虑到头部物联网设备商的市占率接近,且产品策略类似,市场化竞争充分,各厂商将以低于或接近成本价的价格销售硬件,国内厂商在产业链整合等环节具有成本优势,能够应对降本要求,将充分受益于AIoT的持续渗透。

 

-智能家居创新发展

 

扫地机器人、可穿戴设备、智能音箱、智能电视是常见的物联网设备。扫地机市场2023年快速复苏,国产品牌的自主导航产品实现量产,扫地机对避障功能的追求不断提高,国产品牌陆续推出了集成AI物体识别及避障功能的中高端产品。针对这一市场趋势,国产芯片厂商研制出面向中高端扫地机的新一代高性能八核+AI专用算力芯片及解决方案。

 

可穿戴设备厂商越来越多地引入生成式AI,例如,智能手表通过深度学习和自然语言处理技术,能够理解用户的语言和行为,从而提供更加个性化的建议和服务。割草机、仿生机器人以及送餐仓储等产品均需要更高级的AI智能算法,以具备识别、避障和智能导航等功能,需要芯片公司在激光、视觉、ITOF、双目等传感器技术上持续深度开发,推出解决方案。

 

智能音箱销量的爆发主要集中在2018年和2019年,但由于智能化升级缓慢,同质化现象严重,产品生态建立不完善,与其它家居设备的互联互通能力受到限制,其消费者体验曾一度不佳。

 

国泰君安证券指出,国内智能音箱销量于2020年达到峰值3785万台,并从2022年开始快速下滑,当年销量环比下降了28%。国内传统物联网市场面临增长瓶颈,头部厂商积极将大模型引入智能音箱,有望刺激新需求,预计从2024年开始国内智能音箱的年销量将保持在2000万台左右的稳态水平。

 

目前,百度、小米、天猫精灵等国内智能音箱巨头历经多年的布局,各自的产品生态圈建设已趋于完善。以GPT4为代表的大模型所具备的多模态能力将大幅提升终端应用的智能化体验,智能音箱的语音、视频交互能力有望得到充分升级。国产芯片已能够定制出场景化的智能助理例,如天猫精灵SOUND系列已接入大模型终端操作系统。

 

智能电视正处于AI技术深度重构的初期,需要提升SoC中的CPU算力、附加专属的AI内核和DSP、提供更加丰富的音视频扩展接口,以及降低功耗增加续航时间。环境智能将成为智能家居平台能力升级的重要方向之一,基于对空气、光照、用户动态等信息的集中收集和综合处理,智能家居平台将逐步构建对用户需求的感知乃至预判能力,从而推进人机交互无感化、场景服务个性化发展。

 

-边缘AI方兴未艾

 

RISC-V掀起了开源硬件和开放芯片设计的热潮,计算架构的开放激发开源硬件创新,而鸿蒙系统具有“跨终端、分布式”的特点,为不同设备的智能化、互联和协同提供了统一的语言,在不通过云端协助下,用户可以通过鸿蒙硬件连接形成集群算力,来解决对算力需求较高的端侧任务,对端侧硬件算力的要求大大解放。

 

如今的云计算+物联网时代,应用在云端和边缘计算服务器上的AI芯片是以GPU为代表的强通用性芯片,终端AI芯片更多是将AI功能模块结合CPU、GPU、ISP等模块融合进SoC中,并针对语音识别、人脸识别等不同的应用场景完成定制化设计,同时需要做好性能与功耗的平衡。海量的物联网终端设备是边缘AI的主要落地场景,而AI SoC为边缘算力的承载体,有望跟随IoT设备的智能化浪潮实现快速成长。

 

2022年全球边缘AI芯片的市场规模不足400亿美元,有望在2025年突破600亿美元,中国国内市场空间将从2022年的50亿美元增长至2025年的110亿美元,年化平均增长率达30%。2023年全球边缘AI芯片出货估计为13.1亿颗,包含语音处理类1.9亿颗、机器视觉类9亿颗、传感器数据分析类1.4亿颗,预计出货量到年将提升至22.9亿颗。

 

在万物互联、用户需求多样化的趋势下,大模型与生成式AI推动内容与服务加速重构,AIoT时代智能硬件技术更新快、产品迭代周期短,支撑AIoT芯片持续升级,功能日新月异。随着物联网设备数量的不断增加,以及人工智能技术的广泛应用,AIoT芯片市场的需求将持续增长。

 

车规芯片厂商泰硅微

完成数千万元战略融资[iii]

 

近日,上海泰矽微电子有限公司(以下简称为泰矽微)宣布完成新一轮数千万人民币战略融资,本轮战略投资方为博奥集团。

 

泰矽微成立于 2019 年 9 月,是一家模数混合车规芯片厂商,专注于各类高性能模数混合芯片研发,致力于打造平台型 MCU 芯片设计厂商。公司产品被应用于信号链、射频、电源管理等模拟技术与微处理器的融合,应用覆盖汽车、医疗、工业及消费等多个领域。尤其擅长于将高可靠性、低功耗的微处理器和高性能模拟,专用硬件加速电路及算法等融合来满足各个垂直行业市场需求的系列化 SoC 芯片,包括无线通信、传感器、计量、电池管理、电源等多个领域的低功耗模数混合芯片。

 

其中,车规触控芯片已发展成为国内此类产品的龙头企业,在包括大众,吉利,华为,广汽,丰田,通用等众多 OEM 厂商有批量上车实绩;泰矽微集成式氛围灯驱动芯片作为稀缺的高可靠性和高性价比产品,已成功导入国内几乎所有氛围灯头部零部件厂商,获得数十个车厂定点项目并陆续量产。

back top