面对蓬勃发展的AI,在MemoryS 2025上,群联电子执行长潘健成表示,面对AI服务器成本太高、数据上云端不安全等挑战,在地端的AI微调训练对于解决问题而言是必须的。若一味增加GPU和内存数量,无疑将导致本地AI训练的成本奇高,无法获得普及效应。
wKgZO2fiDHGASBv9AAJO4VKl5Gc569.jpg
图:群联电子执行长潘健成
群联电子推出了独家发明且也是全球第一家将NAND应用于AI服务器中的满血版AI训推一体机平价方案aiDAPTIV+。通过aiDAPTIV+,企业可以在本地边缘环境中执行AI模型后微调训练,确保数据安全的同时显著降低AI训练成本。
群联电子aiDAPTIV+ 技术通过动态缓存,结合基于NAND 闪存“aiDAPTIVCache”缓存技术,扩展 HBM 和 GDDR 内存,显著提升性能。据悉,在 GTC 2025 大会上,群联携手 Maingear 公司推出了搭载 aiDAPTIV+ 技术的全球首款支援 LLMOps (Large Language Model Operations; 大型语言模型运作) 的消费级笔电,用户将可使用自身企业或个人资料来微调(Post-training/Fine-tuning) 最多 80亿 (8B) 参数的大型语言模型 (LLM),让预训练 (Pre-trained) 的AI模型能依据边缘应用场景与使用者需求进行客制化 (Post-training),以达到真正的AI落地普及化;此外,通过 aiDAPTIVLink 3.0 新版中间件 (Middleware),负责 SSD 的 NAND 和 GPU 之间的数据传输,提供更快的首个 Token 时间(TTFT)回调响应,并支持更大的 LLM(大型语言模型)提示上下文。
“我们的地端AI模型微调方案aiDAPTIV+,与NVIDIA创办人黄仁勋于CES演讲中提及的地端推论 (Inference) 机器设备策略相呼应,将为AI应用的地端模型微调训练以及推论带来更广泛的应用场景及SSD有很大帮助。”潘健成说道,本地AI微调训练将进一步增加英伟达GPU的销量,也将为闪存产业链打开新的市场空间,尤其是企业级SSD需求将从云端下沉到边缘端市场。
群联电子2024年业绩表现亮眼,总营收金额达新台币589.36亿元,较2023年增长达22%,创下历史第三高纪录。潘健成表示,2024年虽然面临全球消费市场疲软的挑战,但群联凭借坚强的技术实力与多样的产品布局,依旧在业界交出亮眼成绩。我们的存储解决方案在各大应用领域持续受到市场肯定,展现出群联的灵活应对能力与市场竞争力。
潘健成在演讲中指出,2024年群联电子研发支出近30亿元人民币,巨额研发支出带来了巨大压力,同样的,盈利难也导致NAND原厂资本支出开始放缓。
在他看来,若谈NAND产业未来路在何方,如何协助NAND原厂创造价值是重要课题之一。渠道市场存储产品需求快速下滑,“要能够生存就要长进”,系统整合厂要做NAND存储差异化、要创造价值。如在PC应用上,群联开发了PQC防伪方案,安装于PC的存储,可辨识AI合成图片、视频、文件,强化PC资料防护,价值是原来SSD的3倍。
他进一步认为,电子产业经历三大周期,从90年代的PC、到2000年左右的智能手机,再到现在的AI走入端侧,回看过去每一次的产业大爆发都带动半导体产业链10多年的成长动能。而这一次AI的到来也将产生新的长周期的半导体繁荣。毋庸置疑,端侧AI将带给存储巨大的机会。
文章来自:电子发烧友