大模型时代，离不开算力，算法、数据的喂养。如果将视角放至整个产业链上，算法背后，还有一个关键要素值得被关注，那就是AI基础软件。

算法是实现AI功能的关键，而基础软件则为算法提供运行的平台和工具。作为模型生态系统的中坚力量，AI基础软件将会成为大模型应用落地的最主要的效率支撑，并通过大模型+小模型的方式，形成模型训练新范式。

现今，AI大模型在国内热度高涨，遍地开花，这也同样倒推着基础软件的发展。在这背景下，AI基础软件市场如何，未来有何新的机会，这一点值得关注和讨论。

基础软件是人工智能的底座

中国信通院云大所副所长魏凯在公开演讲中曾谈到，基础软件是人工智能的底座，人工智能的基础软件的发展决定了人工智能发展的深度、高度、广度，可以说是非常重要。

对此，魏凯解释道，基础软件重要性具体表现有三点，一是人工智能的发展离不开高质量的基础软件，尤其是基础软件的工程化的易用性、完备性，AI具体的落地实践都需要在基础软件结合业务、数据实现；二是人工智能基础软件要在企业中发挥作用，要与场景结合，要很好的运维；三是需要有安全可信保障条件。

AI基础软件是构建和运行AI应用的必要组成部分，通常包括以下几个方面：

机器学习框架和库：这是构建和训练AI模型的基本工具。例如，TensorFlow、PyTorch和Scikit-learn都是广泛使用的机器学习框架和库。

模型训练和部署平台：这些平台提供了一系列工具和服务，支持从数据处理、模型训练到模型部署和服务的全流程。例如，Google的Cloud ML Engine和Amazon的SageMaker都是这样的平台。

数据处理和分析工具：在AI应用中，数据是至关重要的。数据处理和分析工具可以帮助用户高效地处理和分析数据，以满足AI模型的训练需求。例如，Pandas、NumPy和Spark都是常用的数据处理和分析工具。

优化和自动化工具：这些工具可以帮助用户优化模型的性能，或者自动化一些重复性的工作。例如，TensorBoard可以帮助用户可视化模型的训练过程，AutoML则可以自动化模型的选择和调优过程。

总的来说，AI基础软件提供了一系列必要的工具和服务，使用户能够更方便、高效地构建和运行AI应用。

目前，随着AI技术的不断普及和深入应用，中国AI基础软件市场正在迅速发展。Gartner预测，该市场未来五年营收将从47.67亿美元增长到138.58亿美元，年复合增长率（CAGR）将达到28%。

据悉，中国的AI软件市场中有3,000余家厂商，其中大部分属于AI多面手型厂商，可向客户独立提供自然语言处理（NLP）、计算机视觉（CV）和机器学习（ML）技术。

这些厂商提供端到端个性化增强服务、咨询服务和运营服务，解决客户的具体业务问题。

随着市场的持续扩张，中国AI软件公司的数量也会增长。目前，在市场上的玩家主要包含这两大类，一是包括百度、阿里巴巴、腾讯等大型互联网公司，二是包括旷视科技、九章云极DataCanvas等专业AI公司。

这些公司不仅提供了具有国际竞争力的机器学习框架和平台，还开发了针对中国市场特点的特色产品和服务。

拿九章云极DataCanvas来说，目前公司拥有以“开放、自动、云原生”为核心的数据科学产品体系，包括为数据科学家、应用程序开发人员和业务专家提供高效的构建智能应用程序的工具包——DataCanvas APS机器学习平台，提供可扩展、高可用和容错架构的大数据实时处理能力，灵活开发、部署和运行各类实时分析应用程序，助力企业完成了高效构建实时业务数据模型、打造实时AI场景的DataCanvas RT实时决策中心平台等一系列企业级AI应用所需的平台软件产品。

并且在全球人工智能开源领域，自主研发的多项全球首个开源项目，填补AI领域技术空白。此外，在AIGC的技术热潮下，九章云极D-lab开源团队正在开展交叉型研究，加速实现AI前沿技术的融合创新。

今年5月，九章云极DataCanvas公布了与中国信通院云大所就“高质量AI基础设施产业化”相关合作。

双方将在此前标准制定、评估评测、技术创新、产业研究等丰富合作的基础上，发挥各自在AI基础设施方向理论研究、技术创新和应用实践的资源优势，打通AI基础设施上下游生态链，共建开放、强大、灵活的AI基础设施生态。

   机遇和挑战并行：优质的产品和服务 是突围的关键

与此同时，市场竞争也日趋激烈，技术更新换代的速度也越来越快。

进入大模型时代，AI基础软件面临的挑战显而易见：如何支持更大规模的模型训练？如何优化模型的性能和效率？如何简化模型的部署和使用？对于这些问题，AI基础软件需要找到新的解决方案。

首先，为了支持更大规模的模型训练，AI基础软件需要提供更强大的计算能力。

这可能涉及到更高效的分布式计算技术、更优化的硬件加速技术等。这是一个技术挑战，也是一个机会。对于具备技术优势的公司而言，他们可以通过提供更强大、更高效的AI训练平台，来满足用户的需求，获得市场份额。

其次，随着模型规模的增大，模型的性能和效率优化也变得更加重要。

这需要AI基础软件提供更高级的优化工具和服务。

例如，模型压缩技术可以减小模型的大小，提高模型的运行速度；自动化调参工具可以自动寻找最优的模型参数，提高模型的准确性。

这些技术不仅可以帮助用户更好地使用大模型，也可以为AI基础软件公司提供新的商业机会。

再次，随着AI应用的日益复杂化，如何简化模型的部署和使用也变得尤为重要。

这需要AI基础软件提供更简洁易用的API，更强大的部署工具，更智能的服务平台等。这对于AI基础软件公司来说，是一个提升用户体验，提高用户黏性的机会。

“底层海量的多模态数据管理与上层更加精准的分析决策需求，将推动数智融合进入深水区，为打造AI基础软件带来新的机遇”， IDC中国人工智能和大数据高级分析师李浩然在杭州通用人工智能论坛的演讲中谈到。

对于客户更加关注的开发服务平台这一基础软件，科技企业应从全生命周期组件、低代码/无代码、自动机器学习、算法模型库、可视化、部署运维六个方面进行建设，并注重与云服务、大数据组件的融合。

对此，九章云极DataCanvas副总裁周晓凌表示，公司长期布局这些重要技术能力，并通过一整套成体系的AI基础软件产品应用在金融、通信、交通、制造、能源等行业中。

他继续谈到，AI技术从分散模型到融合智能，再迈向通用人工智能的发展路程上极大的推动了政府和企业数智化浪潮；各行业有各自发展特点和转型阶段化差异，在云化、自动化、多模态、分布式等技术领域迭代升级AI平台和AI应用能力方面存在可观需求，从运营到经营的AI应用发展空间依然巨大。

总的来说，大模型时代对AI基础软件提出了新的要求和挑战，也带来了新的机会。对于中国的AI基础软件公司而言，如何抓住这些机会，将在很大程度上决定他们在未来市场中的竞争地位。

一方面，他们需要持续投入研发，提升技术水平，满足用户对大模型的需求；另一方面，他们也需要不断创新，提供差异化的产品和服务，赢得市场份额。

在大模型时代，AI基础软件的机会何在？

答案就在于如何满足用户的需求，如何提供优质的产品和服务。只有那些能够紧跟时代步伐，积极创新，不断进取的公司，才能在这个充满挑战和机遇的时代中立足并繁荣发展。

关于未来

回顾AI的发展历程，我们可以看到，硬件一直是最大的投入领域，但随着技术的进步和市场的成熟，软件正在逐渐提升其在AI产业链中的地位。

据IDC预测，2023年以后，各大厂商将更加投入到底层基础软件的建设中，这也是现在已经初显端倪的趋势。

此外，IDC预测未来AI市场的增量将主要来源于三个方面：

首先，是基于大模型应用替换过去几年建设的AI应用。正如前文所述，大模型可以学习到更复杂的模式，从而在各种任务上取得更好的效果。

随着技术和市场的发展，我们预见到许多现有的AI应用将被基于大模型的新应用所替代，这将产生巨大的市场增量。

其次，是生成式AI带来的增量市场。生成式AI，如生成式对抗网络（GAN）和变分自编码器（VAE），可以生成新的、逼真的数据，有着广泛的应用前景，如艺术创作、游戏设计、虚拟现实等。随着技术的发展，我们预见到生成式AI将开辟新的市场领域，带来新的增量。

最后，是全新AI赋能的企业级应用。AI技术可以帮助企业提高效率，降低成本，创新业务模式。随着AI技术的深入应用，我们预见到将有更多的企业级应用出现，这将是一个有巨大爆发潜力的市场点。

总的来说，AI产业链的发展趋势是多元化和深化。在硬件投入的基础上，底层基础软件的建设将越来越重要。

同时，大模型应用、生成式AI和企业级应用将是未来市场的三大增量来源。这为AI产业链的上下游各环节都带来了新的机会，也提出了新的挑战。只有紧跟趋势，抓住机会，才能在这个快速发展的市场中保持领先。