12月13日,北京——在AICon全球人工智能开发与应用大会(AICon 北京 2024)上,英博数科发布了全新英博云系列智能算力产品与服务,涵盖智算中心建设运维、GPU容器服务、先进算力实验室和产业孵化器四大板块。与此同时,英博数科首提“单位有效算力成本”这一创新指标,旨在优化算力资源配置,提升成本效益,为AI算力行业树立全新标杆,助力企业加速智能化升级。
ss
生成式AI驱动算力需求,英博数科首提新标准
随着生成式AI的广泛应用,大模型成为全球人工智能浪潮的核心技术。其快速发展对算力资源提出了前所未有的高需求。与此同时,智算行业正从规模化扩展迈向精益化运营,呈现出三大趋势:
通用大模型训练规模升级:算力集群从千卡级跃升至万卡乃至十万卡级,成为推动技术迭代的基石;
垂直行业需求多样化:金融、科研、零售等行业对弹性算力的需求更加分散且动态;
推理场景算力需求激增:推理负载逐渐超过训练负载,成为市场发展的核心动力。
然而,高昂的算力成本已成为大模型应用的主要障碍。对此,英博数科提出**“单位有效算力成本”这一创新评价标准,为企业提供了衡量算力效率的新方法。该标准通过卡可用率、卡利用率和模型算力利用率**等关键指标,精准衡量实际算力使用水平,帮助企业避免算力资源浪费,优化成本效益。
英博数科CTO李少鹏表示:“单位有效算力成本将评价重点从硬件投入转向实际效益,为智算行业的高效运营提供了科学依据。”
英博云智算矩阵:四大核心板块助力AI产业发展
1. 智算中心建设运维
英博云为通用大模型提供模块化、标准化的智算中心建设与运维解决方案。其自研的高性能并行存储、细粒度集群监控、自动化故障恢复等技术确保了大规模训练的稳定高效。英博云还通过成熟的算力调度平台,为长尾客户提供弹性算力服务,目前已在京能智算中心项目成功落地。
2. GPU容器服务
英博云针对垂直大模型的分散性、动态性需求,推出GPU容器服务,支持VCluster形式的GPU和CPU混合资源调度。通过秒级容器启停、按小时/分钟计费,有效提升算力利用效率,降低企业成本。目前,该服务已为清华大学、中国人民大学等高校科研机构及众多中小企业提供算力支持。
3. 先进算力实验室
英博云的先进算力实验室专注于硬件和软件评测优化,涵盖GPU、交换机、模型框架等领域。实验室通过深度评测和定制化服务,帮助企业实现算力基础设施的持续升级,推动AI模型训练和推理效率的提升。
4. 产业孵化器
为推动AI产业生态发展,英博云通过产业孵化器提供算力、资金、技术支持,全方位赋能AI创业企业。通过联合上下游资源,英博云助力企业实现技术研发和业务扩展,构建开放合作的AI产业生态。
英博数科:推动智算行业迈向高效可持续发展
作为智算领域的创新者,英博数科通过**“单位有效算力成本”指标和英博云多样化产品矩阵,为AI企业提供了优化成本、提升效率的解决方案。通过推动智算行业向高效益、多样化、精益化**发展,英博数科正在为AI技术的研发和商业化应用注入强大动力。
未来,英博数科将继续以技术创新为核心,携手行业伙伴,共同探索生成式AI时代的无限可能,为全球智能算力行业的可持续发展贡献力量。