12月13日，在AICon巨匠东说念主工智能开发与应用大会(AICon 北京 2024)上，英博数科CTO李少鹏精致对外发布了多款“英博云”智算产物与事业。据先容，英博云涵盖智算中心确立运维、GPU容器事业、先进算力践诺室和产业孵化器四大板块，专注于提供高效益、种种化的GPU智算产物及事业，助力企业加快AI技巧研发和业务发展。与此同期，英博数科还在会上初度冷漠“单元有用算力资本”这一改进评价体系，最初界说行业评价新设施，引颈智算发展改日范式。
(“英博云”智算产物与事业发布现场)
智算行业升级，“单元有用算力资本”界说行业评价新设施
跟着东说念主工智能技巧的已往应用，智算行业正从范围化膨胀迈向精益化运营，并呈现出三大关键发展趋势。一是巨匠通用大模子测验对算力的需求执续攀升，集群范围从千卡级跃升至万卡乃至十万卡级，成为鼓动大模子技巧跳跃的紧要基石。二是垂直行业的AI应用迅猛发展，各行业对算力的需求愈加漫衍且动态化。从科研、金融到文娱、零卖，各领域企业进击需要生动且弹性的算力维持，以知足种种化场景需求。三是在AI买卖化加快的布景下，推理场景对算力的需求快速增长，缓缓很是测验算力需求，成为市集发展的中枢驱能源。
然则，昂贵的算力资本已成为制约大模子技巧演进和应用郁勃的主要不容。时于当天，算力行业依然短少有用的资本效益评价体系，难以精确探求内容算力欺诈水平。对此，英博数科改进性地冷漠了“单元有用算力资本”这一评价体系及缠绵公式，界说行业评价设施。
与传统以装机算力、开采资本、机电资本和运维资本等固定支拨为中枢的评价体系不同，“单元有用算力资本”将评价要点从硬件参加转向内容效益——通过引入“卡可用率”“卡欺诈率”和“模子算力欺诈率(MFU)”三大关键策动，这一改进体系简略精确探求内容算力欺诈水平，有用躲避了算力资源闲置、开采故障频发以及全体欺诈率低下第行业痛点导致的评估罪行，普及算力成果和效益评价的准确性。
“单元有用算力资本”的冷漠，为智算行业的高效运营提供了紧要参考旅途，为鼓动算力行业向透明化、高效化和可执续化发展注入了广大能源。
英博云亮相，引颈高效益、种种化的智算产物新范式
为反馈智算行业发展趋势，英博云通过多款高效益、种种化的GPU智算产物及事业，涵盖智算中心确立运维、GPU容器事业、先进算力践诺室和产业孵化器四大板块，为企业加快AI技巧研发与业务改进提供全场地维持。
(英博云智算中心确立运维)
针对通用大模子的长入式、大范围测验的需求，英博云凭借丰富的智算中心请托训戒，简略提供一整套设施化、模块化的智算中心确立运维处分决策。其自研的高性能并行存储处分决策、专科的硬件测评与检测体系以及细粒度的集群监控和自动化故障收复体系，简略在提供高硬件领会性集群的同期，普及集群的可用性。依托熟谙的算力颐养平台，英博云还维持通过容器化样貌为长尾客户提供高效、弹性的算力事业，有用知足不同范围和需求的用户。
英博数科智算中心确立运维处分决策当今已在京能神色落地。英博数科在智算中心确立运维方面领有的独有上风，成为鼓动神色执续进展的中枢力量。供应链方面整搭伙源与广阔供应商合营保领会，集群运维组网方面从选型到确立请托齐有高设施模范与专科保险，鼓动神色进展，改日有望与更多智算中心神色落地助力产业发展。
(英博云GPU容器事业)
濒临垂类大模子漫衍、动态的测验需求，英博云为中小客户提供高效、弹性的GPU容器事业。通过Vcluster样貌，英博云提供GPU和CPU资源搀杂的弹性K8S集群事业，知足大模子并行测验的工程需求。与此同期，英博云维持SSH和Kubectl束缚操作，为用户带来生动方便的体验。秒级别的容器启停和计费粒度，企业级的并行存储事业，使其简略普及GPU资源使用成果、缩短使用资本，并能维持容器数据执久化和模子数据的高速分享。加之英博云提供内网预界说场景镜像仓库、常用模子库、常用数据集等数据源事业，简略有用提高数据准备和环境设立成果。截止当今，除了京能集团、百川智能、无问芯穹、潞晨科技等产业界着名企业，英博云更为广阔中小企业、巨擘学府、科研院所的垂直大模子需求提供弹性、生动的算力产物与事业，共筑AI产业链坚实合餬口态。
先进算力践诺室勤奋于成为业界顶尖的算力性能评测中心，围绕硬件评测、软件评测以及行业事业张开职责，为企业算力基础要领的升级与优化提供前瞻先进、切实可行的建议，助力普及算力成果和业务阐述。在硬件评测方面，对GPU、交换机、光模块、并行存储等进行严格测试，确保开采性能合适高设施；在软件评测方面，涵盖基座模子、测验框架、微调框架、推理框架等，为智能算力的优化提供全场地维持。通过提供行业设施制定和定制化事业，先进算力践诺室助力企业在智能算力领域赓续淘气改进。践诺室照旧开展工业界主流GPU芯片的测试。
此外，产业孵化器通过长入AI产业链高卑鄙，探索算力组合投资新情势，挖掘AI产业潜在主义，赋能企业结束技巧研发与业务膨胀的双向淘气。
英博云系列智算产物与事业的发布，不仅彰显了其在智能算力领域的技巧实力与产物上风，更为行业发展注入了强盛能源。通过改进评估体系与种种化处分决策，英博云正引颈行业迈向高效益、种种化和可执续发展的新阶段。改日，英博云将执续深耕智能算力领域，以技巧改进为中枢运转，与行业伙伴联袂探索AI技巧的无穷可能，为巨匠智算行业的可执续发展提供接续不停的动能。