科技之家

科技之家,汇聚专业声音 解析IT潮流

首页 > 滚动 >

跨越算力鸿沟丨星凡科技2024AI算力集群产品发布会圆满成功

来源: 时间:2024-04-04 22:41:44

1712132516544050.jpg

  2024年3月29日,星凡科技2024“跨越算力鸿沟”AI算力集群产品发布会在成都顺利召开。

  本次产品发布会,星凡科技重磅发布自研算力集群产品“超新星分布式微算力中心”,用更低成本、更高算力密度的集群产品解决当下算力中心建设成本高、建设周期长、运营难等问题的同时,帮助行业大模型开发者低成本、高效率进行模型训练及部署,推动中国人工智能产业的发展。

  在人工智能浪潮汹涌澎湃的时代洪流中,算力已然成为了数字经济时代千行百业实现智算蝶变的基础能源,它如同心脏一般,为AI的每一次思考和决策提供着源源不断的能量。

  星凡科技作为一家业内领先的AI Infra 供应商,以其前瞻性的战略眼光和强大的研发实力,再次傲立于行业风潮之巅。此次发布会以全面进化的智慧算力点燃数智发展的创新引擎,不仅展示了星凡科技大模型算力的最新进展和大模型算力实际应用落地、生态构建的成果,更体现了其对未来发展的深度思考和战略布局。

  产品亮相,共享思维碰撞时刻

  当前人工智能技术正加快融入千行百业,超大规模人工智能模型和海量数据对算力的需求也持续攀升。在这独特的时代背景下,星凡科技算力集群产品应运而生。其中,超新星分布式微算力中心是其中的核心产品。星凡科技CEO应鹏飞在发布会中提到“在当前数智化浪潮中,算力中心已不再是,也不能是单纯的计算资源提供者,他们需要向客户提供大模型训练推理等增值服务,以减少客户在模型开发过程中的成本负担,助力客户进行人工智能转型,从而实现双赢。”

  超新星分布式微算力中心——AICC建设运营高性价比选择

  本次发布会星凡科技展示的“超新星分布式微算力中心”产品占地面积仅为传统算力中心的2‰,算力密度却可达到传统算力中心的118倍。同时可实现快速交付、灵活部署、简易扩展。将行业领先的低电压signoff技术、定制库技术、动态电压调整技术,应用到低功率AI芯片中,使TOPS/W 指标比国际先进芯片NVA100高20%,低功耗助力算力中心低成本运营。原生硬件能力支持18个行业大模型同时训练,近万个行业大模型推理并发,同时通过星凡自研软件进一步优化性能。

1712132532568664.jpg

  1+3产品架构支撑算力全场景运营

  产品内置开普云和星凡科技联合开发的“神机AIOS、X-Boost、星瀚LMOps”三重使能平台,帮助大模型开发者解决国产芯片性能低、适配难,开发成本高、难度大等一揽子问题。

  1. 神机AIOS致力于打造国内首个算力中心运营全场景AGI,通过Agent自然语言交互智能帮助开发者极简极低打造行业大模型,减少模型训练90%的工作量,缩短训练时间75%。行业用户仅需提供应用场景和数据即可完成大模型全栈开发工作。

  2. X-Boost内置大模型加速工具包、异构算力工具包、模型适配工具等,输出数据吞吐量提升60%,并发访问提升23%,充分利用异构算力、释放极致性能。

  3. 星瀚LMOps内的算力服务百宝箱为算力中心提供大模型训练、异构算力调度工具、SaaS+MaaS服务管理工具等一站式运营工具。

1712132548611490.jpg

  合作共赢,开启智算新纪元

  通过产品及技术创新,星凡科技也成功获得多方投资机构的认可,于近日完成PreA轮融资,本轮融资额近亿元,投资方包括盛景嘉成创投、开普云股份(股票代码:688288)以及高捷资本等。

  在未来的战略规划中,星凡科技已经开始向AI芯片产品布局,我们将依托现有技术积累,联合国内优秀AI芯片厂商联合研发大模型推理专用芯片,联合知名高校针对大模型推理需求开展异构芯片研发创新探索,具备超低功耗、超低延迟优势,大幅降低推理成本,同时可灵活适配不同结构大模型计算需求,满足不同行业个性化大模型应用需求。基于该款芯片打造高性能片上智能推理系统,整合CPU-AI芯片异构算力资源及片上存储资源,实现国外先进芯片能力。

  随着国际形势的变化,ChatGPT、Sora模型的问世,我们已进入大模型时代,数据的爆发式增长和算法性能的不断提升。星凡科技以前瞻性的战略眼光和强大的研发实力,再次站上行业风口前沿,期待携手更多上下游伙伴,共同开启智能算力新纪元。

1712132563251898.jpg

  星凡2024,解锁算力性价比的进阶篇章

  2024星凡科技算力集群产品发布会的圆满成功,标志着星凡科技在技术创新、应用落地和生态构建方面又向前迈出了坚实的一步。星凡科技将致力于打造更大算力、更智能化、更高性价比的先进算力产品,为更多政府客户和行业客户提供算力整体解决方案,帮助各行各业加速拥抱人工智能技术,实现AI转型。

1712132578487412.jpg

相关文章