金年会网页版在线登录·智算中心紧跟这拨大行情!
发布时间:2024-05-19 06:55:38 来源:金年会官方在线登录 作者:金年会手机网页版登录

新闻中心

  ,「新质生产力」首次写入政府工作报告,「人工智能+」行动全面开启…,还有国资委召开的“AI赋能产业焕新”专题会,提出:加快建设一批智能算力中心!

  再看需求层面,AIGC和大模型的风起云涌,传统数据中心、算力中心明显对大模型的“胃口”估计不足,引发了智能算力的大缺口。

  必须要有算力更强、能效比更高、更匹配大模型训练和推理特点的新型智算中心,才能Hold住这波需求。

  9.4亿,陕西安康智算中心;5 亿,粤港澳大湾区智能中心;5.1亿,南京智算中;2.9亿,青岛智算中心;2.3亿,杭州图灵智算中心;1.88亿,江西新余智算中心…

  这个方案经历了大规模实战验证,颇具性价比。其中有几个核心技术点,我摘录提炼了一下,供大家参考↓

  目前,新建的深圳前海深港人工智能算力中心,也是珠三角目前投资规模最大、算力最高的智能计算中心,在一期中就采用了“阿尔法”智能算力模块。

  第1点:离在线混部技术,智算中心用户能少买一大批服务器。允许在同一集群上同时部署延迟不敏感的离线计算任务和延迟敏感的在线服务。

  这种功能对智算中心相当重要,可以极大提升GPU的平均利用率(最高超过90%),降低大模型推理和其他GPU密集型任务的成本。

  对于智算中心处理大规模数据集、实时数据分析和大模型训练等任务至关重要。此外,还能满足大模型存储需求。

  将检索延时降低至毫秒级,可用性高达99.99%,在大模型预训练场景下,推理成本可降低80%。

  这是一个低门槛、高性价比的AI应用孵化平台,简化了AI项目的复杂度,提高大模型算法和AI原生应用开发效率。

  第1点:让AI应用开发,低门槛易上手,开箱即用。言犀内置多款热门的大模型、数据集、AI框架,随时取用。

  言犀提供一站式AI开发工具,数据准备→模型开发→模型训练→模型部署→应用构建,并与京东云多款计算、存储产品无缝集成。

  在今年上,全国政协委员、京东集团技术委员会主席、京东云事业部总裁曹鹏在提案中建议:通过政策鼓励国产化GPU适配国产的算力调度软件,建设自主可控的智算基础,加快实现国产化“真替真用”。

  尤其GPU是智算的关键一环,被“卡脖子”的大背景下,一方面需要国产GPU硬件顶上去,另一方面,软件侧要做到最大化的协同和调优。

  不仅通过各种优化和协同,让国产化软硬件扬长避短,更能“扛活儿”。更是在自家的关键生产业务中,大量落地使用,持续优化、动态升级改造。

  从AI智算模块到AI算力调度,从智算数据处理到AI应用开发,再加上国产化真替真用,京东云这套智算中心方案,由点到面,非常应景地Hold住了智算中心建设的大部分痛点。

  这类大项目,涉及投、建、营方方面面,规模大,需求多,并非任何单一厂商能够独立完成,需要全产业链通力合作。


金年会网页版在线登录 上一篇:现代 ADAS 架构通信协议 下一篇:助你解锁万物智联新机遇 —— YMatrix 超融

金年会网页版在线登录