打破AI算力垄断!为芯片国产化打造测试底座
解密上海城市数字化转型体验馆明星展品——公共算力服务平台
作者/ IT时报记者 郝俊慧
编辑/ 钱立富 孙妍
(相关资料图)
4月7日,上海城市数字化转型体验馆揭牌开馆。体验馆集中展现了正在打造“国际数都”的上海——经济数字化转型的“创新之力”、生活数字化转型的“惠民之策”、治理数字化转型的“智慧之治”。610项展品中,上海电信公共算力服务平台作为明星展项之一脱颖而出,成为媒体和观众关注的焦点。
这并不奇怪。外有ChatGPT,内有文心一言、通义千问,这场席卷全球的AI大模型风暴,让“算力焦虑”成为各大公司的常态,而电信运营商集硬件资源、计算环境、平台服务、智能调度于一体,为用户提供一站式、普惠式的算力、算网、算法的公共服务性平台,不仅能够缓解大公司的“焦虑”,更能帮助中小企业搭上这趟以算力为动力的快速列车。更重要的是,通过公共算力服务平台对国产AI芯片开展测试验证功能,打破“算力垄断”,帮助国产算力快速规模化,从而解决高性能算力面临的“卡脖子”问题。
“作为算力国家队,电信运营商在算力规模、算力应用、算力环境三个维度都要发力,推进中国算力产业发展。”中国电信上海公司总师室总工程师助理肖晴告诉《IT时报》记者,算力是未来智能世界的关键要素,中国要尽快发挥云网融合优势,补齐短板,拿到这张“船票”。
为AI初创企业降低门槛
2022年7月,上海电信在全国率先发布公共算力服务,面向上海企业提供一站式、普惠式算力、算网、算法服务的试用。申请企业无需自建算力基础设施,便可以在云端直接调用算力,完成图形渲染、AI深度学习、高性能计算、云游戏、3D应用以及企业本地云、边缘云、专属视频云等需求。
同时,公共算力服务平台让人工智能的使用门槛大大降低,比如施工工地上,是否有工人没有做好安全防护?老年社区里,是否有人员跌倒……管理部门可以根据视频监控,直接调用算法模型,便可以实现城市智能治理。
“公共算力服务平台成立的重要意义之一,是促进人工智能初创企业发展,推进人工智能产业生态建立。”肖晴认为,随着大模型的走红,越来越多的AI创新需要用到大算力、海量数据的复杂训练模型,但通用AI算法模型训练是典型的“大力出奇迹”,像ChatGPT每次训练成本超过500万美元,而公共算力平台则可以通过持续训练优化算法模型,帮助中小企业和科研机构降低企业成本。
像“订外卖”一样调度算力
当然,算力基础设施建设并不能一蹴而就。为了解决算力标准化统一供给难题,2023年,上海电信研发了异构算网一体化调度平台,平台通过自研调度引擎,按网络距离、资源池成本、PUE等维度预设调度策略,做到算力动态感知和作业智能分发调度,实现了远端计算、近端部署。
你可以将这个平台理解为一个“外卖平台”,通过上海电信天翼云能力中心自研的智能调度引擎开放接口,可以接入不同来源的算力资源池,包括大学和科研机构的超算中心、某企业的算力资源池等。用户的每次算力作业需求,就像是下一单“外卖”,由平台根据调度策略,安排最近或者最顺路的“小哥”送货,也即提供算力,而且每次订单智能分发的路径、执行过程和进度都可以实时在线跟踪。
听起来简单,实际上,调度平台实现了三个“跨越”:第一,跨越不同资源池,实现了算力最优原则选用;第二,跨越不同云厂商,打个比方,通过电信骨干网,原本部署在A云商的智能算力作业任务,可以跨域调用B云商的算力,这是电信运营商独有的优势;第三,跨越算力类型,无论作业任务需要的是通用算力、智能算力还是超算算力,都可以实时满足。
让人人都有“AI助手”
最近,中国几家互联网大厂连续发布大模型,让ChatGPT引发的这股通用大模型浪潮,一浪高似一浪。作为国内最早布局云计算和大数据AI的电信运营商,中国电信早在去年推出了自己的星河AI平台,并和上海人工智能实验室面向城市治理方向,联合研发了业内首个面向城市治理真实业务的通用大模型——“星河”通用视觉模型。
据了解,星河模型以数亿段视频资源进行训练,以解决城市治理实际问题和降低大模型门槛和成本为导向,将模型的参数量控制在10亿级别,以尽量小的模型规模、尽量短的训练周期和尽量低的计算资源情况下,达到更大模型的效果。结果显示,该大模型训练周期和研发投入缩短了70%以上。赋能下游任务算法后,所需样本量可减少90%。在部分下游任务中,性能效果超出专用模型10%以上。
中国电信还将进一步加强与大模型头部企业的合作,在公共算力平台上部署大模型,“大模型+强算力”将大大提升公共算力服务的赋能水平,使得人工智能应用开始步入“寻常百姓家”,让每个人可以拥有自己的“ChatGPT”助手,算力变成每个人都能享受的权力。
同时,为了解决类“ChatGPT”应用可能造成的隐私泄漏,上海电信正在研发公共数据共享模式,公共算力服务平台将使数据在不脱离监管的情况下进行人工智能训练,并将训练所得到的专用算法模型在特定范围内进行共享,既可以保护数据隐私,又可以节约政府和企业投入,实现专用算法的最优积累,形成场景的最佳实践。
加速算力国产化
上海是我国数字经济发展的“排头兵”,具有良好算力基础。截至2022年末,上海正在运行的互联网数据中心有122个,机架总数超过18万个。
上海也是中国算力指数最高的城市。中国信通院发布的《2022年中国综合算力指数》显示,上海市是唯一一个算力指数分值超70的省市,算力规模近14E FLOPS(FP32),在用算力规模全国排名第一。同时,上海正在积极推进算力“绿色化”,2022年的PUE 平均指数降至1.40,远低于全国1.55的平均指数。
为构筑人工智能算力发展新高地,在政府部门指导下,上海电信还在青浦打造国家“东数西算”节点和算力调度平台,在临港建设高等级算力中心。青浦国家一体化数据中心项目作为国家“东数西算”节点,预计三季度开工,临港算力项目一期规划1.35万个机架,预计2023年6月提供首批机架能力。
然而,在智能算力市场,由于英伟达和AMD高端算力芯片对中国限售,国产算力厂商在基础技术、产业生态方面存在“卡脖子”难题,应用创新也受到高端芯片采购限制。于是,上海电信搭建多厂商智能算力测试平台,针对多款国产算力芯片开展国产算力评估测试、现网场景迁移验证,并积极参与智算中心相关的上海市地方标准制定测试,为算力“国产化”打造测试平台底座。
至此,上海电信从顶层规划角度,构建一个集硬件资源、计算环境、平台服务、智能调度为大成的“一站式”服务创新平台,并通过自身算力的突破和创新的商业模式,赋予用户更多元、更优化的产品服务,同时将算力转化为更大的科研和产业价值。
排版/ 季嘉颖
图片/ IT时报
来源/《IT时报》公众号vittimes
关键词:
为您推荐
-
8月29日,A股上市公司联赢激光(代码:688518 SH)发布2022年半年度业绩报告。2022年1月1日-2022年6月30日,公司实现营业收入9 87亿元,同比
22-09-16
-
日前,邢台市政府制定出台了扎实稳定全市经济运行的一揽子措施及配套政策,邢台市商务局会同相关部门起草了其中的《关于稳住外贸外资基本盘
22-08-17
-
中新网8月28日电 据健康北京微信公众号消息,北京中康时代康复医院、北京四惠中医医院等多家医疗机构,存在工作人员未严格落实定期进
21-08-30
-
中新网兰州8月28日电 (记者 殷春永 冯志军)“刚开始说待三年,但三年之后又三年……”14年前受上级“委派”,在大漠戈壁深处的峡谷
21-08-30
-
中新网上海8月28日电 (张践)阿依古丽来自新疆阿勒泰地区,2009年来到上海创业。十余年来,阿依古丽身边的小伙伴们都亲切地称呼她为“
21-08-30
-
新华社郑州8月28日电(记者翟濯)记者从河南省政府新闻办28日举办的“河南省加快灾后重建”周口专场新闻发布会上获悉,本次洪涝灾害共造
21-08-30
-
中新网防城港8月28日电(陈思华 罗婕 李尚珍)8月28日上午,广西防城港火车站增加4条到发线工程正式开工。该工程系广西“十四五”规划
21-08-30
-
河南第一产粮大市近800万亩未受灾秋粮长势喜人 有望以丰补歉 中新网郑州8月28日电 (记者 李贵刚)记者28日从“河南省加快灾后重建
21-08-30
-
今天(8月28日)下午,河南省郑州市召开疫情防控新闻发布会,介绍疫情防控最新情况。 记者从发布会上获悉,郑州市居民小区继续落实查
21-08-30
- 打破AI算力垄断!为芯片国产化打造测试底座
- 中科通达(688038.SH):提请股东大会授权董事会以简易程序向特定对象发行股票
- 【独家焦点】闽清县气象台发布雷电黄色预警【Ⅲ级/较重】
- 大宗交易:北京君正成交3088.8万元,折价1.00%(04-14)
- 恩华药业04月14日继续上涨,股价创历史新高
- 环球精选!【“三下”聚民心】精准预警 劝阻到心 民警成功为群众挽损24万余元
- 南天门西天门_南天门系统 当前动态
- 《全面战争:战锤 3》全新战役包 《FORGE OF THE CHAOS DWARFS》现已发售 环球微动态
- 苹果将于2025年实现在电池中使用100%再生钴
- 视焦点讯!上车前热身 新宝骏让你不再坐在板凳上