融媒·见证 | “大模型”呼唤的“大算力”从哪儿来——AI“高速路”,通车!

2024-08-15 06:57:53 来源:舜网-济南日报

作者:王飞 张素芬

责任编辑:刘克

  拍摄时间:8月13日

  拍摄地点:济南人工智能计算中心

  拍摄内容:公共智能算力平台的运行

  在济南,有一个“人工智能计算中心”,能够为各类创新主体提供普惠的公共算力服务,赋能经济社会发展。

  “人工智能计算中心”是如何运行的?它的强大算力从何而来、又用于何处?8月13日上午,济南日报记者来到了济南人工智能计算中心,在技术人员的展示下,看到了一幅AI应用全景图。

融媒·见证

  “庞然大物”的超强算力

  在计算中心,映入眼帘的是一个科技感十足的“庞然大物”:一台台黑色机柜列队排开,各种服务器指示灯交替闪烁着蓝紫色的灯光,看不见的数据在通信线缆中往来穿梭,支撑着一个个数字化场景高效运转。

  “这就是我们的核心设备,它是一个Atlas900AI集群,GPU基于昇腾910芯片构建,包含384张昇腾910芯片,相当于五万台高性能计算机的计算能力,可以提供100P的人工智能算力。”济南人工智能计算中心的运维方、济南科金信息技术有限公司运维经理迟旭东向记者介绍起这台设备。

融媒·见证

  “你看这个加速模块,别看它这么小,却具有22T的算力,大大提升了芯片处理数据的速度,可以应用在图像分类、无人机、机器人等领域;还有这个训练服务器,通过它我们能够帮助企业训练大模型,使AI产品更具实用性……”

  说起这一集群具备的强大计算和推理能力,迟旭东如数家珍,更令他自豪的是,利用这一庞大算力,济南人工智能计算中心能够为全市人工智能生态建设注入动力,从而赋能实体经济转型升级。“数字经济时代,算力就像水电一样,将成为一种新型的公共资源。”迟旭东这样形容算力。

融媒·见证

  “算力水电”输向校企

  网上办理行政审批事项、用手机转账、AI智能问答……如今,越来越多的人享受着数字生活带来的便利,而这些都离不开算力。交通、工业生产、农业种植……随着人工智能快速发展,全球抢抓技术迭代期和新兴业态启动窗口期,各个领域都在竞相研发大模型来推动产业提质升级,而这些都需要强大的算力作为支撑。

  “在我们的走访调研中统计发现,仅济南市,具备一定规模和研发能力的人工智能企业已经有70家左右,他们的研发都需要算力。”科金信息技术有限公司运营经理王蒙蒙坦言,随着各个产业的发展和转型升级,企业对算力的需求与日俱增,存在越来越大的“算力缺口”。

融媒·见证

  “大模型”呼唤“大算力”,传统CPU芯片以及通用服务器已无法胜任,只有通过更强大、更高性能的配置,才能训练大模型这颗“大脑”,使其越来越“聪明”。但算力基础设施建设和运维成本极高,对企业来说,短时间内难以建成大规模、集中、稳定的智能算力。

  集中力量建设智能算力底座、保障企业研发算力供给,已经刻不容缓。基于这些现实问题,济南人工智能计算中心作为济南市的公共智能算力基础设施应运而生。今年上线后,很快持续不断地为全市人工智能企业输送“水电”。

融媒·见证

  计算中心配备了一支专业性很强的运维和技术团队,在其中起到了重要作用。

  “运维人员要24小时保障设备,尤其是我们的Atlas900AI集群正常运行,还要监护数据、保证信息安全。技术人员要在企业研发过程中提供技术解答,包括大模型的适配、训练等工作。”王蒙蒙说。

融媒·见证

  “大脑”变得更“聪明”

  目前,全市7所科研院校和研发企业,在注入了这一庞大算力后,研发项目快速推进和落地。

  山东大学微生物国家重点实验室研发的“药物跨膜预测大模型”,主要用于检测分析人体组织对药物的吸收效率,需要足够的算力对23亿种化合物进行数据分析、推理,进而得出结论。“我们计算中心恰好能够提供这一算力。”王蒙蒙透露,在链接到计算中的算力运营平台后,该实验室的研发进程得以快速推进。实验室工作人员反映,“药物跨膜预测大模型”投入应用后,将原来需要20分钟的单位跨膜检测时间,压缩到了5分钟。

融媒·见证

  同样,在另一款“司法大模型”中,利用算力运营平台的庞大算力和推理能力,法律工作者能够用大数据对海量的案例进行分析,从而为用户提供高效快速的司法解答服务。

  “以上提到的两个应用场景都有着共同的特点,那就是信息量极大,算力要求高,而且对信息数据的保密等级较高。”王蒙蒙说,作为新型基础设施的重要组成部分,依托先进的算力、算法设计和信息安全防护机制,计算中心能够为研发企业提供这些公共资源和服务,以此来赋能人工智能与生物医药、智能制造、智慧城市等多个行业的融合创新。

融媒·见证

  在王蒙蒙看来,计算中心相当于搭建了一条人工智能的“高速路”,利用超级算力的计算和推理效率,中心的配置、共享和调度作用,为人工智能的应用研发提供支撑。“相信未来,算力能成为一种公共资源,走进各行各业,甚至千家万户。”

作者:王飞 张素芬

责任编辑:刘克
新闻排行
进入新闻中心