赞
踩
本文一部分转载自杨净 整理自 MEET2023量子位
算力的需求,远比以往来得更为猛烈。甚至有人直呼:得算力者得未来。
元宇宙、AIGC、AI for Science的涌现,又给高性能计算(HPC)平添了好几把火。
在诸多挑战与机遇共存交织的当下,这一领域泰斗中国工程院院士、清华大学计算机科学与技术系郑纬民,在MEET2023智能未来大会上,分享了自己的见解和思考。
估计未来两年到四年,HPC(高性能计算)+AI+BigData融合的服务器就会出现。AI for Science的出现,让HPC+AI的融合成为刚性需求;而数据处理又是AI的基础,数据和AI的融合也很自然。
甚至他还开玩笑说,现在要获HPC领域的戈登贝尔奖,必须要有AI的算法。你没有AI的算法,否则奖都得不了。
虽然这是玩笑说法,但实际上也是一种趋势。
除此之外,他还谈到人工智能计算机设计的三大平衡性原则、AI基准设计四大目标以及如何通过并行方法加速大规模预训练模型。
估计未来两年到四年,HPC(高性能计算)+AI+BigData融合的服务器就会出现。过去HPC是一台机器、AI是一台机器,大数据处理是第三台机器,这三个机器自己管自己,但现在这三台机器正在融合之中;AI基准设计要达到四个目标:统一的一个分数、可变的问题规模、具有实际的人工智能意义、评测程序包含必要的多机通信;现在要获HPC领域的戈登贝尔奖,必须要有AI的算法,你没有AI的算法,否则奖都得不了。这是开玩笑的说法,但实际上也是一个趋势;AI for Science的出现,让HPC+AI的融合成为刚性需求;探索更大参数量模型的效果,是具有重要科学意义的;我们希望人工智能计算机跟HPC有TOP 500一样,也有一个AIPerf 500。(以下是郑纬民院士演讲全文)
人工智能计算机设计的三大平衡性原则
今天给大家讲讲我们团队为人工智能做的三件事,就是AI与算力基础设施的设计、评测和优化。
第一件事,HPC(高性能计算)和AI的应用是不一样的。
HPC的应用领域主要有科学和工程计算、天气预报、核聚变模拟、飞行器设计。它的运算精度是双精度浮点运算,64位甚至128位的,所以加减乘除做得很快,主要是这点不同。
人工智能计算机就是半精度的,甚至是定点的,8位的、16位的、32位的。
因此这两台机器应该是不一样的,而人工智能计算机最近
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。