赞
踩
2024 全球机器学习技术大会将于 4 月 25、26 日在上海环球港凯悦大酒店隆重举行!届时,来自阿里、微软、蚂蚁集团、小米、零一万物、复旦大学教授、智源人工智能研究院等大模型领域的专家将云集于此,与你共同探讨人工智能的前沿发展和行业最佳实践。
其中,蚂蚁集团的高级技术专家郑琦、AI Infra 技术专家王勤龙将受邀出席,并发表大模型相关技术主题演讲。
机密计算实现大模型应用全生命周期安全
来自蚂蚁可信安全计算团队、机密计算操作系统 Occlum 核心开发者的郑琦将发表《机密计算实现大模型应用全生命周期安全》主题演讲。
郑琦,多年芯片公司 Linux 内核,平台 BSP,边缘计算,大数据应用开发经验。目前任职蚂蚁集团可信安全计算团队,机密计算操作系统 Occlum 核心开发者,同时致力于机密计算生态,尤其是在隐私大数据、分布式机密计算方面的开拓和推动。
蚂蚁密态时空计算平台首次将时空数据和隐私计算相结合,全密态使用蚂蚁遥感大模型生成遥感时空数据,再通过与农业时空数据联合建模,形成农户种植分等农业信贷可用的评估指标,产生更精准的农业金融信贷指标,有效解决了农户贷款时点土地种植情况的评估问题,为三农产业的大规模授信提供了解决方案。蚂蚁机密计算作为密态计算TEE底座,守护了蚂蚁大模型全生命(传输,存储,使用中)安全,实现让大模型无忧输出。为大模型商用落地提供了切实可行的参考路径。
DLRover 训练故障自愈:大幅提升大规模 AI 训练的算力效率
当前大规模语言模型训练需要大量的加速卡来训练,例如 GPU 和 NPU 等。由于 GPU 机器的故障率较高,频繁的故障会导致训练中断、计算浪费和集群空转,从而造成大量的时间和算力浪费。为此,DLRover 开源了训练故障自愈技术,通过快速的节点状态检测、弹性扩缩容、动态组网和 Flash Checkpoint 等技术,最大程度地降低故障导致的算力浪费。
当前,在蚂蚁千卡规模的训练上,在故障频率为每天一次的情况下,有效训练时间占比达到 97%。除了支持 GPU,DLRover 故障自愈还支持国产加速卡的分布式训练,如华为昇腾芯片和阿里平头哥芯片。(项目地址:https://github.com/intelligent-machine-learning/dlrover)
在蚂蚁从事 AI 基础设施研发的王勤龙将在全球机器学习技术大会发表《DLRover 训练故障自愈:大幅提升大规模AI训练的算力效率》主题演讲。
王勤龙,现任蚂蚁集团 AI Infra 技术专家,长期在蚂蚁从事 AI 基础设施的研发,主导了蚂蚁分布式训练的弹性容错与自动扩缩容项目的建设,将蚂蚁的混布集群资源利用率从不足 20% 提升至 40% 以上,将千卡大模型训练的有效时间提升至 97% 以上。
他先后参与多个开源项目,如 ElasticDL 和 DLRover,开放原子基金会 2023 活力开源贡献者。目前为蚂蚁 AI Infra 开源项目 DLRover 的架构师,专注于打造稳定的、可扩展的和高效的大规模分布式训练系统。
在本次全球机器学习技术大会上,来自国内外的 50+ AI 专家、学者和业界精英们汇聚一堂,共同分享在大模型和 AI 领域的最新研究成果和实践经验。他们包括:
Kaldi 之父,IEEE Fellow,小米集团首席语音科学家 Daniel Povey
复旦大学教授,博士生导师,MOSS大模型核心人员,前搜狗首席研究员 张奇
零一万物联合创始人,前字节跳动 AIGC 和视觉大模型 AI 平台负责人 潘欣
北京智源人工智能研究院基础语言与软件组负责人 刘广
新浪微博新技术研发负责人,中国中文信息学会理事 张俊林
新加坡国立大学计算机系的校长青年教授,潞晨科技创始人 尤洋
北京大学博士生导师 袁粒
北京聆心智能科技有限公司联合创始人 CEO 郑叔亮
微软亚洲研究院首席研究员和研究经理 刘树杰
千芯科技董事长,人工智能、芯片专家 陈巍
面壁智能 CTO,OpenBMB 开源社区联合发起人 曾国洋
度小满金融技术委员会执行主席,数据智能应用部总经理 杨青
PPIO 联合创始人&CTO 王闻宇
阿里巴巴达摩院资深算法专家,阿里巴巴通义实验室对话智能负责人 李永彬
微软亚洲研究院首席研究员 宋磊
达观数据联合创始人 张健
白海科技创始人兼 CEO,CCF 大数据专委常务委员和高性能专委委员 卢亿雷
文因互联工程 VP 兼首席科学家,中国人工智能学会会员工委会副秘书长 宋劼
阿里云高级技术专家 董善东
阿里巴巴通义实验室算法专家 龙定坤
DeepWisdom 创始人兼 CEO,MetaGPT 项目作者 吴承霖
恒生电子 AI 首席技术专家 林金曙
eBay 支付风控部门算法专家 韩志超
WPS AI 技术总监,中国图象图形学学会《文档图象分析与识别专委会》专业委员 熊龙飞
eBay AI 平台部研发工程师 陆天明
小冰公司计算机视觉算法专家 王文斓
更多嘉宾与主题,请登陆大会官网:www.ml-summit.org ,或点击「阅读原文」查看!
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。