人工智能 自动规划 ppt 蔡自兴_分布式优化算法及其在多智能体系统与机器学习中的应用【附PPT与视频资料】...

关注微信公众号：人工智能前沿讲习 对话框回复"张家绮"获取PPT与视频资料 视频资料可点击→播放视频 查看

导读

分布式优化理论和算法近年来在多智能体系统中得到了广泛的发展与应用，目前在机器学习领域也正在受到越来越多的关注。本文主要介绍目前分布式优化算法的分类和研究现状，以及作者在该方向的一些工作。

作者简介

张家绮，清华大学自动化系在读博士，本科毕业于北京交通大学自动化系，目前主要研究方向为分布式优化与学习。

背景介绍

分布式优化问题并没有一个特别明确的定义，根据应用场景的不同具体的形式也有不同，但是主要思想都是采用多个节点来优化全局目标函数。这里的节点可以是CPU, GPU或者服务器，也可以是智能电网中的供电站，无人机编队中的一架无人机，传感器网络中的传感器等。每个节点都有着自己的局部目标函数（损失函数）以及决策变量，而全局目标一般是所有节点上的局部目标函数之和。分布式算法的目标就是通过节点间相互交换信息来使所有节点的决策变量最终收敛于全局目标函数的最小值点。以机器学习为例，分布式优化可以应用于利用多个服务器来优化一个神经网络，其中数据集分布在不同的服务器上，因此每台服务器只能获得一个局部的损失函数。优化算法需要服务器间不断的交换信息。