【copy】也说嵌入式系统架构设计(linux 平台）_嵌入式linux系统分布式微服务架构设计

copy from  : https://blog.csdn.net/xiaogu0322/article/details/80884722

搞了近十年嵌入式和嵌入式应用开发，嵌入式在我的工作经历里大部分是应用层的设备功能、设备通信开发。较为复杂有趣的是对结合硬件可定制化部分的研究+软件上的修改实现+结合实际调试演示产品功能。较为费时且全程刺激的是在linux系统上给一个多外接设备的软件系统设计和实现多线程同步细节+各种恶心的字符数据转换+大量的不得不自己动手对指针操作的硬操作。

bootloader也动过，改过PHY卡适配，通读bootloader初始化流程，修改响应代码来体验验证BSP端的设备控制。driver端也自己炒改过简单的字符设备驱动并加入项目实际使用。

当你做了很多很多业务端的硬件功能后，在单片机上你会不自觉的开始自己用状态机去实现一些简单异步/同步的功能，也是在掌握了较多看了较多后开始真正认识到 timer定时器在这些同步工作中的重要性。同时也贱贱的开始对调度这个词有了实践上的有形的认识。 

书上的博客上的概念是无形的。你永远无法用耳朵体会到别人嘴里的实际味道。自然，别人的经验总结对你的最大意义是在于能否恰好能在你的认知维度里给你搭一个冲破瓶颈的阶梯。

收一下，还是继续回归原题。我目前尚能有体会的是，拿掌握多线程及同步设计来说，对于我想分享的是，那真不是一个简单的概念认识，亲身验证再应用调试这个阶段是无法逾越的。否则就更别谈架构设计了。架构不是胡编乱造任性标榜，架构的下面是要实实在在填入实际的材料内容的。而真正起作用的也是所谓架构下面那些星星点点的看似小但却不可缺少的各部分子模块的细节。

理论需要在实践的极力验证，进而发现其不足去改善，使其更具普适性。 当然其最主要的意义还是在于传播和共享，才能有源源不断的优化和作用。

而脱离实践的架构完全是纸上谈兵，空想意淫！架构也没有唯一的标准，从前没有，将来也不会有，他只是在某个阶段出现的为了方便统一某些系列事务的概括性经验总结。如今却看到越来越多的人动不动就把架构搬出来标榜高度和深度。老话说得好，半瓶醋，他就爱晃荡，也能晃荡。

好了，下面分享一下一个大神对嵌入式架构的研讨，文笔很赞，符合我的认知体系。深有共鸣。内容较长，慎入。

此处嵌入式特指基于linux平台，单片机和其他rtos不在讨论范围~

我从事嵌入式软件开发有6，7个年头，bsp、驱动、应用软件、android hall、framework等都有涉猎。平时除了关注嵌入式行业的发展，也多少对Web、后台服务端、分布式等方向的技术有一些关注。

近期有萌生换个行业方向的想法，想做做后台服务器相关的开发，由于之前工作中并没有这方面的实际需求，只是自己平时关注，了解了些知识，比如：NIO、epoll、ngnix、zeromq、libevent、libuv、高并发、分布式、redis、python、tornado、django，涉猎比较杂，都了解个皮毛，不精。意外的是屡屡被互联网行业鄙视，面试机会都寥寥无几。

此时我想到底是什么问题呢，难道嵌入式出身的已经这么不受待见了吗?想当初，嵌入式，驱动开发，可是趋之若鹜的行业(有点夸张，不过8，9年前嵌入式可是听着比做java web的要牛逼些哦)。

问题总是有原因的，我说下自己的理解：

嵌入式是否真的高大上？为什么没有嵌入式软件架构师?

打开各种招聘网站，搜索架构师，会出现各种系统架构师，web架构师，后台服务端架构师等等，但是唯独很难看到嵌入式软件架构师。嵌入式软件不需要架构吗，驱动不需要架构吗?答案是当然需要，不过为什么没有这方面的职位?

我的看法：目前国内的嵌入式开发主要分为嵌入式底层开发和嵌入式应用开发，嵌入式的底层开发一般叫做驱动开发，或者bsp开发，有时也有称之为linux内核开发，名字听着都很高大上的感觉。

这么高大上的名字为什么没有架构师呢？linux、 kernel的架构师是linus等一众linux kernel开发维护者，因为本身linux kernel或者操作系统就是一个通用的平台，解决通用的问题，linux开源届的大牛都已经制定好了架构规则，留给可发挥的地方并不多，大部分工作只需要按照规则框架填充就可以了。

以目前国内大部分公司的业务需求，只是在做外围设备的集成，嵌入式平台的porting、搭建裁剪、业务需求完全不会超过kernel里提供的功能范围，导致没有什么新的架构需要开发人员去设计、实现。那嵌入式bsp开发人员都在做什么？除了调试多种多样的外设，替硬件擦屁股，就是解些稳定性的bug了(这里对具体工作不详细描述了，调试外设只会增加一些经验，增加广度，对提高深度贡献不大，只是按不会调试-》会调试-》调试的快这个路线发展，而解稳定性问题确实是需要一些积累经验)

而嵌入式上的应用开发，一般业务逻辑比较简单，被很多人忽略，所以招聘方也会感觉没有什么必要找架构师级别的了。

至此感觉嵌入式行业的确不需要架构师，被互联网行业的鄙视也没什么大惊小怪的。

但的确是这样子的吗?对于嵌入式底层的开发，有能力对kernel、驱动架构提出架构层优化的，国内的开发人员应该不多，所以对于大部分普通人，还是不要“妄想”做Linux kernel的架构师了(当然我相信国人中一定存在有这个能力的大牛)，发现，解决一些bug，到更靠谱些。

那么对于嵌入式应用层的开发，我们真的不需要架构吗?

以自己的实际经历讲述下曾经对一个嵌入式设备应用软件的架构设计和优化：我曾经接手过一个项目，项目采用单进程多线程的模型，项目中包括几个模块，以a, b, c, d,e代表。这个项目的业务逻辑决定这几个模块有不少关联。

例如：最初的设计中a模块是一个状态监测模块，它会基于监测到的状态调用b，c模块的接口实现一些功能(多线程的好处就是直接调用很方便，所以开发人员大多这么干，简单粗暴)。但是需求总是千变万化，加入一个f模块，f模块也需要对a模块监测的状态进行一个处理，按照之前的套路，完成这个功能分两步：

1. 在f模块提供接口。

2. 在a模块中调用该接口，至此新需求已经“完美”的解决了。

前面提到需求总是千变万化的，新的需求又来了，客户提出定制需求，需要加入另一个g模块，同样处理a模块监测的状态，但是该定制需求不需要刚刚加入的f模块，此时最简单粗暴的方式是，定义一个宏，区分该定制需求和之前的通用需求，build两个程序版本。这样的做法看似简单，但后面如果定制需求逐渐增多，维护这么多定制版本程序就是个噩梦，代码管理和通用性也会是很大的问题，同时代码中充斥着对不同宏定义的差异化处理。

比较好的做法是加入设备型号版本的动态监测，用一个build程序版本动态支持所有的定制需求，这样减少了对不同build程序的维护。但是这种做法只解决build程序的版本维护工作，没有解决宏定义差异化处理的问题，只是会将之前的宏判断，改为动态设备版本号判断，如果这些差异化的判断只集中在一处进行，也不会引起大的复杂化的问题，但显然这个不好保证，有可能这些差异化的处理会蔓延到整个项目的各个角落，这样项目维护起来就会变成一场噩梦。

不需要什么高深的软件思想，大部人都会想到把差异化的部分提取出来，放在一个统一的地方集中管理，对差异化的修改只集中在这个统一管理的地方。

通用做法就是采用callback设置钩子，然后在callback中定制差异化的需求，对callback的处理做差异化的配置，对应到上面例子，就是在a模块添加一个钩子，然后在系统初始化时，根据设备版本号的不同，差异化定制callback处理函数，同时要将这些定制callback处理函数放在同一地方处理，否则仍然分散在各个角落里就没有意义(前一种方式不放置钩子是无法将这些差异化配置放在一起的)，这样处理带来的另外一个好处是，我们对功能性需求的改变，不会影响到a模块的处理，也就是我们添加功能，不需要修改a模块的代码了(前一种方式要修改a模块的调用流程)，这样也就实现了一个模块的分离。

至此第二种的方案的架构(其实也谈不上架构了)相比第一种方案已经有了不少提升，至少让开发人员稍微轻松了些，对于其他定制需求，开发人员之需要修改这个callback处理，关注差异化部分就可以了。

软件是需要不断进化的，第二种方案是最优解吗，当然不是，还有优化空间吗?

下面先跑个题，谈谈多线程/多进程模型的优缺点，主要谈多进程的优点了：

教科书上的解释就不提了，首先我对大的项目是推崇多进程模型，无关性能，主要原因有：

1.模块的解耦：很多开发人员维护开发的多线程模型项目应该都多少会存在下面的问题：跨模块间的直接调用，如果不相信，好，你的项目一定是分模块的吧，现在随机的删掉一个模块，build下看能build通过吗(只需要build不需要运行)，我相信大部分情况下一定会遇到某个函数调用，某个全局变量找不到的情况，这种情况说明你的模块间存在强耦合了。

由于多线程天然的优势，地址空间的相互可见，导致直接调用十分容易，很多经验尚浅的工程师，很容易就写出直接调用的简单粗暴的接口，如果遇到个static接口的函数，图方便也会把static去掉，直接拿过来用了。这样整个工程随着功能不断的添加，模块间的交叉越来越多，耦合越高。

而我之所以推崇多进程的原因就是，多进程能从物理上隔绝了这种“方便”的通讯方式，导致在想实现一个模块交互时，会多思考下这个交互是必要的吗，如果是必要的，则会进一步思考接口定义是否简单明了(因为进程间的通讯相对会麻烦些，开发人员会本着能减少交互，明确接口的想法去仔细考虑接口，协议的定义，否则折腾的是自己了)，这如同人生，如果一直顺风顺水，人们可能不会想太多，思考太多，而如果道路上有些坎坷，则会有另一种感悟吧。

所以我的想法是多进程的模型会逼迫你去更多的思考想程序的设计，物理上减少模块的耦合。

抽象通用组件，分离通用功能和业务逻辑功能：当把一个多线程模型修改为多进程模型的过程中，经常会发现有些接口代码重复的出现在多个进程模块中，因为之前接口函数是在一个进程空间，大家都可以直接调用的，比如接口A被模块a，b调用，模块a，b分离为两个独立的进程后，接口A需要在a，b中分别实现了，无需解释，重复代码这个在软件工程中是大忌，必须消除。做法也很简单，将这些被多个模块调用的接口分离处理做成lib，供其他模块调用，当你完成这部分工作后，你发现了什么，是不是剥离的接口，可以作为整个项目的通用组件存在了，完美的情况下，lib下的代码是通用基础组件，各个模块中是独立的业务处理模块。

2.方便定位问题：多线程模型中当又一个线程异常退出，会导致整个进程退出，当然通过一些crash信息，可以定位是哪个线程死掉。但如果这些线程模块是由多个小组、人员维护，当整个进程崩溃掉后，如何判断由哪个小组解决，会是一个大的问题。而且有时还会出现的现象是挂在一个线程，但其实是另外一个线程模块引起的(耦合的祸端)，遇到这种情况，难免出现小组间的扯皮，推诿。(自信的工程师都认为我的代码没有问题)

而如果采用多进程的模型，好吧，你的服务进程挂了，你自己找原因吧，没什么可争辩的了。

3.方便性能测试：多线程种单个线程的资源占用不是很好查看(至少有些嵌入式系统没有完善的命令)，当整个进程资源消耗很高时，如何判断定位时哪个模块线程的问题，同前边问题一样难以抉择。而如果是多进程的模型，谁的进程占了好多资源，谁就去查下吧，其实这个还是个颗粒度的问题。同样的系统，划分成多个进程，单个进程的复杂度一定比只有一个进程的复杂度低的多，复杂度降低，也就更容易定位查找各种问题。

4.分布式部署：互联网行业一直强调的分布式，云啊什么的，嵌入式行业就很苦逼了，貌似不需要什么分布式吧，其实也对，大部分情况下，嵌入式采用单芯片，独立运行，分布式遇到的很少。但如果万一那天你在一个设备中，将本来一个芯片完成的功能分散到两个芯片中处理呢，多进程的扩展就容易的多了。

这只是举个特殊的例子，其实嵌入式设备就是个分布式的行业，只是一开始就已经实现分离了，而不是从集中到分布式的路线发展起来的。

方便公司的代码权限隔离：其实我鄙视这种做法，公司要相信自己的员工，但鉴于诚信在中国已经。。。做些隔离也无可厚非了。

多线程模型下，前面讲到如果去除一个模块，你可能都不能build了，那么是要把所有代码暴露给所有的工程师吗，显然不能，所以各个模块只能提供库的形式了，不过我觉得将通用功能接口组织成通用库是正常的做法，而如果把和业务相关的模块也提供成库，就有点。。。。

至此在补充一下，以上所有的优点，其实都不是很关键的点，都不能够让多进程有绝对的优势压倒多线程模型，只是从个人的角度觉得，多进程模型更能强迫工程师思考解决一些问题。(而这些问题有经验的工程师无论什么模型都会思考的)

上面说了这么多，该考虑下把之前项目的例子改成多进程模型，否则就只是纸上谈兵了。

首当其冲的问题就是：选择多进程的通讯方式，多线程间的直接调用是不能用了，那么如何选择多进程的通讯方式呢?

linux下提供很多ipc方式，此处不一一列举，对于非大数据量的控制，通讯消息的传递，比较好的方式是采用socket，本机上更多采用unix socket方式，(这种方式有什么好处?当你有需要把单一系统做成分布式系统时，优势就明显了)

但是仅仅采用socket来实现前面例子的功能，同样会存在一些问题：还是前面的例子，首先说明前面我们优化后的第二种方案在多进程模型已经不能在继续使用了，原因比较简单，应该不需要解释。

简单的做法即基于方案一，把直接调用改为socket通信(定义好通信协议即可)，但是熟悉socket开发的工程师都清楚，开始socket通信要先进行一些前期的工作(主要就是连接，将两个模块关联起来)，所以前面的例子会变成这个样子，模块a要和模块b，c建立连接，如果加入f模块，模块a还要和f模块建立连接。这样情况在心里画一张连接图就会发现好像我们织了一张蜘蛛网，节点间的关系错综复杂，而且和方案一一样，我们添加一个和a关联的模块，就要修改模块a的代码，而且这种情况比多线程模型还有繁琐复杂的多了。这种做法绝对是个噩梦。

如何解决？我想很多人一定想到了采用总线分发的方式。了解android系统开发的会想到binder，了解openwrt的会想到ubus，了解桌面会想到dbus，互联网行业的开发者一定也知道redis里提供的sub/pub模块。

上面的binder，ubus等原理很简单，就是建立一个消息中心，构建一个转发路由模型，所有其他模块之间不直接交互，而是采用消息中心转发，路由，而如何决定路由规则，则采用订阅/发布的观察者模式来进行规则的定义。(嵌入式开发或者c语言开发者，经常会误以为设计模式是和面向对象语言关联的，是面向对象语言独有，虽然有很多大牛做了这方面的普及，但鉴于有些开发者的信息渠道比较闭塞，导致这种想法仍然十分盛行)

基于这个模型，我们上面例子的需求就很好解决了，加入一个消息中心模块，所有需要通信的模块只同该消息中心模块连接，然后订阅自己感兴趣的事件，当事件发生时，只需要进行相应的处理就可以了。

这样上面的模块b，c订阅模块a的事件，当模块a检测到某事件时，发布该事件，该事件先到达消息中心，在由消息中心转发给模块b，c，而对于新加入的模块f，也只需要订阅该模块，而不需要在修改到模块a的代码，使功能的扩展十分方便。

同时对于前面提到的定制化开发同样得到了简化，如果定制化版本需要加入模块g，这样只需要定制化版本中将模块g作为一个独立进程启动，然后订阅模块a的事件即可，而定制版本和通用版的区别就在于是否启动模块g的进程，从而实现了软件工程的一个目标：功能的添加如同搭积木一样，只需要把一个模块插入(启动)或拔出(不启动)即可，功能的改变只局限在一个或某几个模块间，对主体框架不会有任何影响。

以上大概描述了对一个项目需求逐步优化的过程，例子看似是基于嵌入式项目，但貌似对软件工程同样适用。

来到互联网行业：

查看下各大网站架构师对本网站技术架构变革分享的文章，首先提到的一般都是，基于业务将之前的一个应用服务器功能拆分，更加细化(比如电商对登录，注册，交易，商品，卖家等业务服务的拆分)，然后将拆分出来的服务部署在多台服务器上，来提供并发。这里是否有些耳熟，和前面讲到的多线程到多进程的划分是否有相似呢。

拆分后同样遇到通信的问题，此时很多消息中间件应运而生，比如阿里的duboo，简单了解下这些中间件的原理，无外乎订阅发布，RPC等机制，可以说大同小异，而难点在于协议的制定和性能处理的提升。

在对照下互联网行业的负载均衡方案，仿佛那个负载均衡的前端也像一个消息中心了。

上面说了这么多，只是想说明一个问题，软件的设计是相通的，基于的思想是相同的，虽然嵌入式行业的业务逻辑相对比较简单，但其实在仔细思考后，仍然会有很多架构上的改进，设计。

但是让我感到悲哀的是，有些嵌入式开发者，鉴于业务逻辑的简单，感觉采用一些不那么好的处理方式也能解决问题，不去思考如何去优化，改进。比如上面例子的方案一，如果在定制需求不多的情况下，维护起来也没太大问题，即使定制需求多了，再招些初级程序员也能维护的过来，一个人一套代码负责一个项目的公司也不是不存在。

同样互联网行业和嵌入式行业也不应该存在一个不可以逾越的高墙，我们更应该关注的是通用的软件工程思想。

免责声明：本文系网络转载，版权归原作者所有。如涉及作品版权问题，请与我们联系，我们将根据您提供的版权证明材料确认版权并支付稿酬或者删除内容