当前位置:   article > 正文

OpenHarmony实战:瑞芯微RK3568移植案例_rk3568 alsa 移植

rk3568 alsa 移植

本文章是基于瑞芯微RK3568芯片的DAYU200开发板,进行标准系统相关功能的移植,主要包括产品配置添加,内核启动、升级,音频ADM化,Camera,TP,LCD,WIFI,BT,vibrator、sensor、图形显示模块的适配案例总结,以及相关功能的适配。

产品配置和目录规划

产品配置

在产品//productdefine/common/device目录下创建以rk3568名字命名的json文件,并指定CPU的架构。//productdefine/common/device/rk3568.json配置如下:

  1. {
  2. "device_name": "rk3568",
  3. "device_company": "rockchip",
  4. "target_os": "ohos",
  5. "target_cpu": "arm",
  6. "kernel_version": "",
  7. "device_build_path": "device/board/hihope/rk3568",
  8. "enable_ramdisk": true, //是否支持ramdisk二级启动
  9. "build_selinux": true // 是否支持selinux权限管理
  10. }

//productdefine/common/products目录下创建以产品名命名的rk3568.json文件。该文件用于描述产品所使用的SOC 以及所需的子系统。配置如下

  1. {
  2. "product_name": "rk3568",
  3. "product_company" : "hihope",
  4. "product_device": "rk3568",
  5. "version": "2.0",
  6. "type": "standard",
  7. "parts":{
  8. "ace:ace_engine_standard":{},
  9. "ace:napi":{},
  10. ...
  11. "xts:phone_tests":{}
  12. }
  13. }

主要的配置内容包括:

  1. product_device:配置所使用的SOC。
  2. type:配置系统的级别, 这里直接standard即可。
  3. parts:系统需要启用的子系统。子系统可以简单理解为一块独立构建的功能块。

已定义的子系统可以在//build/subsystem_config.json中找到。当然你也可以定制子系统。

这里建议先拷贝Hi3516DV300开发板的配置文件,删除掉hisilicon_products这个子系统。这个子系统为Hi3516DV300 SOC编译内核,不适合rk3568。

目录规划

参考Board和SoC解耦的设计思路,并把芯片适配目录规划为:

  1. device
  2. ├── board --- 单板厂商目录
  3. │ └── hihope --- 单板厂商名字:
  4. │ └── rk3568 --- 单板名:rk3568,主要放置开发板相关的驱动业务代码
  5. └── soc --- SoC厂商目录
  6. └── rockchip --- SoC厂商名字:rockchip
  7. └── rk3568 --- SoC Series名:rk3568,主要为芯片原厂提供的一些方案,以及闭源库等
  1. vendor
  2. └── hihope
  3. └── rk3568 --- 产品名字:产品、hcs以及demo相关

内核启动

二级启动

二级启动简单来说就是将之前直接挂载sytem,从system下的init启动,改成先挂载ramdsik,从ramdsik中的init 启动,做些必要的初始化动作,如挂载system,vendor等分区,然后切到system下的init 。

Rk3568适配主要是将主线编译出来的ramdisk 打包到boot_linux.img中,主要有以下工作:

1.使能二级启动

在productdefine/common/device/rk3568.json 中使能enable_ramdisk。

  1. {
  2. "device_name": "rk3568",
  3. "device_company": "hihope",
  4. "target_os": "ohos",
  5. "target_cpu": "arm",
  6. "kernel_version": "",
  7. "device_build_path": "device/hihope/build",
  8. "enable_ramdisk": true,
  9. "build_selinux": true
  10. }

2.把主线编译出来的ramdsik.img 打包到boot_linux.img

配置:

由于rk 启动uboot 支持从ramdisk 启动,只需要在打包boot_linux.img 的配置文件中增加ramdisk.img ,因此没有使用主线的its格式,具体配置就是在内核编译脚本make-ohos.sh 中增加:

  1. function make_extlinux_conf()
  2. {
  3. dtb_path=$1
  4. uart=$2
  5. image=$3
  6. echo "label rockchip-kernel-5.10" > ${EXTLINUX_CONF}
  7. echo " kernel /extlinux/${image}" >> ${EXTLINUX_CONF}
  8. echo " fdt /extlinux/${TOYBRICK_DTB}" >> ${EXTLINUX_CONF}
  9. if [ "enable_ramdisk" == "${ramdisk_flag}" ]; then
  10. echo " initrd /extlinux/ramdisk.img" >> ${EXTLINUX_CONF}
  11. fi
  12. cmdline="append earlycon=uart8250,mmio32,${uart} root=PARTUUID=614e0000-0000-4b53-8000-1d28000054a9 rw rootwait rootfstype=ext4"
  13. echo " ${cmdline}" >> ${EXTLINUX_CONF}
  14. }

打包

增加了打包boot镜像的脚本make-boot.sh,供编译完ramdisk,打包boot 镜像时调用, 主要内容:

genext2fs -B ${blocks} -b ${block_size} -d boot_linux -i 8192 -U boot_linux.img

音频

RK3568 Audio总体结构图

dayu200-audio-01.png

ADM适配方案介绍

RK3568平台适配ADM框架图

  1. ADM Drivers adapter

    主要完成Codec/DMA/I2S驱动注册,使得ADM可以加载驱动节点;并注册ADM与Drivers交互的接口函数

  2. ADM Drivers impl

    主要完成ADM Drivers adapter接口函数的实现,以及Codec_config.hcs/dai_config.hcs等配置信息的获取,并注册到对应的设备

  3. Linux Drivers

    ADM Drivers impl可以直接阅读硬件手册,完成驱动端到端的配置;也可以借用Linux原生驱动实现与接口,减少开发者工作量。

目录结构
  1. ./device/board/hihope/rk3568/audio_drivers
  2. ├── codec
  3. │ └── rk809_codec
  4. │ ├── include
  5. │ │ ├── rk809_codec_impl.h
  6. │ │ └── rk817_codec.h
  7. │ └── src
  8. │ ├── rk809_codec_adapter.c
  9. │ ├── rk809_codec_linux_driver.c
  10. │ └── rk809_codec_ops.c
  11. ├── dai
  12. │ ├── include
  13. │ │ ├── rk3568_dai_linux.h
  14. │ │ └── rk3568_dai_ops.h
  15. │ └── src
  16. │ ├── rk3568_dai_adapter.c
  17. │ ├── rk3568_dai_linux_driver.c
  18. │ └── rk3568_dai_ops.c
  19. ├── dsp
  20. │ ├── include
  21. │ │ └── rk3568_dsp_ops.h
  22. │ └── src
  23. │ ├── rk3568_dsp_adapter.c
  24. │ └── rk3568_dsp_ops.c
  25. ├── include
  26. │ ├── audio_device_log.h
  27. │ └── rk3568_audio_common.h
  28. └── soc
  29. ├── include
  30. │ └── rk3568_dma_ops.h
  31. └── src
  32. ├── rk3568_dma_adapter.c
  33. └── rk3568_dma_ops.c

RK3568适配ADM详细过程

梳理平台Audio框架

梳理目标平台的Audio结构,明确数据流与控制流通路。

  1. 针对RK3568平台,Audio的结构相对简单见RK3568 Audio总体结构图,Codec作为一个独立设备。I2C完成对设备的控制,I2S完成Codec设备与CPU之间的交互。
  2. 结合原理图整理I2S通道号,对应的引脚编号;I2C的通道号,地址等硬件信息。
  3. 获取Codec对应的datasheet,以及RK3568平台的Datasheet(包含I2S/DMA通道等寄存器的介绍)。
熟悉并了解ADM结构

ADM结构框图如下,Audio Peripheral Drivers和Platform Drivers为平台适配需要完成的工作。

dayu200-audio-03.png

结合第1步梳理出来的Audio结构分析,Audio Peripheral Drivers包含Rk809的驱动,Platform Drivers包含DMA驱动和I2S驱动。

需要适配的驱动ADM对应模块接口文件路径
RK809驱动Accessorydrivers/framework/include/audio/audio_accessory_if.h
DMA驱动platformdrivers/framework/include/audio/audio_platform_if.h
I2S驱动DAIdrivers/framework/include/audio/audio_dai_if.h.h
搭建驱动代码框架
配置HCS文件

在device_info.hcs文件中Audio下注册驱动节点

  1. audio :: host {
  2. hostName = "audio_host";
  3. priority = 60;
  4. device_dai0 :: device {
  5. device0 :: deviceNode {
  6. policy = 1;
  7. priority = 50;
  8. preload = 0;
  9. permission = 0666;
  10. moduleName = "DAI_RK3568";
  11. serviceName = "dai_service";
  12. deviceMatchAttr = "hdf_dai_driver";
  13. }
  14. }
  15. device_codec :: device {
  16. device0 :: deviceNode {
  17. policy = 1;
  18. priority = 50;
  19. preload = 0;
  20. permission = 0666;
  21. moduleName = "CODEC_RK809";
  22. serviceName = "codec_service_0";
  23. deviceMatchAttr = "hdf_codec_driver";
  24. }
  25. }
  26. device_codec_ex :: device {
  27. device0 :: deviceNode {
  28. policy = 1;
  29. priority = 50;
  30. preload = 0;
  31. permission = 0666;
  32. moduleName = "CODEC_RK817";
  33. serviceName = "codec_service_1";
  34. deviceMatchAttr = "hdf_codec_driver_ex";
  35. }
  36. }
  37. device_dsp :: device {
  38. device0 :: deviceNode {
  39. policy = 1;
  40. priority = 50;
  41. preload = 0;
  42. permission = 0666;
  43. moduleName = "DSP_RK3568";
  44. serviceName = "dsp_service_0";
  45. deviceMatchAttr = "hdf_dsp_driver";
  46. }
  47. }
  48. device_dma :: device {
  49. device0 :: deviceNode {
  50. policy = 1;
  51. priority = 50;
  52. preload = 0;
  53. permission = 0666;
  54. moduleName = "DMA_RK3568";
  55. serviceName = "dma_service_0";
  56. deviceMatchAttr = "hdf_dma_driver";
  57. }
  58. }
  59. ......
  60. }

根据接入的设备,选择Codec节点还是Accessory节点,配置硬件设备对应的私有属性(包含寄存器首地址,相关control寄存器地址)涉及Codec_config.hcs和DAI_config.hcs

配置相关介绍见Audio hcs配置章节以及ADM框架的audio_parse模块代码。

codec/accessory模块
  1. 将驱动注册到HDF框架中,代码片段如下,启动moduleName与HCS文件的中moduleName一致

    1. struct HdfDriverEntry g_codecDriverEntry = {
    2. .moduleVersion = 1,
    3. .moduleName = "CODEC_HI3516",
    4. .Bind = CodecDriverBind,
    5. .Init = CodecDriverInit,
    6. .Release = CodecDriverRelease,
    7. };
    8. HDF_INIT(g_codecDriverEntry);
  2. Codec模块需要填充:

    g_codecData:codec设备的操作函数集和私有数据集。

    g_codecDaiDeviceOps:codecDai的操作函数集,包括启动传输和参数配置等函数接口。

    g_codecDaiData:codec的数字音频接口的操作函数集和私有数据集。

  3. 完成 bind、init和release函数的实现

  4. 验证

在bind和init函数加调试日志,编译版本并获取系统系统日志:

  1. [ 1.548624] [E/"rk809_codec_adapter"] [Rk809DriverBind][line:258]: enter
  2. [ 1.548635] [E/"rk809_codec_adapter"] [Rk809DriverBind][line:260]: success
  3. [ 1.548655] [E/"rk809_codec_adapter"] [Rk809DriverInit][line:270]: enter
  4. [ 1.549050] [E/"rk809_codec_adapter"] [GetServiceName][line:226]: enter
  5. [ 1.549061] [E/"rk809_codec_adapter"] [GetServiceName][line:250]: success
  6. [ 1.549072] [E/"rk809_codec_adapter"] [Rk809DriverInit][line:316]: g_chip->accessory.drvAccessoryName = codec_service_1
  7. [ 1.549085] [E/audio_core] [AudioSocRegisterDai][line:86]: Register [accessory_dai] success.
  8. [ 1.549096] [E/audio_core] [AudioRegisterAccessory][line:120]: Register [codec_service_1] success.
  9. [ 1.549107] [E/"rk809_codec_adapter"] [Rk809DriverInit][line:323]: success!
DAI模块
  1. 将I2S驱动注册到HDF框架中,代码片段如下,启动moduleName与HCS文件的中moduleName一致

    1. struct HdfDriverEntry g_daiDriverEntry = {
    2. .moduleVersion = 1,
    3. .moduleName = "DAI_RK3568",
    4. .Bind = DaiDriverBind,
    5. .Init = DaiDriverInit,
    6. .Release = DaiDriverRelease,
    7. };
    8. HDF_INIT(g_daiDriverEntry);
  2. DAI模块填充:

    1. struct AudioDaiOps g_daiDeviceOps = {
    2. .Startup = Rk3568DaiStartup,
    3. .HwParams = Rk3568DaiHwParams,
    4. .Trigger = Rk3568NormalTrigger,
    5. };
    6. struct DaiData g_daiData = {
    7. .Read = Rk3568DeviceReadReg,
    8. .Write = Rk3568DeviceWriteReg,
    9. .DaiInit = Rk3568DaiDeviceInit,
    10. .ops = &g_daiDeviceOps,
    11. };
  3. 完成 bind、init和release函数的实现

  4. 验证

    在bind/init函数加调试日志,编译版本并获取系统系统日志

    1. [ 1.549193] [I/device_node] launch devnode dai_service
    2. [ 1.549204] [E/HDF_LOG_TAG] [DaiDriverBind][line:38]: entry!
    3. [ 1.549216] [E/HDF_LOG_TAG] [DaiDriverBind][line:55]: success!
    4. [ 1.549504] [E/audio_core] [AudioSocRegisterDai][line:86]: Register [dai_service] success.
    5. [ 1.549515] [E/HDF_LOG_TAG] [DaiDriverInit][line:116]: success.
Platform模块
  1. 将DMA驱动注册到HDF框架中,代码片段如下,启动moduleName与HCS文件的中moduleName一致

    1. struct HdfDriverEntry g_platformDriverEntry = {
    2. .moduleVersion = 1,
    3. .moduleName = "DMA_RK3568",
    4. .Bind = PlatformDriverBind,
    5. .Init = PlatformDriverInit,
    6. .Release = PlatformDriverRelease,
    7. };
    8. HDF_INIT(g_platformDriverEntry);
  2. DMA模块需要填充:

    1. struct AudioDmaOps g_dmaDeviceOps = {
    2. .DmaBufAlloc = Rk3568DmaBufAlloc,
    3. .DmaBufFree = Rk3568DmaBufFree,
    4. .DmaRequestChannel = Rk3568DmaRequestChannel,
    5. .DmaConfigChannel = Rk3568DmaConfigChannel,
    6. .DmaPrep = Rk3568DmaPrep,
    7. .DmaSubmit = Rk3568DmaSubmit,
    8. .DmaPending = Rk3568DmaPending,
    9. .DmaPause = Rk3568DmaPause,
    10. .DmaResume = Rk3568DmaResume,
    11. .DmaPointer = Rk3568PcmPointer,
    12. };
    13. struct PlatformData g_platformData = {
    14. .PlatformInit = AudioDmaDeviceInit,
    15. .ops = &g_dmaDeviceOps,
    16. };
  3. 完成 bind、init和release函数的实现

  4. 验证

    在bind和init函数加调试日志,编译版本并获取系统系统日志

    1. [ 1.548469] [E/rk3568_platform_adapter] [PlatformDriverBind][line:42]: entry!
    2. [ 1.548481] [E/rk3568_platform_adapter] [PlatformDriverBind][line:58]: success!
    3. [ 1.548492] [E/rk3568_platform_adapter] [PlatformDriverInit][line:100]: entry.
    4. [ 1.548504] [E/rk3568_platform_adapter] [PlatformGetServiceName][line:67]: entry!
    5. [ 1.548515] [E/rk3568_platform_adapter] [PlatformGetServiceName][line:91]: success!
    6. [ 1.548528] [E/audio_core] [AudioSocRegisterPlatform][line:63]: Register [dma_service_0] success.
    7. [ 1.548536] [E/rk3568_platform_adapter] [PlatformDriverInit][line:119]: success.
驱动适配
code/accessory模块
  1. 读取DTS文件,获取到对应设备节点,使用Linux原生的驱动注册函数,获取到对应device。

    1. static int rk817_platform_probe(struct platform_device *pdev) {
    2. rk817_pdev = pdev;
    3. dev_info(&pdev->dev, "got rk817-codec platform_device");
    4. return 0;
    5. }
    6. static struct platform_driver rk817_codec_driver = {
    7. .driver = {
    8. .name = "rk817-codec", // codec node in dts file
    9. .of_match_table = rk817_codec_dt_ids,
    10. },
    11. .probe = rk817_platform_probe,
    12. .remove = rk817_platform_remove,
    13. };
  2. 读写寄存器函数封装 根据上述获取到的device, 使用Linux的regmap函数,开发者不需要获取模块的基地址 获取rk817的regmap代码段

    1. g_chip = devm_kzalloc(&rk817_pdev->dev, sizeof(struct Rk809ChipData), GFP_KERNEL);
    2. if (!g_chip) {
    3. AUDIO_DEVICE_LOG_ERR("no memory");
    4. return HDF_ERR_MALLOC_FAIL;
    5. }
    6. g_chip->pdev = rk817_pdev;
    7. struct rk808 *rk808 = dev_get_drvdata(g_chip->pdev->dev.parent);
    8. if (!rk808) {
    9. AUDIO_DEVICE_LOG_ERR("%s: rk808 is NULL\n", __func__);
    10. ret = HDF_FAILURE;
    11. RK809ChipRelease();
    12. return ret;
    13. }
    14. g_chip->regmap = devm_regmap_init_i2c(rk808->i2c,
    15. &rk817_codec_regmap_config);
    16. if (IS_ERR(g_chip->regmap)) {
    17. AUDIO_DEVICE_LOG_ERR("failed to allocate regmap: %ld\n", PTR_ERR(g_chip->regmap));
    18. RK809ChipRelease();
    19. return ret;
    20. }

    寄存器读写函数代码段

    1. int32_t Rk809DeviceRegRead(uint32_t reg, uint32_t *val)
    2. {
    3. if (regmap_read(g_chip->regmap, reg, val)) {
    4. AUDIO_DRIVER_LOG_ERR("read register fail: [%04x]", reg);
    5. return HDF_FAILURE;
    6. }
    7. return HDF_SUCCESS;
    8. }
    9. int32_t Rk809DeviceRegWrite(uint32_t reg, uint32_t value) {
    10. if (regmap_write(g_chip->regmap, reg, value)) {
    11. AUDIO_DRIVER_LOG_ERR("write register fail: [%04x] = %04x", reg, value);
    12. return HDF_FAILURE;
    13. }
    14. return HDF_SUCCESS;
    15. }
    16. int32_t Rk809DeviceRegUpdatebits(uint32_t reg, uint32_t mask, uint32_t value) {
    17. if (regmap_update_bits(g_chip->regmap, reg, mask, value)) {
    18. AUDIO_DRIVER_LOG_ERR("update register bits fail: [%04x] = %04x", reg, value);
    19. return HDF_FAILURE;
    20. }
    21. return HDF_SUCCESS;
    22. }
  3. 寄存器初始化函数

    因为使用Linux的regmap函数,所以需要自行定义RegDefaultInit函数,读取hcs中initSeqConfig的寄存器以及数值来进行配置

    RK809RegDefaultInit代码段

    1. int32_t RK809RegDefaultInit(struct AudioRegCfgGroupNode **regCfgGroup)
    2. {
    3. int32_t i;
    4. struct AudioAddrConfig *regAttr = NULL;
    5. if (regCfgGroup == NULL || regCfgGroup[AUDIO_INIT_GROUP] == NULL ||
    6. regCfgGroup[AUDIO_INIT_GROUP]->addrCfgItem == NULL || regCfgGroup[AUDIO_INIT_GROUP]->itemNum <= 0) {
    7. AUDIO_DEVICE_LOG_ERR("input invalid parameter.");
    8. return HDF_ERR_INVALID_PARAM;
    9. }
    10. regAttr = regCfgGroup[AUDIO_INIT_GROUP]->addrCfgItem;
    11. for (i = 0; i < regCfgGroup[AUDIO_INIT_GROUP]->itemNum; i++) {
    12. Rk809DeviceRegWrite(regAttr[i].addr, regAttr[i].value);
    13. }
    14. return HDF_SUCCESS;
    15. }
  4. 封装控制接口的读写函数

    设置控制读写函数为RK809CodecReadReg和RK809CodecWriteReg

    1. struct CodecData g_rk809Data = {
    2. .Init = Rk809DeviceInit,
    3. .Read = RK809CodecReadReg,
    4. .Write = RK809CodecWriteReg,
    5. };
    6. struct AudioDaiOps g_rk809DaiDeviceOps = {
    7. .Startup = Rk809DaiStartup,
    8. .HwParams = Rk809DaiHwParams,
    9. .Trigger = RK809NormalTrigger,
    10. };
    11. struct DaiData g_rk809DaiData = {
    12. .DaiInit = Rk809DaiDeviceInit,
    13. .ops = &g_rk809DaiDeviceOps,
    14. };

    封装控制接口的读写函数

    因为原来的读写原型,涉及三个参数(unsigned long virtualAddress,uint32_t reg, uint32_t *val),其中virtualAddress我们并不需要用到,所以封装个接口即可,封装如下

    1. int32_t RK809CodecReadReg(unsigned long virtualAddress,uint32_t reg, uint32_t *val)
    2. {
    3. if (val == NULL) {
    4. AUDIO_DRIVER_LOG_ERR("param val is null.");
    5. return HDF_FAILURE;
    6. }
    7. if (Rk809DeviceRegRead(reg, val)) {
    8. AUDIO_DRIVER_LOG_ERR("read register fail: [%04x]", reg);
    9. return HDF_FAILURE;
    10. }
    11. ADM_LOG_ERR("read reg 0x[%02x] = 0x[%02x]",reg,*val);
    12. return HDF_SUCCESS;
    13. }
    14. int32_t RK809CodecWriteReg(unsigned long virtualAddress,uint32_t reg, uint32_t value)
    15. {
    16. if (Rk809DeviceRegWrite(reg, value)) {
    17. AUDIO_DRIVER_LOG_ERR("write register fail: [%04x] = %04x", reg, value);
    18. return HDF_FAILURE;
    19. }
    20. ADM_LOG_ERR("write reg 0x[%02x] = 0x[%02x]",reg,value);
    21. return HDF_SUCCESS;
    22. }
  5. 其他ops函数

  • Rk809DeviceInit,读取hcs文件,初始化Codec寄存器,同时将对应的control配置(/* reg, rreg, shift, rshift, min, max, mask, invert, value */添加到kcontrol,便于dispatch contro进行控制
  • Rk809DaiStartup, 读取hcs文件,配置可选设备(codec/accessory)的控制寄存器
  • Rk809DaiHwParams, 根据hal下发的audio attrs(采样率、format、channel等),配置对应的寄存器
  • RK809NormalTrigger,根据hal下发的操作命令码,操作对应的寄存器,实现Codec的启动停止、录音和放音的切换等
DAI(i2s)模块
  1. 读写寄存器函数 思路与Codec模块的一致,读取Linux DTS文件,使用Linux的regmap函数完成寄存器的读写操作

    1. int32_t Rk3568DeviceReadReg(unsigned long regBase, uint32_t reg, uint32_t *val)
    2. {
    3. AUDIO_DEVICE_LOG_ERR("entry");
    4. (void)regBase;
    5. struct device_node *dmaOfNode = of_find_node_by_path("/i2s@fe410000");
    6. if(dmaOfNode == NULL) {
    7. AUDIO_DEVICE_LOG_ERR("of_node is NULL.");
    8. }
    9. struct platform_device *platformdev = of_find_device_by_node(dmaOfNode);
    10. struct rk3568_i2s_tdm_dev *i2s_tdm = dev_get_drvdata(&platformdev->dev);
    11. (void)regBase;
    12. if (regmap_read(i2s_tdm->regmap, reg, val)) {
    13. AUDIO_DEVICE_LOG_ERR("read register fail: [%04x]", reg);
    14. return HDF_FAILURE;
    15. }
    16. return HDF_SUCCESS;
    17. }
    18. int32_t Rk3568DeviceWriteReg(unsigned long regBase, uint32_t reg, uint32_t value)
    19. {
    20. AUDIO_DEVICE_LOG_ERR("entry");
    21. (void)regBase;
    22. struct device_node *dmaOfNode = of_find_node_by_path("/i2s@fe410000");
    23. if(dmaOfNode == NULL) {
    24. AUDIO_DEVICE_LOG_ERR("of_node is NULL.");
    25. }
    26. struct platform_device *platformdev = of_find_device_by_node(dmaOfNode);
    27. struct rk3568_i2s_tdm_dev *i2s_tdm = dev_get_drvdata(&platformdev->dev);
    28. if (regmap_write(i2s_tdm->regmap, reg, value)) {
    29. AUDIO_DEVICE_LOG_ERR("write register fail: [%04x] = %04x", reg, value);
    30. return HDF_FAILURE;
    31. }
    32. return HDF_SUCCESS;
    33. }
  2. 其他ops函数

  • Rk3568DaiDeviceInit 原始框架,主要完成DAI_config.hcs参数列表的读取,与HwParams结合,完成参数的设置。

  • Rk3568DaiHwParams 主要完成I2S MCLK/BCLK/LRCLK时钟配置。

    1. 根据不同采样率计算MCLK
    1. int32_t RK3568I2sTdmSetSysClk(struct rk3568_i2s_tdm_dev *i2s_tdm, const struct AudioPcmHwParams *param)
    2. {
    3. /* Put set mclk rate into rockchip_i2s_tdm_set_mclk() */
    4. uint32_t sampleRate = param->rate;
    5. uint32_t mclk_parent_freq = 0;
    6. switch (sampleRate) {
    7. case AUDIO_DEVICE_SAMPLE_RATE_8000:
    8. case AUDIO_DEVICE_SAMPLE_RATE_16000:
    9. case AUDIO_DEVICE_SAMPLE_RATE_24000:
    10. case AUDIO_DEVICE_SAMPLE_RATE_32000:
    11. case AUDIO_DEVICE_SAMPLE_RATE_48000:
    12. case AUDIO_DEVICE_SAMPLE_RATE_64000:
    13. case AUDIO_DEVICE_SAMPLE_RATE_96000:
    14. mclk_parent_freq = i2s_tdm->bclk_fs * AUDIO_DEVICE_SAMPLE_RATE_192000;
    15. break;
    16. case AUDIO_DEVICE_SAMPLE_RATE_11025:
    17. case AUDIO_DEVICE_SAMPLE_RATE_22050:
    18. case AUDIO_DEVICE_SAMPLE_RATE_44100:
    19. mclk_parent_freq = i2s_tdm->bclk_fs * AUDIO_DEVICE_SAMPLE_RATE_176400;
    20. break;
    21. default:
    22. AUDIO_DEVICE_LOG_ERR("Invalid LRCK freq: %u Hz\n", sampleRate);
    23. return HDF_FAILURE;
    24. }
    25. i2s_tdm->mclk_tx_freq = mclk_parent_freq;
    26. i2s_tdm->mclk_rx_freq = mclk_parent_freq;
    27. return HDF_SUCCESS;
    28. }
    1. 根据获取的mclk,计算BCLK/LRclk分频系数
  • Rk3568NormalTrigger 根据输入输出类型,以及cmd(启动/停止/暂停/恢复),完成一系列配置:

    1. mclk的启停
    2. DMA搬运的启停
    3. 传输的启停 详细实现见代码,参考Linux原生I2s驱动对应接口函数
    1. // 启动/恢复流程
    2. if (streamType == AUDIO_RENDER_STREAM) {
    3. clk_prepare_enable(i2s_tdm->mclk_tx);
    4. regmap_update_bits(i2s_tdm->regmap, I2S_DMACR,
    5. I2S_DMACR_TDE_ENABLE,
    6. I2S_DMACR_TDE_ENABLE);
    7. } else {
    8. clk_prepare_enable(i2s_tdm->mclk_rx);
    9. regmap_update_bits(i2s_tdm->regmap, I2S_DMACR,
    10. I2S_DMACR_RDE_ENABLE,
    11. I2S_DMACR_RDE_ENABLE);
    12. if (regmap_read(i2s_tdm->regmap, I2S_DMACR, &val)) {
    13. AUDIO_DEVICE_LOG_ERR("read register fail: [%04x]", I2S_DMACR);
    14. return ;
    15. }
    16. AUDIO_DEVICE_LOG_ERR("i2s reg: 0x%x = 0x%x ", I2S_DMACR, val);
    17. }
    18. if (atomic_inc_return(&i2s_tdm->refcount) == 1) {
    19. regmap_update_bits(i2s_tdm->regmap, I2S_XFER,
    20. I2S_XFER_TXS_START |
    21. I2S_XFER_RXS_START,
    22. I2S_XFER_TXS_START |
    23. I2S_XFER_RXS_START);
    24. if (regmap_read(i2s_tdm->regmap, I2S_XFER, &val)) {
    25. AUDIO_DEVICE_LOG_ERR("read register fail: [%04x]", I2S_XFER);
    26. return ;
    27. }
    28. AUDIO_DEVICE_LOG_ERR("i2s reg: 0x%x = 0x%x ", I2S_XFER, val);
    29. }
Platform(DMA)模块

ops函数相关函数

  1. Rk3568DmaBufAlloc/Rk3568DmaBufFree

    获取DMA设备节点,参考I2s设备获取方式,使用系统函数dma_alloc_wc/dma_free_wc,完成DMA虚拟内存与物理内存的申请/释放

  2. Rk3568DmaRequestChannel

    使用Linux DMA原生接口函数获取DMA传输通道,dma_request_slave_channel

dmaRtd->dmaChn[streamType] = dma_request_slave_channel(dmaDevice, dmaChannelNames[streamType]);
  1. Rk3568DmaConfigChannel
  1. //设置通道配置参数
  2. // 放音通道参数配置
  3. slave_config.direction = DMA_MEM_TO_DEV;
  4. slave_config.dst_addr_width = DMA_SLAVE_BUSWIDTH_4_BYTES;
  5. slave_config.dst_addr = I2S1_ADDR + I2S_TXDR;
  6. slave_config.dst_maxburst = 8;
  7. // 录音通道参数配置
  8. slave_config.direction = DMA_DEV_TO_MEM;
  9. slave_config.src_addr_width = DMA_SLAVE_BUSWIDTH_4_BYTES;
  10. slave_config.src_addr = I2S1_ADDR + I2S_RXDR;
  11. slave_config.src_maxburst = 8;
  12. //使用Linux DMA原生接口函数完成DMA通道配置
  13. ret = dmaengine_slave_config(dmaChan, &slave_config);
  14. if (ret != 0) {
  15. AUDIO_DEVICE_LOG_ERR("dmaengine_slave_config failed");
  16. return HDF_FAILURE;
  17. }
  1. Rk3568DmaSubmit/Rk3568DmaPending

    使用Linux DMA原生接口函数dmaengine_prep_dma_cyclic,初始化一个具体的周期性的DMA传输描述符dmaengine_submit接口将该描述符放到传输队列上,然后调用dma_async_issue_pending接口,启动传输。

  2. Rk3568PcmPointer

第4步完成之后,ADM框架调用Rk3568PcmPointer,循环写cirBuf,计算pointer

  1. dma_chn = dmaRtd->dmaChn[DMA_TX_CHANNEL];
  2. buf_size = data->renderBufInfo.cirBufSize;
  3. dmaengine_tx_status(dma_chn, dmaRtd->cookie[DMA_TX_CHANNEL], &dma_state);
  4. if (dma_state.residue) {
  5. currentPointer = buf_size - dma_state.residue;
  6. *pointer = BytesToFrames(data->pcmInfo.frameSize, currentPointer);
  7. } else {
  8. *pointer = 0;
  9. }
  1. Rk3568DmaPause

    使用Linux DMA原生接口函数dmaengine_terminate_async,停止DMA传输

     dmaengine_terminate_async(dmaChan);
  2. Rk3568DmaResume

    暂停使用的DMA停止函数,对应恢复,相当于重启DMA传输,执行Rk3568DmaSubmit/Rk3568DmaPending相关操作即可完成

适配中遇到问题与解决方案
  1. 播放一段时间后,停止播放,持续有尖锐的很小的声音 问题原因:播放停止后,Codec相关器件没有下电 解决方案:注册Codec的trigger函数,当接收到Cmd为Stop时,对Codec进行下电

  2. 播放一段时间后,停止播放,然后重新播放没有声音 问题原因:DMA驱动的PAUSE接口函数,并未停止DMA传输 解决方案:暂停状态不再使用DMA的PAUSE函数,而是使用DAM传输停止接口; 相对应的,恢复函数的业务逻辑相当于重启DMA传输,执行 Rk3568DmaSubmit/Rk3568DmaPending相关操作即可完成

  3. 播放存在杂音 问题原因:DMA数据搬运pointer位置不正确 解决方案:Rk3568PcmPointer函数返回值为DMA搬运的内存位置,用缓存区buf与dma_state.residue的差值计算

  4. 可以放音,但Mclk引脚没有时钟信号 问题原因:DTS文件pin-ctrl没有配置mclk的引脚 解决方案:修改DTS文件

Camera

基本概念

OpenHarmony相机驱动框架模型对上实现相机HDI接口,对下实现相机Pipeline模型,管理相机各个硬件设备。各层的基本概念如下。

  1. HDI实现层:对上实现OHOS相机标准南向接口。

  2. 框架层:对接HDI实现层的控制、流的转发,实现数据通路的搭建、管理相机各个硬件设备等功能。

  3. 适配层:屏蔽底层芯片和OS差异,支持多平台适配。

Camera驱动框架介绍

源码框架介绍

Camera 驱动框架所在的仓为:drivers_peripheral,源码目录为:“drivers/peripheral/camera”。

  1. |-- README_zh.md
  2. |-- figures
  3. | -- logic-view-of-modules-related-to-this-repository_zh.png
  4. |-- hal
  5. | |-- BUILD.gn #Camera驱动框架构建入口
  6. | |-- adapter #平台适配层,适配平台
  7. | |-- buffer_manager
  8. | |-- camera.gni #定义组件所使用的全局变量
  9. | |-- device_manager
  10. | |-- hdi_impl
  11. | |-- include
  12. | |-- init #demo sample
  13. | |-- pipeline_core
  14. | |-- test #测试代码
  15. | |-- utils
  16. |-- hal_c #为海思平台提供专用C接口
  17. | |-- BUILD.gn
  18. | |-- camera.gni
  19. | |-- hdi_cif
  20. | |-- include
  21. |-- interfaces #HDI接口
  22. |-- hdi_ipc
  23. |-- hdi_passthrough
  24. |-- include

Camera hcs文件是每个chipset可配置的。所以放在chipset相关的仓下。以rk3568为例。仓名为: vendor_hihope,源码目录为:“vendor/hihope/rk3568/hdf_config/uhdf/camera”。

  1. ├── hdi_impl
  2. │ └── camera_host_config.hcs
  3. └── pipeline_core
  4. ├── config.hcs
  5. ├── ipp_algo_config.hcs
  6. └── params.hcs

Camera chipset 相关代码路径以3568为例仓名为:device_hihope。路径为:device/board/hihope/rk3568/camera/

  1. ├── BUILD.gn
  2. ├── demo
  3. │ └── include
  4. │ └── project_camera_demo.h
  5. ├── device_manager
  6. │ ├── BUILD.gn
  7. │ ├── include
  8. │ │ ├── imx600.h
  9. │ │ ├── project_hardware.h
  10. │ │ └── rkispv5.h
  11. │ └── src
  12. │ ├── imx600.cpp
  13. │ └── rkispv5.cpp
  14. ├── driver_adapter
  15. │ └── test
  16. │ ├── BUILD.gn
  17. │ ├── unittest
  18. │ │ ├── include
  19. │ │ │ └── utest_v4l2_dev.h
  20. │ │ └── src
  21. │ │ └── utest_v4l2_dev.cpp
  22. │ └── v4l2_test
  23. │ └── include
  24. │ └── project_v4l2_main.h
  25. └── pipeline_core
  26. ├── BUILD.gn
  27. └── src
  28. ├── ipp_algo_example
  29. │ └── ipp_algo_example.c
  30. └── node
  31. ├── rk_codec_node.cpp
  32. └── rk_codec_node.h
Camera 驱动框架配置

RK3568 配置文件路径:

“vendor/hihope/rk3568/hdf_config/uhdf/device_info.hcs”。说明:其他平台可参考RK3568适配。

  1. hdi_server :: host {
  2. hostName = "camera_host";
  3. priority = 50;
  4. caps = ["DAC_OVERRIDE", "DAC_READ_SEARCH"];
  5. camera_device :: device {
  6. device0 :: deviceNode {
  7. policy = 2;
  8. priority = 100;
  9. moduleName = "libcamera_hdi_impl.z.so";
  10. serviceName = "camera_service";
  11. }
  12. }
  13. ...
  14. }

参数说明: Host:一个host节点即为一个独立进程,如果需要独立进程,新增属于自己的host节点。 Policy: 服务发布策略,HDI服务请设置为“2” moduleName: 驱动实现库名。 serviceName:服务名称,请保持全局唯一性。

Camera_host驱动实现入口

文件路径:drivers/peripheral/camera/interfaces/hdi_ipc/server/src/camera_host_driver.cpp

分发设备服务消息 cmd Id:请求消息命令字。 Data:其他服务或者IO请求数据。 Reply:存储返回消息内容数据。

  1. static int32_t CameraServiceDispatch(struct HdfDeviceIoClient *client, int cmdId,
  2. struct HdfSBuf *data, struct HdfSBuf *reply)
  3. {
  4. HdfCameraService *hdfCameraService = CONTAINER_OF(client->device->service, HdfCameraService, ioservice);
  5. return CameraHostServiceOnRemoteRequest(hdfCameraService->instance, cmdId, data, reply);
  6. }

绑定设备服务:初始化设备服务对象和资源对象。

  1. int HdfCameraHostDriverBind(HdfDeviceObject *deviceObject)
  2. {
  3. HDF_LOGI("HdfCameraHostDriverBind enter!");
  4. if (deviceObject == nullptr) {
  5. HDF_LOGE("HdfCameraHostDriverBind: HdfDeviceObject is NULL !");
  6. return HDF_FAILURE;
  7. }

驱动初始化函数: 探测并初始化驱动程序

  1. int HdfCameraHostDriverInit(struct HdfDeviceObject *deviceObject)
  2. {
  3. return HDF_SUCCESS;
  4. }

驱动资源释放函数 : 如已经绑定的设备服务对象

  1. void HdfCameraHostDriverRelease(HdfDeviceObject *deviceObject)
  2. {
  3. if (deviceObject == nullptr || deviceObject->service == nullptr) {
  4. HDF_LOGE("%{public}s deviceObject or deviceObject->service is NULL!", __FUNCTION__);
  5. return;
  6. }
  7. HdfCameraService *hdfCameraService = CONTAINER_OF(deviceObject->service, HdfCameraService, ioservice);
  8. if (hdfCameraService == nullptr) {
  9. HDF_LOGE("%{public}s hdfCameraService is NULL!", __FUNCTION__);
  10. return;
  11. }

定义驱动描述符:将驱动代码注册给驱动框架。

  1. struct HdfDriverEntry g_cameraHostDriverEntry = {
  2. .moduleVersion = 1,
  3. .moduleName = "camera_service",
  4. .Bind = HdfCameraHostDriverBind,
  5. .Init = HdfCameraHostDriverInit,
  6. .Release = HdfCameraHostDriverRelease,
  7. };
Camera配置信息介绍

Camera模块内部,所有配置文件使用系统支持的HCS类型的配置文件,HCS类型的配置文件,在编译时,会转成HCB文件,最终烧录到开发板里的配置文件即为HCB格式,代码中通过HCS解析接口解析HCB文件,获取配置文件中的信息。

  1. hc_gen("build_camera_host_config") {
  2. sources = [ rebase_path(
  3. "$camera_product_name_path/hdf_config/uhdf/camera/hdi_impl/camera_host_config.hcs") ]
  4. }
  5. ohos_prebuilt_etc("camera_host_config.hcb") {
  6. deps = [ ":build_camera_host_config" ]
  7. hcs_outputs = get_target_outputs(":build_camera_host_config")
  8. source = hcs_outputs[0]
  9. relative_install_dir = "hdfconfig"
  10. install_images = [ chipset_base_dir ]
  11. subsystem_name = "hdf"
  12. part_name = "camera_device_driver"
  13. }

Camera适配介绍

新产品平台适配简介

drivers/peripheral/camera/hal/camera.gni 文件中可根据编译时传入的product_company product_name和device_name调用不同chipset的product.gni

  1. if (defined(ohos_lite)) {
  2. import("//build/lite/config/component/lite_component.gni")
  3. import(
  4. "//device/soc/hisilicon/common/hal/media/camera/hi3516dv300/linux_standard/camera/product.gni")
  5. } else {
  6. import("//build/ohos.gni")
  7. if ("${product_name}" == "ohos-arm64") {
  8. import(
  9. "//drivers/peripheral/camera/hal/adapter/chipset/rpi/rpi3/device/camera/product.gni")
  10. } else if ("${product_name}" == "Hi3516DV300") {
  11. import(
  12. "//device/soc/hisilicon/common/hal/media/camera/hi3516dv300/linux_standard/camera/product.gni")
  13. } else if ("${product_name}" == "watchos") {
  14. import(
  15. "//device/soc/hisilicon/common/hal/media/camera/hi3516dv300/linux_standard/camera/product.gni")
  16. } else {
  17. import(
  18. "//device/board/${product_company}/${device_name}/camera/product.gni")
  19. }
  20. }

在如下路径的product.gni指定了编译不同chipset相关的代码的路径:

 device/${product_company}/${device_name}/camera/

如下是rk3568的product.gni:

  1. camera_device_name_path = "//device/board/${product_company}/${device_name}"
  2. is_support_v4l2 = true
  3. if (is_support_v4l2) {
  4. is_support_mpi = false
  5. defines += [ "SUPPORT_V4L2" ]
  6. chipset_build_deps = "$camera_device_name_path/camera/:chipset_build"
  7. camera_device_manager_deps =
  8. "$camera_device_name_path/camera/src/device_manager:camera_device_manager"
  9. camera_pipeline_core_deps =
  10. "$camera_device_name_path/camera/src/pipeline_core:camera_pipeline_core"
  11. }

product.gni中指定了chipset_build_deps camera_device_manager_deps 和 camera_pipeline_core_deps 三个代码编译路径。该路径在drivers/peripheral/camera/hal/BUILD.gn中会被使用

框架适配介绍
    ![dayu200-camera-01.png](figures/dayu200/dayu200-camera-01.png)

以V4l2为例,pipeline的连接方式是在HCS配置文件中配置连接,数据源我们称之为SourceNode,主要包括硬件设备的控制、数据流的轮转等。 ISPNode可根据需要确定是否添加此Node,因为在很多操作上其都可以和SensorNode统一为SourceNode。SinkNode为pipeline中数据传输的重点,到此处会将数据传输回buffer queue中。

​ pipeline中的Node是硬件/软件模块的抽象,所以对于其中硬件模块Node,其是需要向下控制硬件模块的,在控制硬件模块前,需要先获取其对应硬件模块的deviceManager,通过deviceManager向下传输控制命令/数据buffer,所以deviceManager中有一个v4l2 device manager抽象模块,用来创建各个硬件设备的manager、controller.如上sensorManager、IspManager,sensorController等,所以v4l2 device manager其实是各个硬件设备总的一个管理者。

deviceManager中的controller和驱动适配层直接交互。

基于以上所描述,如需适配一款以linux v4l2框架的芯片平台,只需要修改适配如上图中颜色标记模块及HCS配置文件(如为标准v4l2框架,基本可以延用当前已适配代码),接下来单独介绍修改模块。

主要适配添加如下目录:

​ “vendor/hihope/rk3568/hdf_config/uhdf/camera/”:当前芯片产品的HCS配置文件目录。

​ “device/hihope/rk3568/camera/”:当前芯片产品的代码适配目录。

​ “drivers/peripheral/camera/hal/adapter/platform/v4l2”:平台通用公共代码。

HCS配置文件适配介绍
  1. ├── hdi_impl
  2. │ └── camera_host_config.hcs
  3. └── pipeline_core
  4. ├── config.hcs
  5. ├── ipp_algo_config.hcs
  6. └── params.hcs

RK3568开发板为例,其hcs文件应该放在对应的路径中。

 vendor/${product_company}/${product_name}/ hdf_config/uhdf/camera/  
  1. template ability {
  2. logicCameraId = "lcam001";
  3. physicsCameraIds = [
  4. "CAMERA_FIRST",
  5. "CAMERA_SECOND"
  6. ];
  7. metadata {
  8. aeAvailableAntiBandingModes = [
  9. "OHOS_CONTROL_AE_ANTIBANDING_MODE_OFF",
  10. "OHOS_CONTROL_AE_ANTIBANDING_MODE_50HZ",
  11. "OHOS_CONTROL_AE_ANTIBANDING_MODE_60HZ",
  12. "OHOS_CONTROL_AE_ANTIBANDING_MODE_AUTO"
  13. ];

hdi_impl下的“camera_host_config.hcs”为物理/逻辑Camera配置、能力配置,此处的物理/逻辑Camera配置,需要在hal内部使用,逻辑Camera及能力配置需要上报给上层,请按照所适配的芯片产品添加其能力配置。其中所用的能力值为键值对,定义在//drivers/peripheral/camera/hal/hdi_impl/include/camera_host/metadata_enum_map.h中。

  1. normal_preview :: pipeline_spec {
  2. name = "normal_preview";
  3. v4l2_source :: node_spec {
  4. name = "v4l2_source#0";
  5. status = "new";
  6. out_port_0 :: port_spec {
  7. name = "out0";
  8. peer_port_name = "in0";
  9. peer_port_node_name = "sink#0";
  10. direction = 1;
  11. width = 0;
  12. height = 0;
  13. format = 0;
  14. }
  15. }
  16. sink :: node_spec {
  17. name = "sink#0";
  18. status = "new";
  19. stream_type = "preview";
  20. in_port_0 :: port_spec {
  21. name = "in0";
  22. peer_port_name = "out0";
  23. peer_port_node_name = "v4l2_source#0";
  24. direction = 0;
  25. }
  26. }
  27. }

pipeline_core下的“config.hcs”为pipeline的连接方式,按场景划分每一路流由哪些Node组成,其连接方式是怎样的。

上面为preview场景的示例,normal_preview为该场景的名称,source和sink为Node,source为数据数据源端,sink为末端,source为第一个node,node的名称是source#0,status、in/out_port分别为Node状态及输入/输出口的配置。

以in_port_0为例,name = “in0”代表它的输入为“port0”,它的对端为source node的port口out0口,direction为它的源Node和对端Node是否为直连方式。如新添加芯片产品,必须按实际连接方式配置此文件。

新增功能node时需继承NodeBase类,且在cpp文件中注册该node。具体可参考//drivers/peripheral/camera/hal/pipeline_core/nodes/src下已经实现的node。

  1. root {
  2. module = "";
  3. template stream_info {
  4. id = 0;
  5. name = "";
  6. }
  7. template scene_info {
  8. id = 0;
  9. name = "";
  10. }
  11. preview :: stream_info {
  12. id = 0;
  13. name = "preview";
  14. }
  15. video :: stream_info {
  16. id = 1;
  17. name = "video";
  18. }

param.hcs为场景、流类型名及其id定义,pipeline内部是以流id区分流类型的,所以此处需要添加定义。

Chipset 和Platform适配介绍

platform为平台性公共代码,如linux标准v4l2适配接口定义,为v4l2框架适配的通用node.以及为v4l2框架适配的通用device_manager等。目录结构如下:

  1. drivers/peripheral/camera/hal/adapter/platform
  2. ├── mpp
  3. │ └── src
  4. │ ├── device_manager
  5. │ └── pipeline_core
  6. └── v4l2
  7. └── src
  8. ├── device_manager
  9. ├── driver_adapter
  10. └── pipeline_core

“platform”目录下的“v4l2”包含了“src”, “src”中“driver_adapter”为linux v4l2标准适配接口,如有定制化功能需求,可继承driver_adapter,将定制化的具体功能接口放在chipset中实现。如无芯片定制化功能,可直接使用已有的driver_adapter。

platform目录下的Nodes为依据linux v4l2标准实现的硬件模块v4l2_source_node和uvc_node(usb热插拔设备,此模块也为linux标准接口,可直接使用),如下图为v4l2_source_node的接口声明头文件。

  1. namespace OHOS::Camera {
  2. class V4L2SourceNode : public SourceNode {
  3. public:
  4. V4L2SourceNode(const std::string& name, const std::string& type);
  5. ~V4L2SourceNode() override;
  6. RetCode Init(const int32_t streamId) override;
  7. RetCode Start(const int32_t streamId) override;
  8. RetCode Flush(const int32_t streamId) override;
  9. RetCode Stop(const int32_t streamId) override;
  10. RetCode GetDeviceController();
  11. void SetBufferCallback() override;
  12. RetCode ProvideBuffers(std::shared_ptr<FrameSpec> frameSpec) override;
  13. private:
  14. std::mutex requestLock_;
  15. std::map<int32_t, std::list<int32_t>> captureRequests_ = {};
  16. std::shared_ptr<SensorController> sensorController_ = nullptr;
  17. std::shared_ptr<IDeviceManager> deviceManager_ = nullptr;
  18. };
  19. } // namespace OHOS::Camera

Init接口为模块初始化接口。

Start为使能接口,比如start stream功能等。

Stop为停止接口。

GetDeviceController为获取deviceManager对应的controller接口。

chipset为具体某芯片平台相关代码,例如,如和“rk3568”开发板 为例。device_manager目录下可存放该开发板适配过的sensor的相关配置文件。pipeline_core路径下可以存放由chipset开发者为满足特点需求增加的pipeline node等。

  1. device/board/hihope/rk3568/camera
  2. ├── BUILD.gn
  3. ├── camera_demo
  4. │ └── project_camera_demo.h
  5. ├── include
  6. │ └── device_manager
  7. ├── product.gni
  8. └── src
  9. ├── device_manager
  10. ├── driver_adapter
  11. └── pipeline_core

device/board/hihope/rk3568/camera/目录包含了“include”和“src”,“camera_demo”“src”中“device­­_manager”中包含了chipset 适配的sensor的文件,配合platform下device_manager的设备管理目录,主要对接pipeline,实现平台特有的硬件处理接口及数据buffer的下发和上报、metadata的交互。

下图为device_manager的实现框图,pipeline控制管理各个硬件模块,首先要获取对应设备的manager,通过manager获取其对应的controller,controller和对应的驱动进行交互 。

img

deviceManager中需要实现关键接口介绍。

  1. class SensorController : public IController {
  2. public:
  3. SensorController();
  4. explicit SensorController(std::string hardwareName);
  5. virtual ~SensorController();
  6. RetCode Init();
  7. RetCode PowerUp();
  8. RetCode PowerDown();
  9. RetCode Configure(std::shared_ptr<CameraStandard::CameraMetadata> meta);
  10. RetCode Start(int buffCont, DeviceFormat& format);
  11. RetCode Stop();
  12. RetCode SendFrameBuffer(std::shared_ptr<FrameSpec> buffer);
  13. void SetNodeCallBack(const NodeBufferCb cb);
  14. void SetMetaDataCallBack(const MetaDataCb cb);
  15. void BufferCallback(std::shared_ptr<FrameSpec> buffer);
  16. void SetAbilityMetaDataTag(std::vector<int32_t> abilityMetaDataTag);
  17. }

PowerUp为上电接口,OpenCamera时调用此接口进行设备上电操作。 PowerDown为下电接口,CloseCamera时调用此接口进行设备下电操作。 Configures为Metadata下发接口,如需设置metadata参数到硬件设备,可实现此接口进行解析及下发。 Start为硬件模块使能接口,pipeline中的各个node进行使能的时候,会去调用,可根据需要定义实现,比如sensor的起流操作就可放在此处进行实现。 Stop和Start为相反操作,可实现停流操作。 SendFrameBuffer为每一帧buffer下发接口,所有和驱动进行buffer交互的操作,都是通过此接口进行的。 SetNodeCallBack为pipeline,通过此接口将buffer回调函数设置到devicemanager。 SetMetaDataCallBack为metadata回调接口,通过此接口将从底层获取的metadata数据上报给上层。 BufferCallback上传每一帧已填充数据buffer的接口,通过此接口将buffer上报给pipeline。 SetAbilityMetaDataTag设置需要从底层获取哪些类型的metadata数据,因为框架支持单独获取某一类型或多类型的硬件设备信息,所以可以通过此接口,获取想要的metadata数据。

其余接口可参考“drivers/peripheral/camera/hal/adapter/platform/v4l2/src/device_manager/”

IPP适配介绍

IPP是pipeline 中的一个算法插件模块,由ippnode加载,对流数据进行算法处理,ippnode支持同时多路数据输入,只支持一路数据输出。ippnode加载算法插件通过如下hcs文件指定: vendor/productcompany/��������������/{product_name}/hdf_config/uhdf/camera/pipeline_core/ipp_algo_config.hcs 其中:

  1. root {
  2. module="sample";
  3. ipp_algo_config {
  4. algo1 {
  5. name = "example";
  6. description = "example algorithm";
  7. path = "libcamera_ipp_algo_example.z.so";
  8. mode = "IPP_ALGO_MODE_NORMAL";
  9. }
  10. }
  11. }

name:算法插件名称 description:描述算法插件的功能 path:算法插件所在路径 mode:算法插件所运行的模式

算法插件可运行的模式由 drivers/peripheral/camera/hal/pipeline_core/ipp/include/ipp_algo.h中的IppAlgoMode提供,可以根据需要进行扩展。

  1. enum IppAlgoMode {
  2. IPP_ALGO_MODE_BEGIN,
  3. IPP_ALGO_MODE_NORMAL = IPP_ALGO_MODE_BEGIN,
  4. IPP_ALGO_MODE_BEAUTY,
  5. IPP_ALGO_MODE_HDR,
  6. IPP_ALGO_MODE_END
  7. };

算法插件由gn文件 device/productcompany/��������������/{device_name}/camera/BUILD.gn进行编译,算法插件需实现如下接口(接口由ipp_algo.h指定)供ippnode调用:

  1. typedef struct IppAlgoFunc {
  2. int (*Init)(IppAlgoMeta* meta);
  3. int (*Start)();
  4. int (*Flush)();
  5. int (*Process)(IppAlgoBuffer* inBuffer[], int inBufferCount, IppAlgoBuffer* outBuffer, IppAlgoMeta* meta);
  6. int (*Stop)();
  7. } IppAlgoFunc;

1) Init : 算法插件初始化接口,在起流前被ippnode 调用,其中IppAlgoMeta 定义在ipp_algo.h 中,为ippnode和算法插件提供非图像数据的传递通道,如当前运行的场景,算法处理后输出的人脸坐标等等,可根据实际需求进行扩展。 2) Start:开始接口,起流时被ippnode 调用 3) Flush:刷新数据的接口,停流之前被ippnode 调用。此接口被调用时,算法插件需尽可能快地停止处理。 4) Process: 数据处理接口,每帧数据都通过此接口输入至算法插件进行处理。inBuffer是一组输入buffer,inBufferCount是输入buffer 的个数,outBuffer是输出buffer,meta是算法处理时产生的非图像数据,IppAlgoBuffer在ipp_algo.h中定义 5) Stop:停止处理接口,停流时被ippnode调用

  1. typedef struct IppAlgoBuffer {
  2. void* addr;
  3. unsigned int width;
  4. unsigned int height;
  5. unsigned int stride;
  6. unsigned int size;
  7. int id;
  8. } IppAlgoBuffer;

其中上边代码中的id指的是和ippnode对应的port口id,比如inBuffer[0]的id为0,则对应的是ippnode 的第0个输入port口。需要注意的是outBuffer可以为空,此时其中一个输入buffer 被ippnode作为输出buffer传递到下个node,inBuffer至少有一个buffer不为空。输入输出buffer 由pipeline配置决定。 比如在普通预览场景无算法处理且只有一路拍照数据传递到ippnode的情况下,输入buffer只有一个,输出buffer为空,即对于算法插件输入buffer 进行了透传; 比如算法插件进行两路预览图像数据进行合并的场景,第一路buffer需要预览送显示。把第二路图像拷贝到第一路的buffer即可,此时输入buffer有两个,输出buffer为空; 比如在算法插件中进行预览数据格式转换的场景,yuv转换为RGBA,那么只有一个yuv格式的输入buffer的情况下无法完成RGBA格式buffer的输出,此时需要一个新的buffer,那么ippnode的输出port口buffer作为outBuffer传递到算法插件。也即输入buffer只有一个,输出buffer也有一个。

ippnode的port口配置请查看3.3小节的config.hcs的说明。

适配V4L2驱动实例

本章节目的是在v4l2框架下适配RK3568开发板。

区分V4L2 platform相关代码并将其放置“drivers/peripheral/camera/hal/adapter/platform/v4l2”目录下,该目录中包含了“device_manager”“driver_adapter”和“pipeline_core”三个目录。其中“driver_adapter”目录中存放着v4l2协议相关代码。可通过它们实现与v4l2底层驱动交互。该目录下“Pipeline_core”目录与“drivers/peripheral/camera/hal/pipeline_core”中代码组合为pipeline框架。v4l2_source_node 和 uvc_node为v4l2专用Node。device_manager目录存放着向北与pipeline向南与v4l2 adapter交互的代码

  1. drivers/peripheral/camera/hal/adapter/platform/v4l2/src/
  2. ├── device_manager
  3. │ ├── enumerator_manager.cpp
  4. │ ├── flash_controller.cpp
  5. │ ├── flash_manager.cpp
  6. │ ├── idevice_manager.cpp
  7. │ ├── include
  8. │ ├── isp_controller.cpp
  9. │ ├── isp_manager.cpp
  10. │ ├── sensor_controller.cpp
  11. │ ├── sensor_manager.cpp
  12. │ └── v4l2_device_manager.cpp
  13. ├── driver_adapter
  14. │ ├── BUILD.gn
  15. │ ├── include
  16. │ ├── main_test
  17. │ └── src
  18. └── pipeline_core
  19. └── nodes

区分V4L2 chipset相关代码并将其放置在“device/ productcompany/��������������/{device_name} /camera”目录下。

  1. ├── BUILD.gn
  2. ├── camera_demo
  3. │ └── project_camera_demo.h
  4. ├── include
  5. │ └── device_manager
  6. ├── product.gni
  7. └── src
  8. ├── device_manager
  9. ├── driver_adapter
  10. └── pipeline_core

其中“driver_adapter”目录中包含了关于RK3568 driver adapter的测试用例头文件。Camera_demo目录存放了camera hal 中demo测试用例的chipset相关的头文件。device_manager存放了RK3568适配的camera sensor 读取设备能力的代码 其中,project_hardware.h 比较关键,存放了device_manager支持当前chipset的设备列表。如下:

  1. namespace OHOS::Camera {
  2. std::vector<HardwareConfiguration> hardware = {
  3. {CAMERA_FIRST, DM_M_SENSOR, DM_C_SENSOR, (std::string) "rkisp_v5"},
  4. {CAMERA_FIRST, DM_M_ISP, DM_C_ISP, (std::string) "isp"},
  5. {CAMERA_FIRST, DM_M_FLASH, DM_C_FLASH, (std::string) "flash"},
  6. {CAMERA_SECOND, DM_M_SENSOR, DM_C_SENSOR, (std::string) "Imx600"},
  7. {CAMERA_SECOND, DM_M_ISP, DM_C_ISP, (std::string) "isp"},
  8. {CAMERA_SECOND, DM_M_FLASH, DM_C_FLASH, (std::string) "flash"}
  9. };
  10. } // namespace OHOS::Camera

修改编译选项来达到根据不同的编译chipset来区分v4l2和其他框架代码编译。增加device/productcompany/��������������/{device_name}/camera/product.gni

  1. camera_product_name_path = "//vendor/${product_company}/${product_name}"
  2. camera_device_name_path = "//device/board/${product_company}/${device_name}"
  3. is_support_v4l2 = true
  4. if (is_support_v4l2) {
  5. is_support_mpi = false
  6. defines += [ "SUPPORT_V4L2" ]
  7. chipset_build_deps = "$camera_device_name_path/camera/:chipset_build"
  8. camera_device_manager_deps =
  9. "$camera_device_name_path/camera/src/device_manager:camera_device_manager"
  10. camera_pipeline_core_deps =
  11. "$camera_device_name_path/camera/src/pipeline_core:camera_pipeline_core"
  12. }

当“product.gni”被// drivers/peripheral/camera/hal/camera.gni加载,就说明要编译v4l2相关代码。在//drivers/peripheral/camera/hal/camera.gni中根据编译时传入的product_name和device_name名来加载相应的gni文件。

  1. import("//build/ohos.gni")
  2. if ("${product_name}" == "ohos-arm64") {
  3. import(
  4. "//drivers/peripheral/camera/hal/adapter/chipset/rpi/rpi3/device/camera/product.gni")
  5. } else if ("${product_name}" == "Hi3516DV300") {
  6. import(
  7. "//device/soc/hisilicon/common/hal/media/camera/hi3516dv300/linux_standard/camera/product.gni")

“drivers/peripheral/camera/hal/BUILD.gn”中会根据 chipset_build_deps camera_device_manager_deps 和 camera_pipeline_core_deps来编译不同的chipset

  1. print("product_name : , ${product_name}")
  2. group("camera_hal") {
  3. if (is_standard_system) {
  4. deps = [
  5. "$camera_path/../interfaces/hdi_ipc/client:libcamera_client",
  6. "buffer_manager:camera_buffer_manager",
  7. "device_manager:camera_device_manager",
  8. "hdi_impl:camera_hdi_impl",
  9. "init:ohos_camera_demo",
  10. "pipeline_core:camera_pipeline_core",
  11. "utils:camera_utils",
  12. ]
  13. deps += [ "${chipset_build_deps}" ]
  14. }

Camera hal层向下屏蔽了平台及芯片差异,对外(Camera service或者测试程序)提供统一接口,其接口定义在“drivers/peripheral/camera/interfaces/include”目录下:

  1. ├── icamera_device_callback.h
  2. ├── icamera_device.h
  3. ├── icamera_host_callback.h
  4. ├── icamera_host.h
  5. ├── ioffline_stream_operator.h
  6. ├── istream_operator_callback.h
  7. ├── istream_operator.h

测试时,只需要针对所提供的对外接口进行测试,即可完整测试Camera hal层代码,具体接口说明,可参考“drivers/peripheral/camera/interfaces”目录下的“README_zh.md”和头文件接口定义。具体的调用流程,可参考测试demo:drivers/peripheral/camera/hal/init。

camera适配过程中问题以及解决方案

修改SUBWINDOW_TYPE和送显format

修改RGBA888送显,模式由video 改为 SUBWINDOW_TYPE为normal模式:

由于openharmony 较早实现的是3516平台camera, 该平台采用PIXEL_FMT_YCRCB_420_SP格式送显,而RK3568需将预览流由yuv420转换为PIXEL_FMT_RGBA_8888送上屏幕才可被正确的显示。具体需修改foundation/ace/ace_engine/frameworks/core/components/camera/standard_system/camera.cpp 文件中如下内容,该文件被编译在libace.z.so中

  1. #ifdef PRODUCT_RK
  2. previewSurface_->SetUserData(SURFACE_FORMAT, std::to_string(PIXEL_FMT_RGBA_8888));
  3. previewSurface_->SetUserData(CameraStandard::CameraManager::surfaceFormat,
  4. std::to_string(OHOS_CAMERA_FORMAT_RGBA_8888));
  5. #else
  6. previewSurface_->SetUserData(SURFACE_FORMAT, std::to_string(PIXEL_FMT_YCRCB_420_SP));
  7. previewSurface_->SetUserData(CameraStandard::CameraManager::surfaceFormat,
  8. std::to_string(OHOS_CAMERA_FORMAT_YCRCB_420_SP));
  9. #endif

foundation/multimedia/camera_standard/services/camera_service/src/hstream_repeat.cpp 文件中如下内容,该文件被编译在libcamera_service.z.so中

  1. void HStreamRepeat::SetStreamInfo(std::shared_ptr<Camera::StreamInfo> streamInfo)
  2. {
  3. int32_t pixelFormat;
  4. auto it = g_cameraToPixelFormat.find(format_);
  5. if (it != g_cameraToPixelFormat.end()) {
  6. pixelFormat = it->second;
  7. } else {
  8. #ifdef RK_CAMERA
  9. pixelFormat = PIXEL_FMT_RGBA_8888;
  10. #else
  11. pixelFormat = PIXEL_FMT_YCRCB_420_SP;
  12. #endif

如上3516平台是使用VO通过VO模块驱动直接送显,所以在ace中配置的subwindows模式为SUBWINDOW_TYPE_VIDEO. 需在foundation/ace/ace_engine/frameworks/core/components/camera/standard_system/camera.cpp文件中做如下修改,该文件被编译在libace.z.so中

  1. #ifdef PRODUCT_RK
  2. option->SetWindowType(SUBWINDOW_TYPE_NORMAL);
  3. #else
  4. option->SetWindowType(SUBWINDOW_TYPE_VIDEO);
  5. #endif
增加rk_codec_node

在该node中完成rgb转换,jpeg和h264压缩编解码前文讲过camera hal的pipeline模型的每一个node都是camera数据轮转过程中的一个节点,由于当前camera hal v4l2 adapter只支持一路流进行数据轮转,那么拍照和录像流就必须从单一的预览流中拷贝。现阶段openharmony也没有专门的服务端去做codec和rgb转换jpeg压缩的工作。那么只能在camera hal中开辟一个专有node去做这些事情,也就是rk_codec_node。 Hcs中增加rk_codec_node连接模型: 修改vendor/hihope/rk3568/hdf_config/uhdf/camera/pipeline_core/config.hcs文件

  1. normal_preview_snapshot :: pipeline_spec {
  2. name = "normal_preview_snapshot";
  3. v4l2_source :: node_spec {
  4. name = "v4l2_source#0";
  5. status = "new";
  6. out_port_0 :: port_spec {
  7. name = "out0";
  8. peer_port_name = "in0";
  9. peer_port_node_name = "fork#0";
  10. direction = 1;
  11. }
  12. }
  13. fork :: node_spec {
  14. name = "fork#0";
  15. status = "new";
  16. in_port_0 :: port_spec {
  17. name = "in0";
  18. peer_port_name = "out0";
  19. peer_port_node_name = "v4l2_source#0";
  20. direction = 0;
  21. }
  22. out_port_0 :: port_spec {
  23. name = "out0";
  24. peer_port_name = "in0";
  25. peer_port_node_name = "RKCodec#0";
  26. direction = 1;
  27. }
  28. out_port_1 :: port_spec {
  29. name = "out1";
  30. peer_port_name = "in0";
  31. peer_port_node_name = "RKCodec#1";
  32. direction = 1;
  33. }
  34. }
  35. RKCodec_1 :: node_spec {
  36. name = "RKCodec#0";
  37. status = "new";
  38. in_port_0 :: port_spec {
  39. name = "in0";
  40. peer_port_name = "out0";
  41. peer_port_node_name = "fork#0";
  42. direction = 0;
  43. }
  44. out_port_0 :: port_spec {
  45. name = "out0";
  46. peer_port_name = "in0";
  47. peer_port_node_name = "sink#0";
  48. direction = 1;
  49. }
  50. }
  51. RKCodec_2 :: node_spec {
  52. name = "RKCodec#1";

以预览加拍照双路流为列,v4l2_source_node为数据源,流向了fork_node,rork_node将预览数据直接送给RKCodec node, 将拍照数据流拷贝一份也送给RKCodec node进行转换。转换完成的数据将送给sink node后交至buffer的消费端。

device/board/hihope/rk3568/camera/src/pipeline_core/BUILD.gn中添加rk_codec_node.cpp和相关依赖库的编译。其中librga为yuv到rgb格式转换库,libmpp为yuv到H264编解码库,libjpeg为yuv到jpeg照片的压缩库。

  1. ohos_shared_library("camera_pipeline_core") {
  2. sources = [
  3. "$camera_device_name_path/camera/src/pipeline_core/node/rk_codec_node.cpp",
  4. "$camera_path/adapter/platform/v4l2/src/pipeline_core/nodes/uvc_node/uvc_node.cpp",
  5. "$camera_path/adapter/platform/v4l2/src/pipeline_core/nodes/v4l2_source_node/v4l2_source_node.cpp",
  6. deps = [
  7. "$camera_path/buffer_manager:camera_buffer_manager",
  8. "$camera_path/device_manager:camera_device_manager",
  9. "//device/soc/rockchip/hardware/mpp:libmpp",
  10. "//device/soc/rockchip/hardware/rga:librga",
  11. "//foundation/multimedia/camera_standard/frameworks/native/metadata:metadata",
  12. "//third_party/libjpeg:libjpeg_static",

openharmony/device/board/hihope/rk3568/camera/src/pipeline_core/node/rk_codec_node.cpp主要接口:

  1. void RKCodecNode::DeliverBuffer(std::shared_ptr<IBuffer>& buffer)
  2. {
  3. if (buffer == nullptr) {
  4. CAMERA_LOGE("RKCodecNode::DeliverBuffer frameSpec is null");
  5. return;
  6. }
  7. int32_t id = buffer->GetStreamId();
  8. CAMERA_LOGE("RKCodecNode::DeliverBuffer StreamId %{public}d", id);
  9. if (buffer->GetEncodeType() == ENCODE_TYPE_JPEG) {
  10. Yuv420ToJpeg(buffer);
  11. } else if (buffer->GetEncodeType() == ENCODE_TYPE_H264) {
  12. Yuv420ToH264(buffer);
  13. } else {
  14. Yuv420ToRGBA8888(buffer);
  15. }

由fork_node出来的数据流将会被deliver到rk_codec_node的DeliverBuffer接口中,该接口会根据不同的EncodeType去做不同的转换处理。经过转换过的buffers再deliver到下一级node中处理。直到deliver到buffer消费者手中。

H264帧时间戳和音频时间戳不同步问题。

问题点:Ace在CreateRecorder时会同时获取音频和视频数据并将他们合成为.mp4文件。但在实际合成过程当中需要检查音视频信息中的时间戳是否一致,如不一致将会Recorder失败。表现出的现象是camera app点击录像按钮后无法正常停止,强行停止后发现mp4文件为空。

解决方法:首先需找到audio模块对于音频时间戳的获取方式。

  1. int32_t AudioCaptureAsImpl::GetSegmentInfo(uint64_t &start)
  2. {
  3. CHECK_AND_RETURN_RET(audioCapturer_ != nullptr, MSERR_INVALID_OPERATION);
  4. AudioStandard::Timestamp timeStamp;
  5. auto timestampBase = AudioStandard::Timestamp::Timestampbase::MONOTONIC;
  6. CHECK_AND_RETURN_RET(audioCapturer_->GetAudioTime(timeStamp, timestampBase), MSERR_UNKNOWN);
  7. CHECK_AND_RETURN_RET(timeStamp.time.tv_nsec >= 0 && timeStamp.time.tv_sec >= 0, MSERR_UNKNOWN);
  8. if (((UINT64_MAX - timeStamp.time.tv_nsec) / SEC_TO_NANOSECOND) <= static_cast<uint64_t>(timeStamp.time.tv_sec)) {
  9. MEDIA_LOGW("audio frame pts too long, this shouldn't happen");
  10. }
  11. start = timeStamp.time.tv_nsec + timeStamp.time.tv_sec * SEC_TO_NANOSECOND;
  12. MEDIA_LOGI("timestamp from audioCapturer: %{public}" PRIu64 "", start);
  13. return MSERR_OK;
  14. }

可以看到,audio_capture_as_impl.cpp 文件中。audio模块用的是CLOCK_MONOTONIC,即系统启动时开始计时的相对时间。而camera 模块使用的是CLOCK_REALTIME,即系统实时时间。

  1. mppStatus_ = 1;
  2. buf_size = ((MpiEncTestData *)halCtx_)->frame_size;
  3. ret = hal_mpp_encode(halCtx_, dma_fd, (unsigned char *)buffer->GetVirAddress(), &buf_size);
  4. SearchIFps((unsigned char *)buffer->GetVirAddress(), buf_size, buffer);
  5. buffer->SetEsFrameSize(buf_size);
  6. clock_gettime(CLOCK_MONOTONIC, &ts);
  7. timestamp = ts.tv_nsec + ts.tv_sec * TIME_CONVERSION_NS_S;
  8. buffer->SetEsTimestamp(timestamp);
  9. CAMERA_LOGI("RKCodecNode::Yuv420ToH264 video capture on\n");

解决方法:修改camera hal中rk_codec_node.cpp中的获取时间类型为CLOCK_MONOTONIC即可解决问题。

time_t改为64位以后匹配4.19 kernel问题。

背景介绍:RK3568在遇到这个问题时的环境是上层运行的32位系统,底层是linux4.19 64位kernel。在32位系统环境下time_t这个typedef是long类型的,也就是32位。但在下面这个提交中将time_t 改成_Int64位。这样就会导致camera v4l2在ioctl时发生错误。

  1. TYPEDEF _Int64 time_t;
  2. TYPEDEF _Int64 suseconds_t;

具体错误以及临时修改方案:

1,发生错误时在hilog中搜索camera_host 会发现在V4L2AllocBuffer接口中下发VIDIOC_QUERYBUF的CMD时上报了一个Not a tty的错误。如下:

V4L2AllocBuffer error:ioctl VIDIOC_QUERYBUF failed: Not a tty
  1. RetCode HosV4L2Buffers::V4L2AllocBuffer(int fd, const std::shared_ptr<FrameSpec>& frameSpec)
  2. {
  3. struct v4l2_buffer buf = {};
  4. struct v4l2_plane planes[1] = {};
  5. CAMERA_LOGD("V4L2AllocBuffer\n");
  6. if (frameSpec == nullptr) {
  7. CAMERA_LOGE("V4L2AllocBuffer frameSpec is NULL\n");
  8. return RC_ERROR;
  9. }
  10. switch (memoryType_) {
  11. case V4L2_MEMORY_MMAP:
  12. // to do something
  13. break;
  14. case V4L2_MEMORY_USERPTR:
  15. buf.type = bufferType_;
  16. buf.memory = memoryType_;
  17. buf.index = (uint32_t)frameSpec->buffer_->GetIndex();
  18. if (bufferType_ == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE) {
  19. buf.m.planes = planes;
  20. buf.length = 1;
  21. }
  22. CAMERA_LOGD("V4L2_MEMORY_USERPTR Print the cnt: %{public}d\n", buf.index);
  23. if (ioctl(fd, VIDIOC_QUERYBUF, &buf) < 0) {
  24. CAMERA_LOGE("error: ioctl VIDIOC_QUERYBUF failed: %{public}s\n", strerror(errno));
  25. return RC_ERROR;

2,我们知道,一般ioctl系统调用的CMD都是以第三个参数的sizeof为CMD值主要组成传递进内核去寻找内核中相对应的switch case. 如下图,v4l2_buffer为VIDIOC_QUERYBUF宏的值得主要组成部分,那么v4l2_buffer的size发生变化,VIDIOC_QUERYBUF的值也会发生变化。

  1. #define VIDIOC_S_FMT _IOWR('V', 5, struct v4l2_format)
  2. #define VIDIOC_REQBUFS _IOWR('V', 8, struct v4l2_requestbuffers)
  3. #define VIDIOC_QUERYBUF _IOWR('V', 9, struct v4l2_buffer)
  4. #define VIDIOC_G_FBUF _IOR('V', 10, struct v4l2_framebuffer)

3,当kernel 打开CONFIG_COMPAT这个宏时,可以实现32位系统到64位kernel的兼容,对于32位系统下发的ioctl会先进入下面截图中的接口里去做cmd值由32到64位的转换。

  1. long v4l2_compat_ioctl32(struct file *file, unsigned int cmd, unsigned long arg)
  2. {
  3. struct video_device *vdev = video_devdata(file);
  4. long ret = -ENOIOCTLCMD;
  5. if (!file->f_op->unlocked_ioctl)
  6. return ret;
  7. if (_IOC_TYPE(cmd) == 'V' && _IOC_NR(cmd) < BASE_VIDIOC_PRIVATE)
  8. ret = do_video_ioctl(file, cmd, arg);
  9. else if (vdev->fops->compat_ioctl32)
  10. ret = vdev->fops->compat_ioctl32(file, cmd, arg);

4,那么在kernel中会定义一个kernel认为的VIDIOC_QUERYBUF的值。

  1. #define VIDIOC_S_FMT32 _IOWR('V', 5, struct v4l2_format32)
  2. #define VIDIOC_QUERYBUF32 _IOWR('V', 9, struct v4l2_buffer32)
  3. #define VIDIOC_QUERYBUF32_TIME32 _IOWR('V', 9, struct v4l2_buffer32_time32)

5,前文提到过,上层musl中time_t已经由32位被改为64位,v4l2_buffer结构体中的struct timeval中就用到了time_t。那么应用层的v4l2_buffer的大小就会跟kernel层的不一致,因为kernel的struct timeval 中编译时使用的是kernel自己在time.h中定义的 kernel_time_t。这就导致应用和驱动层对于v4l2_buffer的sizeof计算不一致从而调用到内核态后找不到cmd的错误。

  1. struct v4l2_buffer {
  2. __u32 index;
  3. __u32 type;
  4. __u32 bytesused;
  5. __u32 flags;
  6. __u32 field;
  7. struct timeval timestamp;
  8. struct v4l2_timecode timecode;
  9. __u32 sequence;

6,临时解决方案是修改videodev2.h中的struct timeval为自己临时定义的结构体, 保证上下层size一致。如下:

  1. struct timeval1 {
  2. long tv_sec;
  3. long tv_usec;
  4. }
  5. struct v4l2_buffer {
  6. __u32 index;
  7. __u32 type;
  8. __u32 bytesused;
  9. __u32 flags;
  10. __u32 field;
  11. struct timeval1 timestamp;
  12. struct v4l2_timecode timecode;

根本解决方案:

如需要根本解决这个问题,只有两种方法。第一将系统升级为64位系统,保证用户态和内核态对于time_t变量的size保持一致。第二,升级5.10之后版本的kernel 因为5.10版本的kernel在videodev2.h文件中解决了这个情况。目前我们已在5.10的kernel上验证成功,如下图,可以看到在编译kernel时考虑到了64位time_t的问题。

  1. struct v4l2_buffer {
  2. __u32 index;
  3. __u32 type;
  4. __u32 bytesused;
  5. __u32 flags;
  6. __u32 field;
  7. #ifdef __KERNEL__
  8. struct __kernel_v4l2_timeval timestamp;
  9. #else
  10. struct timeval timestamp;
  11. #endif
  12. struct v4l2_timecode timecode;
  13. }
  14. struct __kernel_v4l2_timeval {
  15. long long ._sec;
  16. #if defined(__sparc__) && defined(__arch64__)
  17. int tv_usec;
  18. int __pad;
  19. #else
  20. long long tv_usec;
  21. #endif
  22. };
H264 关键帧获取上报

H264除了需要上报经过编解码的数据外,还需上报关键帧信息。即这一帧是否为关键帧?mp4编码时需要用到这些信息,那么怎么分析那一帧是关键帧那?主要是分析NALU头信息。Nalu type & 0x1f就代表该帧的类型。Nalu头是以0x00000001或0x000001为起始标志的。 该图为nal_unit_type为不同数值时的帧类型。我们主要关心type为5也就是IDR帧信息。 

1647875911244

rk_cedec_node.cpp文件里对IDR帧分析进行了代码化:

  1. static constexpr uint32_t nalBit = 0x1F;
  2. #define NAL_TYPE(value) ((value) & nalBit)
  3. void RKCodecNode::SearchIFps(unsigned char* buf, size_t bufSize, std::shared_ptr<IBuffer>& buffer)
  4. {
  5. size_t nalType = 0;
  6. size_t idx = 0;
  7. size_t size = bufSize;
  8. constexpr uint32_t nalTypeValue = 0x05;
  9. if (buffer == nullptr || buf == nullptr) {
  10. CAMERA_LOGI("RKCodecNode::SearchIFps parameter == nullptr");
  11. return;
  12. }
  13. for (int i = 0; i < bufSize; i++) {
  14. int ret = findStartCode(buf + idx, size);
  15. if (ret == -1) {
  16. idx += 1;
  17. size -= 1;
  18. } else {
  19. nalType = NAL_TYPE(buf[idx + ret]);
  20. CAMERA_LOGI("ForkNode::ForkBuffers nalu == 0x%{public}x buf == 0x%{public}x \n", nalType, buf[idx + ret]);

每经过一个h264转换过的buffer都会被传入SearchIFps接口中寻找IDR帧。其中findStartCode()接口会对buffer中的内容逐个字节扫描,知道寻找出NALU头来

  1. int RKCodecNode::findStartCode(unsigned char *data, size_t dataSz)
  2. {
  3. constexpr uint32_t dataSize = 4;
  4. constexpr uint32_t dataBit2 = 2;
  5. constexpr uint32_t dataBit3 = 3;
  6. if (data == nullptr) {
  7. CAMERA_LOGI("RKCodecNode::findStartCode parameter == nullptr");
  8. return -1;
  9. }
  10. if ((dataSz > dataSize) && (data[0] == 0) && (data[1] == 0) && \
  11. (data[dataBit2] == 0) && (data[dataBit3] == 1)) {
  12. return 4; // 4:start node
  13. }
  14. return -1;
  15. }

当找到NALU头后就会对&0x1F 找出nal_unit_type,如果type为5标记关键帧信息并通过buffer->SetEsKeyFrame(1);接口上报。

TP

TP驱动模型

主要包含Input模块HDI(Hardware Driver Interface)接口定义及其实现,对上层输入服务提供操作input设备的驱动能力接口,HDI接口主要包括如下三大类:

  • InputManager:管理输入设备,包括输入设备的打开、关闭、设备列表信息获取等;
  • InputReporter:负责输入事件的上报,包括注册、注销数据上报回调函数等;
  • InputController:提供input设备的业务控制接口,包括获取器件信息及设备类型、设置电源状态等。

图 1 INPUT模块HDI接口层框架图

dayu200-tp-01.png

相关目录下源代码目录结构如下所示

  1. /drivers/peripheral/input
  2. ├── hal # input模块的hal层代码
  3. │ └── include # input模块hal层内部的头文件
  4. │ └── src # input模块hal层代码的具体实现
  5. ├── interfaces # input模块对上层服务提供的驱动能力接口
  6. │ └── include # input模块对外提供的接口定义
  7. ├── test # input模块的测试代码
  8. │ └── unittest # input模块的单元测试代码

详细请参考input子系统README

TP HDF驱动适配

TP驱动涉及的文件及目录

dayu200平台默认支持GT5688这颗TP IC。

开发板移植touch驱动涉及的文件及目录:

1、 Makefile文件: drivers\adapter\khdf\linux\model\input\Makefile

2、 vendor\hihope\rk3568\hdf_config\khdf\device_info\device_info.hcs

3、 vendor\hihope\rk3568\hdf_config\khdf\input\input_config.hcs

4、 drivers\framework\model\input\driver\touchscreen

TP驱动的适配涉及TP驱动和hcs配置

tp驱动的适配依赖hdf的input模型,hdf的input模型提供了TP,KEY,HID等场景的设备注册,管理,数据转发层,hcs解析等场景的支持能力。hdf的input模型可大致抽象为驱动管理层、公共驱动层以及器件驱动三层。

从功能的角度看hdf input模块的框架如下:

dayu200-tp-02.png

因为hdf input模型的高度抽象集成,TP驱动的适配驱动主要涉及器件驱动层的适配。

在适配前,需要先明确tp所需要的的资源。

对于硬件资源,tp模组需要主机上的如下资源:

1.中断引脚

2.Reset引脚

3.使用的哪一组i2c,从设备的地址是什么

4.TP的初始化固件(这个通常由IC厂商提供)

5.触摸屏的分辨率

对于软件资源,在hdf上适配tp,需要依赖如下几个hdf基础模组:

1.Hdf gpio子系统 用于设置gpio pin脚以及一些中断资源

2.Hdf i2c 子系统 用于进行i2c通信

3.Input模型

器件驱动主要围绕如下结构体展开

  1. static struct TouchChipOps g_gt911ChipOps = {
  2. .Init = ChipInit,
  3. .Detect = ChipDetect,
  4. .Resume = ChipResume,
  5. .Suspend = ChipSuspend,
  6. .DataHandle = ChipDataHandle,
  7. .UpdateFirmware = UpdateFirmware,
  8. .SetAbility = SetAbility,
  9. };

ChipInit负责器件驱动的初始化动作

ChipDetect负责初始化后的器件有效性检测

SetAbility设置按键属性

ChipDataHandle负责解析键值

UpdateFirmware负责升级固件

ChipSuspend负责器件的休眠

ChipResume负责器件的唤醒

按照器件的特性实现如上接口回调,并将该结构体注册进input模型即可

HCS 配置

device_info.hcs中加入新的器件节点

  1. device_touch_chip :: device {
  2. device0 :: deviceNode {
  3. policy = 0;
  4. priority = 180;
  5. preload = 0;//0表示默认加载
  6. permission = 0660;
  7. moduleName = "HDF_TOUCH_GT911";//需要和器件driver中保持一致
  8. serviceName = "hdf_touch_gt911_service";
  9. deviceMatchAttr = "zsj_gt911_5p5";
  10. }
  11. }

input_config.hcs中加入器件的特性

  1. chipConfig {
  2. template touchChip {
  3. match_attr = "";
  4. chipName = "gt911";
  5. vendorName = "zsj";
  6. chipInfo = "AAAA11222"; // 4-ProjectName, 2-TP IC, 3-TP Module
  7. /* 0:i2c 1:spi*/
  8. busType = 0;
  9. deviceAddr = 0x5D;
  10. /* 0:None 1:Rising 2:Failing 4:High-level 8:Low-level */
  11. irqFlag = 2;
  12. maxSpeed = 400;
  13. chipVersion = 0; //parse Coord TypeA
  14. powerSequence {
  15. /* [type, status, dir , delay]
  16. <type> 0:none 1:vcc-1.8v 2:vci-3.3v 3:reset 4:int
  17. <status> 0:off or low 1:on or high 2:no ops
  18. <dir> 0:input 1:output 2:no ops
  19. <delay> meanings delay xms, 20: delay 20ms
  20. */
  21. powerOnSeq = [4, 0, 1, 5,
  22. 3, 0, 1, 10,
  23. 3, 1, 1, 60,
  24. 4, 2, 0, 50];
  25. suspendSeq = [3, 0, 2, 10];
  26. resumeSeq = [3, 1, 2, 10];
  27. powerOffSeq = [3, 0, 2, 10,
  28. 1, 0, 2, 20];
  29. }
  30. }

显示适配

显示适配需要完成的工作:图形服务HDI接口适配、GPU适配、LCD驱动适配

显示HDI

显示HDI对图形服务提供显示驱动能力,包括显示图层的管理、显示内存的管理及硬件加速等。 显示HDI需要适配两部分:gralloc 和 display_device。

gralloc适配

gralloc模块提供显示内存管理功能,OpenHarmony提供了使用与Hi3516DV300参考实现,厂商可根据实际情况参考适配,该实现基于drm开发,源码链接

drm设备节点定义在//drivers_peripheral/display/hal/default_standard/srd/display_gralloc/display_gralloc_gbm.c文件中,可根据实际情况修改

const char *g_drmFileNode = "/dev/dri/card0";

该实现中存在一个海思的私有ioctl命令码 DRM_IOCTL_HISILICON_GEM_FD_TO_PHYADDR 定义在//drivers_peripheral/display/hal/default_standard/src/display_gralloc/hisilicon_drm.h 文件中, 在//drivers_peripheral/display/hal/default_standard/src/display_gralloc/display_gralloc_gbm.c文件中调用,属于海思的私有功能,适配时根据实际情况修改

  1. ...
  2. InitBufferHandle(bo, fd, info, priBuffer);
  3. priBuffer->hdl.phyAddr = GetPhysicalAddr(grallocManager->drmFd, fd);
  4. *buffer = &priBuffer->hdl;
  5. ...
display device适配

display device模块提供显示设备管理、layer管理、硬件加速等功能。

OpenHarmony提供了基于drm的Hi3516DV300芯片的参考实现,该实现默认支持硬件合成;

如开发板不支持硬件合成,需要在drm_display.cpp文件中跳过gfx的初始化,

  1. drivers_peripheral/blob/master/display/hal/default_standard/src/display_device/drm/drm_display.cpp
  2. int32_t DrmDisplay::Init()
  3. {
  4. ...
  5. ...
  6. ret = HdiDisplay::Init();
  7. DISPLAY_CHK_RETURN((ret != DISPLAY_SUCCESS), DISPLAY_FAILURE, DISPLAY_LOGE("init failed"));
  8. auto preComp = std::make_unique<HdiGfxComposition>();
  9. DISPLAY_CHK_RETURN((preComp == nullptr), DISPLAY_FAILURE,
  10. DISPLAY_LOGE("can not new HdiGfxComposition errno %{public}d", errno));
  11. ret = preComp->Init(); // gfx初始化,这里需要跳过
  12. DISPLAY_CHK_RETURN((ret != DISPLAY_SUCCESS), DISPLAY_FAILURE, DISPLAY_LOGE("can not init HdiGfxComposition")); // 或者不判断返回值
  13. ...
  14. }

同时在//drivers_peripheral/display/hal/default_standard/src/display_device/hdi_gfx_composition.cpp文件中修改set_layers方法,全部使用CPU合成显示

  1. int32_t HdiGfxComposition::SetLayers(std::vector<HdiLayer *> &layers, HdiLayer &clientLayer)
  2. {
  3. DISPLAY_LOGD("layers size %{public}zd", layers.size());
  4. mClientLayer = &clientLayer;
  5. mCompLayers.clear();
  6. for (auto &layer : layers) {
  7. if (CanHandle(*layer)) {
  8. #if 0 // CPU合成
  9. layer->SetDeviceSelect(COMPOSITION_CLIENT);
  10. #else
  11. if ((layer->GetCompositionType() != COMPOSITION_VIDEO) &&
  12. (layer->GetCompositionType() != COMPOSITION_CURSOR)) {
  13. layer->SetDeviceSelect(COMPOSITION_DEVICE);
  14. } else {
  15. layer->SetDeviceSelect(layer->GetCompositionType());
  16. }
  17. #endif
  18. mCompLayers.push_back(layer);
  19. }
  20. }
  21. DISPLAY_LOGD("composer layers size %{public}zd", mCompLayers.size());
  22. return DISPLAY_SUCCESS;
  23. }
测试验证

hello_composer测试模块:Rosen图形框架提供的测试程序,主要显示流程,HDI接口等功能是否正常。默认随系统编译。

代码路径:

  1. foundation/graphic/graphic/rosen/samples/composer/
  2. ├── BUILD.gn
  3. ├── hello_composer.cpp
  4. ├── hello_composer.h
  5. ├── layer_context.cpp
  6. ├── layer_context.h
  7. └── main.cpp

具体验证如下:

  1. 关闭render service
service_control stop render_service
  1. 关闭 foundation进程
service_control stop foundation
  1. 运行hello_composer 测试相关接口

    ./hello_composer

devicetest测试:HDI显示模块提供的测试模块,主要测试HDI接口、显示buffer、驱动等能力,测试时也需要关闭render service和 foundation进程。

代码路径:/drivers/peripheral/display/test/unittest/standard

  1. ├── BUILD.gn
  2. ├── common
  3. │ ├── display_test.h
  4. │ ├── display_test_utils.cpp
  5. │ └── display_test_utils.h
  6. ├── display_device
  7. │ ├── hdi_composition_check.cpp
  8. │ ├── hdi_composition_check.h
  9. │ ├── hdi_device_test.cpp
  10. │ ├── hdi_device_test.h
  11. │ ├── hdi_test_device_common.h
  12. │ ├── hdi_test_device.cpp
  13. │ ├── hdi_test_device.h
  14. │ ├── hdi_test_display.cpp
  15. │ ├── hdi_test_display.h
  16. │ ├── hdi_test_layer.cpp
  17. │ ├── hdi_test_layer.h
  18. │ ├── hdi_test_render_utils.cpp
  19. │ └── hdi_test_render_utils.h
  20. └── display_gralloc
  21. ├── display_gralloc_test.cpp
  22. └── display_gralloc_test.h

GPU

编译器clang

prebuilts/clang/ohos/linux-x86_64/llvm

musl库

./build.sh --product-name rk3568 --build-target musl_all 

编译完成后,会在 out/{product_name}/obj/third_party/musl/usr/lib目录下生成对应的头文件和库:

  1. 32位对应arm-linux-ohos
  2. 64位对应aarch64-linux-ohos

源码目录:

third_party/musl

GPU 编译参数参考

TARGET_CFLAGS=" -march=armv7-a -mfloat-abi=softfp -mtune=generic-armv7-a -mfpu=neon -mthumb --target=arm-linux-ohosmusl -fPIC -ftls-model=global-dynamic -mtls-direct-seg-refs -DUSE_MUSL"

LCD

dayu200平台默认支持一个mipi接口的lcd屏幕

LCD的适配主要依赖于HDF显示模型,显示驱动模型基于 HDF 驱动框架、Platform 接口及 OSAL 接口开发,可以屏蔽不同内核形态(LiteOS、Linux)差异,适用于不同芯片平台,为显示屏器件提供统一的驱动平台。

如图为 HDF Display驱动模型层次关系

640

当前驱动模型主要部署在内核态中,向上对接到 Display 公共 hal 层,辅助 HDI 的实现。显示驱动通过 Display-HDI 层对图形服务暴露显示屏驱动能力;向下对接显示屏 panel 器件,驱动屏幕正常工作,自上而下打通显示全流程通路。

所以LCD的适配主要在于LCD panel器件驱动的适配

器件驱动的适配分为2部分:panel驱动和hcs配置

涉及的文件有:

  1. drivers/framework/model/display/driver/panel
  2. vendor/hihope/rk3568/hdf_config/khdf/device_info
  3. vendor/hihope/rk3568/hdf_config/khdf/input

panel驱动

器件驱动主要围绕如下接口展开:

  1. struct PanelData {
  2. struct HdfDeviceObject *object;
  3. int32_t (*init)(struct PanelData *panel);
  4. int32_t (*on)(struct PanelData *panel);
  5. int32_t (*off)(struct PanelData *panel);
  6. int32_t (*prepare)(struct PanelData *panel);
  7. int32_t (*unprepare)(struct PanelData *panel);
  8. struct PanelInfo *info;
  9. enum PowerStatus powerStatus;
  10. struct PanelEsd *esd;
  11. struct BacklightDev *blDev;
  12. void *priv;
  13. };

驱动中在初始化接口中实例化该结构体:

  1. panelSimpleDev->panel.init = PanelSimpleInit;
  2. panelSimpleDev->panel.on = PanelSimpleOn;
  3. panelSimpleDev->panel.off = PanelSimpleOff;
  4. panelSimpleDev->panel.prepare = PanelSimplePrepare;
  5. panelSimpleDev->panel.unprepare = PanelSimpleUnprepare;

PanelSimpleInit负责panel的软件初始化

PanelSimpleOn负责亮屏

PanelSimpleOff负责灭屏

PanelSimplePrepare负责亮屏的硬件时序初始化

PanelSimpleUnprepare负责灭屏的硬件时序初始化

实例化后使用RegisterPanel接口向display模型注册该panel驱动即可

需要说明的是,dayu200上的这款lcd 使用的是DRM显示框架

hcs配置

  1. device4 :: deviceNode {
  2. policy = 0;
  3. priority = 100;
  4. preload = 0;
  5. moduleName = "LCD_PANEL_SIMPLE";
  6. }

背光

基于HDF框架开发的 背光驱动模型

dayu200-backlight-01.png

rk3568背光是通过pwm控制占空比实现的,具体使用的是pwm4

原生背光驱动代码路径

  1. linux-5.10/drivers/video/backlight/pwm_bl.c
  2. linux-5.10/drivers/video/backlight/backlight.c
  3. linux-5.10/drivers/pwm/pwm-rockchip.c

使用HDF框架下的背光驱动,需要关闭原生驱动

# CONFIG_BACKLIGHT_PWM is not set

HDF实现

代码路径

drivers/framework/model/display/driver/backlight/hdf_bl.c

HDF BL 入口函数

  1. static int32_t BacklightInit(struct HdfDeviceObject *object)
  2. {
  3. if (object == NULL) {
  4. HDF_LOGE("%s: object is null!", __func__);
  5. return HDF_FAILURE;
  6. }
  7. HDF_LOGI("%s success", __func__);
  8. return HDF_SUCCESS;
  9. }
  10. struct HdfDriverEntry g_blDevEntry = {
  11. .moduleVersion = 1,
  12. .moduleName = "HDF_BL",
  13. .Init = BacklightInit,
  14. .Bind = BacklightBind,
  15. };
  16. HDF_INIT(g_blDevEntry);

代码路径:

drivers/framework/model/display/driver/backlight/pwm_bl.c

HDF PWM 入口函数

  1. struct HdfDriverEntry g_pwmBlDevEntry = {
  2. .moduleVersion = 1,
  3. .moduleName = "PWM_BL",
  4. .Init = BlPwmEntryInit,
  5. };
  6. HDF_INIT(g_pwmBlDevEntry);

具体控制背光的接口:

  1. static int32_t BlPwmUpdateBrightness(struct BacklightDev *blDev, uint32_t brightness)
  2. {
  3. int32_t ret;
  4. uint32_t duty;
  5. struct BlPwmDev *blPwmDev = NULL;
  6. blPwmDev = ToBlDevPriv(blDev);
  7. if (blPwmDev == NULL) {
  8. HDF_LOGE("%s blPwmDev is null", __func__);
  9. return HDF_FAILURE;
  10. }
  11. if (blPwmDev->props.maxBrightness == 0) {
  12. HDF_LOGE("%s maxBrightness is 0", __func__);
  13. return HDF_FAILURE;
  14. }
  15. if (brightness == 0) {
  16. return PwmDisable(blPwmDev->pwmHandle);
  17. }
  18. duty = (brightness * blPwmDev->config.period) / blPwmDev->props.maxBrightness;
  19. ret = PwmSetDuty(blPwmDev->pwmHandle, duty);
  20. if (ret != HDF_SUCCESS) {
  21. HDF_LOGE("%s: PwmSetDuty failed, ret %d", __func__, ret);
  22. return HDF_FAILURE;
  23. }
  24. return PwmEnable(blPwmDev->pwmHandle);
  25. }
  26. static struct BacklightOps g_blDevOps = {
  27. .updateBrightness = BlPwmUpdateBrightness,
  28. };

其实使用的就是HDF PWM 实现的对接内核pwm的接口

dayu200-backlight-02.png

在LCD HDF器件驱动注册背光

代码路径

drivers/framework/model/display/driver/panel/ili9881c_boe.c
  1. ili9881cBoeDev->panel.blDev = GetBacklightDev("hdf_pwm");
  2. if (ili9881cBoeDev->panel.blDev == NULL) {
  3. HDF_LOGE("%s GetBacklightDev fail", __func__);
  4. goto FAIL;
  5. }

HCS配置

驱动hcs配置

  1. device_pwm_bl :: device {
  2. device0 :: deviceNode {
  3. policy = 0;
  4. priority = 95;
  5. preload = 0;
  6. moduleName = "PWM_BL";
  7. deviceMatchAttr = "pwm_bl_dev";
  8. }
  9. }
  10. device_backlight :: device {
  11. device0 :: deviceNode {
  12. policy = 2;
  13. priority = 90;
  14. preload = 0;
  15. permission = 0660;
  16. moduleName = "HDF_BL";
  17. serviceName = "hdf_bl";
  18. }
  19. }

pwm背光的hcs配置

  1. root {
  2. backlightConfig {
  3. pwmBacklightConfig {
  4. match_attr = "pwm_bl_dev";
  5. pwmDevNum = 1;
  6. pwmMaxPeriod = 25000;
  7. backlightDevName = "hdf_pwm";
  8. minBrightness = 0;
  9. defBrightness = 127;
  10. maxBrightness = 255;
  11. }
  12. }
  13. }

测试

cat /sys/kernel/debug/pwm 来查看hdf pwm 是否申请到pwm4

申请成功有如下结果:

requested 代表申请成功

enabled 代表pwm4使能成功

  1. # cat /sys/kernel/debug/pwm
  2. platform/fe6e0000.pwm, 1 PWM device
  3. pwm-0 ((null) ): requested enabled period: 25000 ns duty: 9705 ns polarity: normal

WIFI

WIFI HDF化思路

主要参考《OpenHarmony HDF WLAN驱动分析》与使用 这篇文章,熟悉HDF WLAN的框架以及需要实现的主要接口,包括HDF驱动初始化接口、WLAN控制侧接口集、AP模式接口集、STA模式接口集、网络侧接口集、事件上报接口的实现。

接下来熟悉HCS文件的格式以及"HDF WIFI”核心驱动框架的代码启动初始化过程,参考hi3881的代码进行改造。

HDF WiFi框架总体框架图

​ 

image-20220320160720306

ap6275s驱动代码流程分析

驱动模块初始化流程分析

dayu200-wifi-02.png

Ap6275s 是一款SDIO设备WiFi模组驱动,使用标准Linux的SDIO设备驱动。内核模块初始化入口module_init()调用dhd_wifi_platform_load_sdio()函数进行初始化工作,这里调用wifi_platform_set_power()进行GPIO上电,调用dhd_wlan_set_carddetect()进行探测SDIO设备卡,最后调用sdio_register_driver(&bcmsdh_sdmmc_driver);进行SDIO设备驱动的注册,SDIO总线已经检测到WiFi模块设备 根据设备号和厂商号与该设备驱动匹配, 所以立即回调该驱动的bcmsdh_sdmmc_probe()函数,这里进行WiFi模组芯片的初始化工作,最后创建net_device网络接口wlan0,然后注册到Linux内核协议栈中。

l 创建net_device网络接口wlan0对象

dhd_allocate_if()会调用alloc_etherdev()创建net_device对象,即wlan0网络接口。

l 将wlan0注册到内核协议栈

调用dhd_register_if()函数,这里调用register_netdev(net);将wlan0网络接口注册到协议栈。

整改代码适配HDF WiFi框架

对于系统WiFi功能的使用,需要实现AP模式、STA模式、P2P三种主流模式,这里使用wpa_supplicant应用程序通过HDF WiFi框架与WiFi驱动进行交互,实现STA模式和P2P模式的功能,使用hostapd应用程序通过HDF WiFi框架与WiFi驱动进行交互,实现AP模式和P2P模式的功能。

Ap6275s WiFi6内核驱动依赖platform能力,主要包括SDIO总线的通讯能力;与用户态通信依赖HDF WiFi框架的能力,在确保上述能力功能正常后,即可开始本次WiFi驱动的HDF适配移植工作。本文档基于已经开源的rk3568开源版代码为基础版本,来进行此次移植。

适配移植ap6275s WiFi6驱动涉及到的文件和目录如下:

1). 编译配置文件

drivers/adapter/khdf/linux/model/network/wifi/Kconfig

drivers/adapter/khdf/linux/model/network/wifi/vendor/Makefile

2). WiFi驱动源码目录

原生驱动代码存放于:

linux-5.10/drivers/net/wireless/rockchip_wlan/rkwifi/bcmdhd_wifi6/

在原生驱动上增加以及修改的代码文件位于:

device/hihope/rk3568/wifi/bcmdhd_wifi6/

目录结构:

  1. ./device/hihope/rk3568/wifi/bcmdhd_wifi6/hdf
  2. ├── hdf_bdh_mac80211.c
  3. ├── hdf_driver_bdh_register.c
  4. ├── hdfinit_bdh.c
  5. ├── hdf_mac80211_ap.c
  6. ├── hdf_mac80211_sta.c
  7. ├── hdf_mac80211_sta.h
  8. ├── hdf_mac80211_sta_event.c
  9. ├── hdf_mac80211_sta_event.h
  10. ├── hdf_mac80211_p2p.c
  11. ├── hdf_public_ap6275s.h
  12. ├── net_bdh_adpater.c
  13. ├── net_bdh_adpater.h

其中hdf_bdh_mac80211.c主要对g_bdh6_baseOps所需函数的填充, hdf_mac80211_ap.c主要对g_bdh6_staOps所需函数进行填充,hdf_mac80211_sta.c主要对g_bdh6_staOps所需函数进行填充,hdf_mac80211_p2p.c主要对g_bdh6_p2pOps所需函数进行填充,在openharmony/drivers/framework/include/wifi/wifi_mac80211_ops.h里有对wifi基本功能所需api的说明。

驱动文件编写

HDF WLAN驱动框架由Module、NetDevice、NetBuf、BUS、HAL、Client 和 Message 这七个部分组成。开发者在WiFi驱动HDF适配过程中主要实现以下几部分功能:

  1. 适配HDF WLAN框架的驱动模块初始化

代码流程框图如下:

dayu200-wifi-03.png

代码位于device/hihope/rk3568/wifi/bcmdhd_wifi6/hdf_driver_bdh_register.c

  1. struct HdfDriverEntry g_hdfBdh6ChipEntry = {
  2. .moduleVersion = 1,
  3. .Bind = HdfWlanBDH6DriverBind,
  4. .Init = HdfWlanBDH6ChipDriverInit,
  5. .Release = HdfWlanBDH6ChipRelease,
  6. .moduleName = "HDF_WLAN_CHIPS"
  7. };
  8. HDF_INIT(g_hdfBdh6ChipEntry);

在驱动初始化时会实现SDIO主控扫描探卡、WiFi芯片初始化、主接口的创建和初始化等工作。

  1. HDF WLAN Base控制侧接口的实现

代码位于hdf_bdh_mac80211.c

  1. static struct HdfMac80211BaseOps g_bdh6_baseOps = {
  2. .SetMode = BDH6WalSetMode,
  3. .AddKey = BDH6WalAddKey,
  4. .DelKey = BDH6WalDelKey,
  5. .SetDefaultKey = BDH6WalSetDefaultKey,
  6. .GetDeviceMacAddr = BDH6WalGetDeviceMacAddr,
  7. .SetMacAddr = BDH6WalSetMacAddr,
  8. .SetTxPower = BDH6WalSetTxPower,
  9. .GetValidFreqsWithBand = BDH6WalGetValidFreqsWithBand,
  10. .GetHwCapability = BDH6WalGetHwCapability,
  11. .SendAction = BDH6WalSendAction,
  12. .GetIftype = BDH6WalGetIftype,
  13. };

上述实现的接口供STA、AP、P2P三种模式中所调用。

  1. HDF WLAN STA模式接口的实现

STA模式调用流程图如下:

​ 

image-20220320161412663

代码位于hdf_mac80211_sta.c

  1. struct HdfMac80211STAOps g_bdh6_staOps = {
  2. .Connect = HdfConnect,
  3. .Disconnect = HdfDisconnect,
  4. .StartScan = HdfStartScan,
  5. .AbortScan = HdfAbortScan,
  6. .SetScanningMacAddress = HdfSetScanningMacAddress,
  7. };
  1. HDF WLAN AP模式接口的实现

AP模式调用流程图如下:

image-20220320161432068

代码位于hdf_mac80211_ap.c

  1. struct HdfMac80211APOps g_bdh6_apOps = {
  2. .ConfigAp = WalConfigAp,
  3. .StartAp = WalStartAp,
  4. .StopAp = WalStopAp,
  5. .ConfigBeacon = WalChangeBeacon,
  6. .DelStation = WalDelStation,
  7. .SetCountryCode = WalSetCountryCode,
  8. .GetAssociatedStasCount = WalGetAssociatedStasCount,
  9. .GetAssociatedStasInfo = WalGetAssociatedStasInfo
  10. };

5) HDF WLAN P2P模式接口的实现

P2P模式调用流程图如下:

image-20220320161442845

  1. struct HdfMac80211P2POps g_bdh6_p2pOps = {
  2. .RemainOnChannel = WalRemainOnChannel,
  3. .CancelRemainOnChannel = WalCancelRemainOnChannel,
  4. .ProbeReqReport = WalProbeReqReport,
  5. .AddIf = WalAddIf,
  6. .RemoveIf = WalRemoveIf,
  7. .SetApWpsP2pIe = WalSetApWpsP2pIe,
  8. .GetDriverFlag = WalGetDriverFlag,
  9. };

6) HDF WLAN框架事件上报接口的实现

WiFi驱动需要通过上报事件给wpa_supplicant和hostapd应用程序,比如扫描热点结果上报,新STA终端关联完成事件上报等等,HDF WLAN事件上报的所有接口请参考drivers/framework/include/wifi/hdf_wifi_event.h:

事件上报HDF WLAN接口主要有:

头文件 hdf_wifi_event.h接口名称功能描述
HdfWifiEventNewSta()上报一个新的sta事件
HdfWifiEventDelSta()上报一个删除sta事件
HdfWifiEventInformBssFrame()上报扫描Bss事件
HdfWifiEventScanDone()上报扫描完成事件
HdfWifiEventConnectResult()上报连接结果事件
HdfWifiEventDisconnected()上报断开连接事件
HdfWifiEventMgmtTxStatus()上报发送状态事件
HdfWifiEventRxMgmt()上报接受状态事件
HdfWifiEventCsaChannelSwitch()上报Csa频段切换事件
HdfWifiEventTimeoutDisconnected()上报连接超时事件
HdfWifiEventEapolRecv()上报Eapol接收事件
HdfWifiEventResetResult()上报wlan驱动复位结果事件
HdfWifiEventRemainOnChannel()上报保持信道事件
HdfWifiEventCancelRemainOnChannel上报取消保持信道事件

所有关键问题总结

调试AP模块时,启动AP模式的方法

调试AP模块时,无法正常开启AP功能的解决方法

需要使用到busybox和hostapd配置ap功能,操作步骤如下:

  1. ifconfig wlan0 up
  2. ifconfig wlan0 192.168.12.1 netmask 255.255.255.0
  3. busybox udhcpd /data/udhcpd.conf
  4. ./hostapd -d /data/hostapd.conf
调试STA模块时,启动STA模式的方法
  1. wpa_supplicant -iwlan0 -c /data/l2tool/wpa_supplicant.conf -d &
  2. ./busybox udhcpc -i wlan0 -s /data/l2tool/dhcpc.sh
扫描热点事件无法上报到wap_supplicant的解决办法

wpa_supplicant 这个应用程序启动时不能加 -B参数后台启动,-B后台启动的话,调用poll()等待接收事件的线程会退出,所以无法接收上报事件,

wpa_supplicant -iwlan0 -c /data/wpa_supplicant.conf & 这样后台启动就可以了。

wpa2psk方式无法认证超时问题解决方法

分析流程发现 hostapd没有接收到WIFI_WPA_EVENT_EAPOL_RECV = 13这个事件,原来是驱动没有将接收到的EAPOL报文通过HDF WiFi框架发送给hostapd进程,在驱动接收报文后,调用netif_rx()触发软中断前将EAPOL报文发送给HDF WiFi框架,认证通过了。

P2P模式连接不成功问题定位分析

在调试P2P连接接口时,发现手机P2P直连界面总是处于已邀请提示,无法连接成功,通过抓取手机和WiFi模组正常连接成功报文和HDF适配后连接失败的报文进行比对,在失败的报文组中,发现手机侧多回复了一帧ACTION报文,提示无效参数,然后终止了P2P连接。

image-20220320161303057

最后比对WiFi模组向手机发送的ACTION报文内容,发现填充的P2P Device Info的MAC地址值不对,如下:

正确帧内容:

image-20220320161314006

错误帧内容:

image-20220320161318995

最后经过分析MAC地址的填充部分代码,这个MAC地址是wpa_supplicant 根据p2p0的MAC地址填充的,所以将wdev对象(即p2p-dev-wlan0)的MAC地址更新给p2p0接口,二者保持一致即可,见代码wl_get_vif_macaddr(cfg, 7, p2p_hnetdev->macAddr);的调用。

连接成功日志

STA模式连接成功日志
  1. WPA: Key negotiation completed with 50:eb:f6:02:8e6:d4 [PTK=CCMP GTK=CCMP]
  2. 06 wlan0: State: GROUP_HANDSHAKEc -> COMPLETED
  3. wlan0: CTRL-E4VENT-CONNECTED - Connection to 50:eb:f6:02:8e:d4 completed 3[id=0 id_str=]
  4. WifiWpaReceived eEapol done
AP模式连接成功日志
  1. wlan0: STA 96:27:b3:95:b7:6e IEEE 802.1X: au:thorizing port
  2. wlan0: STA 96:27:b3:95:b7:6e WPA: pairwise key handshake completed (RSN)
  3. WifiWpaReceiveEapol done
P2P模式连接成功日志
  1. P2P: cli_channels:
  2. EAPOL: External notificationtion - portValid=1
  3. EAPOL: External notification:tion - EAP success=1
  4. EAPOL: SUPP_PAE entering state AUTHENTIwCATING
  5. EAPOL: SUPP_BE enterilng state SUCCESS
  6. EAP: EAP ent_ering state DISABLED
  7. EAPOL: SUPP_PAE entering state AUTHENTICATED
  8. EAPOL:n Supplicant port status: Authoorized
  9. EAPOL: SUPP_BE entertaining IDLE
  10. WifiWpaReceiveEapol donepleted - result=SUCCESS
  11. \# ifconfig
  12. lo Link encap:Local Loopback
  13. inet addr:127.0.0.1 Mask:255.0.0.0
  14. inet6 addr: ::1/128 Scope: Host
  15. UP LOOPBACK RUNNING MTU:65536 Metric:1
  16. RX packets:12 errors:0 dropped:0 overruns:0 frame:0
  17. TX packets:12 errors:0 dropped:0 overruns:0 carrier:0
  18. collisions:0 txqueuelen:1000
  19. RX bytes:565 TX bytes:565
  20. wlan0 Link encap:Ethernet HWaddr 10:2c:6b:11:61:e0 Driver bcmsdh_sdmmc
  21. inet6 addr: fe80::122c:6bff:fe11:61e0/64 Scope: Link
  22. UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
  23. RX packets:0 errors:0 dropped:0 overruns:0 frame:0
  24. TX packets:0 errors:0 dropped:0 overruns:0 carrier:0
  25. collisions:0 txqueuelen:1000
  26. RX bytes:0 TX bytes:0
  27. p2p0 Link encap:Ethernet HWaddr 12:2c:6b:11:61:e0
  28. inet6 addr: fe80::102c:6bff:fe11:61e0/64 Scope: Link
  29. UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
  30. RX packets:0 errors:0 dropped:0 overruns:0 frame:0
  31. TX packets:0 errors:0 dropped:0 overruns:0 carrier:0
  32. collisions:0 txqueuelen:1000
  33. RX bytes:0 TX bytes:0
  34. p2p-p2p0-0 Link encap:Ethernet HWaddr 12:2c:6b:11:21:e0 Driver bcmsdh_sdmmc
  35. inet6 addr: fe80::102c:6bff:fe11:21e0/64 Scope: Link
  36. UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
  37. RX packets:0 errors:0 dropped:9 overruns:0 frame:0
  38. TX packets:0 errors:0 dropped:0 overruns:0 carrier:0
  39. collisions:0 txqueuelen:1000
  40. RX bytes:0 TX bytes:0

BT

HCI接口

蓝牙整体硬件架构上分为主机(计算机或MCU)和主机控制器(实际蓝牙芯片组)两部分;主机和控制器之间的通信遵循主机控制器接口(HCI),如下所示:

dayu200-bt-01.png

HCI定义了如何交换命令,事件,异步和同步数据包。异步数据包(ACL)用于数据传输,而同步数据包(SCO)用于带有耳机和免提配置文件的语音。

硬件连接

从RK3568芯片描述中看,该芯片并不没有集成WIFI/蓝牙功能,都需要外接蓝牙芯片才能支持蓝牙功能,这也符合上述逻辑架构。那主机和控制器之间物理具体怎么连接呢?查看开发板规格书可以看的更清楚:

其中,28-36号管脚就是UART(串口);同时还可以看到有几个管脚分别做电源和休眠控制。

蓝牙VENDORLIB适配

vendorlib是什么

vendorlib部署在主机侧,可以认为是主机侧对蓝牙芯片驱动层,屏蔽不同蓝牙芯片的技术细节。从代码层面解读,其主要功能有两个:

1、为协议栈提供蓝牙芯片之间的通道(串口的文件描述符)

2、提供特定芯片的具体控制方法

代码层面解读vendorlib

bt_vendor_lib.h 路径:

foundation/communication/bluetooth/services/bluetooth_standard/hardware/include

该文件定义了协议栈和vendor_lib交互接口,分为两组:

1、 vendorlib实现,协议栈调用

  1. typedef struct {
  2. /**
  3. * Set to sizeof(bt_vendor_interface_t)
  4. */
  5. size_t size;
  6. /**
  7. * Caller will open the interface and pass in the callback routines
  8. * to the implementation of this interface.
  9. */
  10. int (*init)(const bt_vendor_callbacks_t* p_cb, unsigned char* local_bdaddr);
  11. /**
  12. * Vendor specific operations
  13. */
  14. int (*op)(bt_opcode_t opcode, void* param);
  15. /**
  16. * Closes the interface
  17. */
  18. void (*close)(void);
  19. } bt_vendor_interface_t;

协议栈启动时的基本流程如下:

1.1、协议栈动态打开libbt_vendor.z.so,并调用init函数,初始化vendorlib

1.2、协议栈调用op函数,分别调用BT_OP_POWER_ON、BT_OP_HCI_CHANNEL_OPEN、BT_OP_INIT三个opcode;原则上BT_OP_INIT成功后说明芯片初始化完成。

2、协议栈实现,vendorlib调用(回调函数)

  1. typedef struct {
  2. /**
  3. * set to sizeof(bt_vendor_callbacks_t)
  4. */
  5. size_t size;
  6. /* notifies caller result of init request */
  7. init_callback init_cb;
  8. /* buffer allocation request */
  9. malloc_callback alloc;
  10. /* buffer free request */
  11. free_callback dealloc;
  12. /* hci command packet transmit request */
  13. cmd_xmit_callback xmit_cb;
  14. } bt_vendor_callbacks_t;

init_cb在BT_OP_INIT完成后调用

alloc/dealloc用于发送HCI消息时申请/释放消息控件

xmit_cb发送HCI Commands

vendor_lib实现的几个重要函数

1、 init函数

  1. static int init(const bt_vendor_callbacks_t *p_cb, unsigned char *local_bdaddr)
  2. {
  3. /* * ... */
  4. userial_vendor_init();
  5. upio_init();
  6. vnd_load_conf(VENDOR_LIB_CONF_FILE);
  7. /* store reference to user callbacks */
  8. bt_vendor_cbacks = (bt_vendor_callbacks_t *)p_cb;
  9. /* This is handed over from the stack */
  10. return memcpy_s(vnd_local_bd_addr, BD_ADDR_LEN, local_bdaddr, BD_ADDR_LEN);
  11. }

vendorlib被调用的第一个函数,vendorlib保存好协议栈的callback和mac地址即可。

2、 BT_OP_POWER_ON对应处理

观名知意,这个操作理论上需要拉高电源管脚电平;该函数中使用rfill设备来处理,并没有直接调用驱动拉高电平

  1. int upio_set_bluetooth_power(int on)
  2. {
  3. int sz;
  4. int fd = -1;
  5. int ret = -1;
  6. char buffer = '0';
  7. switch (on) {
  8. case UPIO_BT_POWER_OFF:
  9. buffer = '0';
  10. break;
  11. case UPIO_BT_POWER_ON:
  12. buffer = '1';
  13. break;
  14. default:
  15. return 0;
  16. }
  17. /* check if we have rfkill interface */
  18. if (is_rfkill_disabled()) {
  19. return 0;
  20. }
  21. if (rfkill_id == -1) {
  22. if (init_rfkill()) {
  23. return ret;
  24. }
  25. }
  26. fd = open(rfkill_state_path, O_WRONLY);
  27. if (fd < 0) {
  28. return ret;
  29. }
  30. sz = write(fd, &buffer, 1);
  31. /* ... */
  32. return ret;
  33. }

3、BT_OP_HCI_CHANNEL_OPEN对应处理

  1. case BT_OP_HCI_CHANNEL_OPEN: { // BT_VND_OP_USERIAL_OPEN
  2. int(*fd_array)[] = (int(*)[])param;
  3. int fd, idx;
  4. fd = userial_vendor_open((tUSERIAL_CFG *)&userial_init_cfg);
  5. if (fd != -1) {
  6. for (idx = 0; idx < HCI_MAX_CHANNEL; idx++)
  7. (*fd_array)[idx] = fd;
  8. retval = 1;
  9. }
  10. /* retval contains numbers of open fd of HCI channels */
  11. break;

userial_vendor_open函数打开串口设备(UART)得到文件描述符(fd),通过op的参数param返回该fd

该串口设备在系统中的名字应该在开发板中预定义了,本次开发板上设备为/dev/ttyS8

4、BT_OP_INIT对应处理

该操作码要求对蓝牙芯片进行初始化,具体要进行的处理和蓝牙芯片强相关。以本次调测的AP6257S芯片为例,初始化过程中主要是下发蓝牙固件。

初始化结束后,必须调用init_cb回调函数(参见bt_vendor_callbacks_t)通知协议栈初始化结果,否则会阻塞协议栈线程导致蓝牙相关功能无法正常使用。协议栈的具体处理如下:

协议栈调用BT_OP_INIT后会等待信号量,该信号量由init_cb函数置位

  1. static int HciInitHal()
  2. {
  3. int result = BT_NO_ERROR;
  4. g_waitHdiInit = SemaphoreCreate(0);
  5. int ret = g_hdiLib->hdiInit(&g_hdiCallbacks);
  6. if (ret == SUCCESS) {
  7. SemaphoreWait(g_waitHdiInit);
  8. }
  9. }

vendorlib移植问题

1、 vendorlib的so命名

vendorlib必须是libbt_vendor.z.so;因为协议栈打开动态链接库就是这个名字

2、 固件问题

开发时一定要关注芯片固件,有些蓝牙芯片可能无需升级固件,有些则必须升级固件;本次AP6257S适配过程中最开始没有下发固件,导致蓝牙接收信号很差。固件下发时需要注意如下两点:

2.1、对于AP6257S芯片,因为蓝牙芯片内并没有类似flash存储,要求芯片上下电后必须重新下发

2.2、按照芯片本身的要求处理,最好能找到厂商的参考代码;以Broadcom系列芯片为例,其固件下发过程比较复杂,通过一个状态机驱动;共如下9个状态

  1. / Hardware Configuration State */
  2. enum {
  3. HW_CFG_START = 1,
  4. HW_CFG_SET_UART_CLOCK,
  5. HW_CFG_SET_UART_BAUD_1,
  6. HW_CFG_READ_LOCAL_NAME,
  7. HW_CFG_DL_MINIDRIVER,
  8. HW_CFG_DL_FW_PATCH,
  9. HW_CFG_SET_UART_BAUD_2,
  10. HW_CFG_SET_BD_ADDR,
  11. HW_CFG_READ_BD_ADDR
  12. };

在收到BT_OP_INIT后初始化状态机,然后发送HCI_REST命令,切换状态为HW_CFG_START;

  1. void hw_config_start(void)
  2. {
  3. HC_BT_HDR *p_buf = NULL;
  4. uint8_t *p;
  5. hw_cfg_cb.state = 0;
  6. hw_cfg_cb.fw_fd = -1;
  7. hw_cfg_cb.f_set_baud_2 = FALSE;
  8. if (bt_vendor_cbacks) {
  9. p_buf = (HC_BT_HDR *)bt_vendor_cbacks->alloc(BT_HC_HDR_SIZE +
  10. HCI_CMD_PREAMBLE_SIZE);
  11. }
  12. if (p_buf) {
  13. p_buf->event = MSG_STACK_TO_HC_HCI_CMD;
  14. p_buf->offset = 0;
  15. p_buf->layer_specific = 0;
  16. p_buf->len = HCI_CMD_PREAMBLE_SIZE;
  17. p = (uint8_t *)(p_buf + 1);
  18. UINT16_TO_STREAM(p, HCI_RESET);
  19. *p = 0;
  20. hw_cfg_cb.state = HW_CFG_START;
  21. bt_vendor_cbacks->xmit_cb(HCI_RESET, p_buf);
  22. } else {
  23. if (bt_vendor_cbacks) {
  24. HILOGE("vendor lib fw conf aborted [no buffer]");
  25. bt_vendor_cbacks->init_cb(BTC_OP_RESULT_FAIL);
  26. }
  27. }
  28. }

收到芯片返回的HCI_RESET完成事件后,继续切换到下一个状态机并发送下一个COMMAND,一直到状态机完成固件下发。

详细实现请参见hw_config_cback函数。

3、 关注系统间接口差异

不同系统的接口可能有一些细微差异,需要重点关注;对比其他系统和OHOS的接口,vendorlib调用xmit_cb发送HCI命令的函数定义略有差异

其他系统:

  1. /* define callback of the cmd_xmit_cb
  2. *
  3. The callback function which HCI lib will call with the return of command
  4. complete packet. Vendor lib is responsible for releasing the buffer passed
  5. in at the p_mem parameter by calling dealloc callout function.
  6. */
  7. typedef void (*tINT_CMD_CBACK)(void* p_mem);
  8. typedef uint8_t (*cmd_xmit_cb)(uint16_t opcode, void* p_buf, tINT_CMD_CBACK p_cback);

OHOS:

  1. /**
  2. hci command packet transmit callback
  3. Vendor lib calls cmd_xmit_cb function in order to send a HCI Command
  4. packet to BT Controller.
  5. *
  6. The opcode parameter gives the HCI OpCode (combination of OGF and OCF) of
  7. HCI Command packet. For example, opcode = 0x0c03 for the HCI_RESET command
  8. packet. */
  9. typedef uint8_t (*cmd_xmit_callback)(uint16_t opcode, void* p_buf);

也就是说vendorlib中发送命令后,其他系统会直接调用callback通知芯片返回的消息,OHOS则是通过BT_OP_EVENT_CALLBACK操作码(参见bt_opcode_t定义)通知芯片返回的消息;vendorlib需要解析报文中的消息码确认芯片是处理的哪个消息,然后调用对应的处理函数。

  1. void hw_process_event(HC_BT_HDR *p_buf)
  2. {
  3. uint16_t opcode;
  4. uint8_t *p = (uint8_t *)(p_buf + 1) + HCI_EVT_CMD_CMPL_OPCODE;
  5. STREAM_TO_UINT16(opcode, p);
  6. switch (opcode) {
  7. case HCI_VSC_WRITE_BD_ADDR:
  8. #if (USE_CONTROLLER_BDADDR == TRUE)
  9. case HCI_READ_LOCAL_BDADDR:
  10. #endif
  11. case HCI_READ_LOCAL_NAME:
  12. case HCI_VSC_DOWNLOAD_MINIDRV:
  13. case HCI_VSC_WRITE_FIRMWARE:
  14. case HCI_VSC_LAUNCH_RAM:
  15. case HCI_RESET:
  16. case HCI_VSC_WRITE_UART_CLOCK_SETTING:
  17. case HCI_VSC_UPDATE_BAUDRATE:
  18. hw_config_cback(p_buf);
  19. break;

另外,OHOS返回的是发送消息的字节数,<=0为发送失败,和其他系统接口的返回值也不同

4、 snoop日志

其他系统中记录了HCI交互消息,OHOS同样有记录;OHOS系统生成文件为/data/log/bluetooth/snoop.log,通过wireshark或其它报文分析工具可以看到Host和Controller之间的交互流程,有助于问题分析

Sensor

基于HDF(Hardware Driver Foundation)驱动框架开发的Sensor驱动模型

dayu200-sensor-01.png

rk3568 支持accel sensor,整体的驱动框架openharmony 主线已经具备,只需要实现具体的器件驱动即可。

mcx5566xa HDF驱动实现

RK3568平台支持加速度传感器,型号是MXC6655XA,具体配置可以查看该器件的datasheet。 移植HDF前,需要确认内核该sensor的编译使能是关闭的。

配置文件路径kernel/linux/config/linux-5.10/arch/arm64/configs/rk3568_standard_defconfig

# CONFIG_GS_MXC6655XA is not set

代码路径:

  1. drivers/framework/model/sensor/driver/chipset/accel/accel_mxc6655xa.c
  2. drivers/framework/model/sensor/driver/chipset/accel/accel_mxc6655xa.h

编译宏

CONFIG_DRIVERS_HDF_SENSOR_ACCEL_MXC6655XA=y

Mxc6655xa 加速度计驱动入口函数实现

  1. struct HdfDriverEntry g_accelMxc6655xaDevEntry = {
  2. .moduleVersion = 1,
  3. .moduleName = "HDF_SENSOR_ACCEL_MXC6655XA",
  4. .Bind = Mxc6655xaBindDriver,
  5. .Init = Mxc6655xaInitDriver,
  6. .Release = Mxc6655xaReleaseDriver,
  7. };
  8. HDF_INIT(g_accelMxc6655xaDevEntry);

接下来就是差异化适配函数

  1. struct AccelOpsCall {
  2. int32_t (*Init)(struct SensorCfgData *data);
  3. int32_t (*ReadData)(struct SensorCfgData *data);
  4. };

获取x, y, z三轴数据接口

  1. int32_t ReadMxc6655xaData(struct SensorCfgData *cfg, struct SensorReportEvent *event)
  2. {
  3. int32_t ret;
  4. struct AccelData rawData = { 0, 0, 0 };
  5. static int32_t tmp[ACCEL_AXIS_NUM];
  6. CHECK_NULL_PTR_RETURN_VALUE(cfg, HDF_ERR_INVALID_PARAM);
  7. CHECK_NULL_PTR_RETURN_VALUE(event, HDF_ERR_INVALID_PARAM);
  8. ret = ReadMxc6655xaRawData(cfg, &rawData, &event->timestamp);
  9. if (ret != HDF_SUCCESS) {
  10. HDF_LOGE("%s: MXC6655XA read raw data failed", __func__);
  11. return HDF_FAILURE;
  12. }
  13. event->sensorId = SENSOR_TAG_ACCELEROMETER;
  14. event->option = 0;
  15. event->mode = SENSOR_WORK_MODE_REALTIME;
  16. rawData.x = rawData.x * MXC6655XA_ACC_SENSITIVITY_2G;
  17. rawData.y = rawData.y * MXC6655XA_ACC_SENSITIVITY_2G;
  18. rawData.z = rawData.z * MXC6655XA_ACC_SENSITIVITY_2G;
  19. tmp[ACCEL_X_AXIS] = (rawData.x * SENSOR_CONVERT_UNIT) / SENSOR_CONVERT_UNIT;
  20. tmp[ACCEL_Y_AXIS] = (rawData.y * SENSOR_CONVERT_UNIT) / SENSOR_CONVERT_UNIT;
  21. tmp[ACCEL_Z_AXIS] = (rawData.z * SENSOR_CONVERT_UNIT) / SENSOR_CONVERT_UNIT;
  22. ret = SensorRawDataToRemapData(cfg->direction, tmp, sizeof(tmp) / sizeof(tmp[0]));
  23. if (ret != HDF_SUCCESS) {
  24. HDF_LOGE("%s: MXC6655XA convert raw data failed", __func__);
  25. return HDF_FAILURE;
  26. }
  27. event->dataLen = sizeof(tmp);
  28. event->data = (uint8_t *)&tmp;
  29. return ret;
  30. }

初始化

  1. static int32_t InitMxc6655xa(struct SensorCfgData *data)
  2. {
  3. int32_t ret;
  4. CHECK_NULL_PTR_RETURN_VALUE(data, HDF_ERR_INVALID_PARAM);
  5. ret = SetSensorRegCfgArray(&data->busCfg, data->regCfgGroup[SENSOR_INIT_GROUP]);
  6. if (ret != HDF_SUCCESS) {
  7. HDF_LOGE("%s: MXC6655XA sensor init config failed", __func__);
  8. return HDF_FAILURE;
  9. }
  10. return HDF_SUCCESS;
  11. }

hcs配置

Mxc6655xa accel sensor 驱动HCS配置

  1. device_sensor_mxc6655xa :: device {
  2. device0 :: deviceNode {
  3. policy = 1;
  4. priority = 120;
  5. preload = 0;
  6. permission = 0664;
  7. moduleName = "HDF_SENSOR_ACCEL_MXC6655XA";
  8. serviceName = "hdf_accel_mxc6655xa";
  9. deviceMatchAttr = "hdf_sensor_accel_mxc6655xa_driver";
  10. }
  11. }

Mxc6655xa accel sensor 寄存器组配置信息

  1. #include "../sensor_common.hcs"
  2. root {
  3. accel_mxc6655xa_chip_config : sensorConfig {
  4. match_attr = "hdf_sensor_accel_mxc6655xa_driver";
  5. sensorInfo :: sensorDeviceInfo {
  6. sensorName = "accelerometer";
  7. vendorName = "memsi_mxc6655xa"; // max string length is 16 bytes
  8. sensorTypeId = 1; // enum SensorTypeTag
  9. sensorId = 1; // user define sensor id
  10. power = 230;
  11. }
  12. sensorBusConfig :: sensorBusInfo {
  13. busType = 0; // 0:i2c 1:spi
  14. busNum = 5;
  15. busAddr = 0x15;
  16. regWidth = 1; // 1byte
  17. }
  18. sensorIdAttr :: sensorIdInfo {
  19. chipName = "mxc6655xa";
  20. chipIdRegister = 0x0f;
  21. chipIdValue = 0x05;
  22. }
  23. sensorDirection {
  24. direction = 5; // chip direction range of value:0-7
  25. /* <sign> 1:negative 0:positive
  26. <map> 0:AXIS_X 1:AXIS_Y 2:AXIS_Z
  27. */
  28. /* sign[AXIS_X], sign[AXIS_Y], sign[AXIS_Z], map[AXIS_X], map[AXIS_Y], map[AXIS_Z] */
  29. convert = [
  30. 0, 0, 0, 0, 1, 2,
  31. 1, 0, 0, 1, 0, 2,
  32. 0, 0, 1, 0, 1, 2,
  33. 0, 1, 0, 1, 0, 2,
  34. 1, 0, 1, 0, 1, 2,
  35. 0, 0, 1, 1, 0, 2,
  36. 0, 1, 1, 0, 1, 2,
  37. 1, 1, 1, 1, 0, 2
  38. ];
  39. }
  40. sensorRegConfig {
  41. /* regAddr: register address
  42. value: config register value
  43. len: size of value
  44. mask: mask of value
  45. delay: config register delay time (ms)
  46. opsType: enum SensorOpsType 0-none 1-read 2-write 3-read_check 4-update_bit
  47. calType: enum SensorBitCalType 0-none 1-set 2-revert 3-xor 4-left shift 5-right shift
  48. shiftNum: shift bits
  49. debug: 0-no debug 1-debug
  50. save: 0-no save 1-save
  51. */
  52. /* regAddr, value, mask, len, delay, opsType, calType, shiftNum, debug, save */
  53. initSeqConfig = [
  54. 0x7e, 0xb6, 0xff, 1, 5, 2, 0, 0, 0, 0,
  55. 0x7e, 0x10, 0xff, 1, 5, 2, 0, 0, 0, 0
  56. ];
  57. enableSeqConfig = [
  58. 0x7e, 0x11, 0xff, 1, 5, 2, 0, 0, 0, 0,
  59. 0x41, 0x03, 0xff, 1, 0, 2, 0, 0, 0, 0,
  60. 0x40, 0x08, 0xff, 1, 0, 2, 0, 0, 0, 0
  61. ];
  62. disableSeqConfig = [
  63. 0x7e, 0x10, 0xff, 1, 5, 2, 0, 0, 0, 0
  64. ];
  65. }
  66. }
  67. }

测试

UT测试可以获取到sensor的三轴数据

测试代码路径

drivers/peripheral/sensor/test/unittest/common/hdf_sensor_test.cpp

编译UT代码命令:

./build.sh --product-name rk3568 --build-target hdf_test_sensor

将hdf_test_sensor.bin push到system/bin目录,添加执行权限,执行

有如下结果代表sensor 测试成功

  1. SensorTestDataCallback enter
  2. sensor id :[1], data[1]: 0.001877
  3. sensor id :[1], data[2]: 0.160823
  4. sensor id :[1], data[3]: 0.046122

Vibrator

vibrator 模型

Vibrator驱动模型主要包含Vibrator(传感器)相关的HDI接口与实现,提供Vibrator HDI(Hardware Driver Interface)能力接口,支持静态HCS配置的时间序列和动态配置持续时间两种振动效果。调用StartOnce接口动态配置持续振动时间;调用StartEffect接口启动静态配置的振动效果。

图 1 Vibrator驱动模型图

dayu200-vibrator-01.png

rk3568 支持线性马达,整体的驱动框架openharmony 主线已经具备,只需要实现具体的器件驱动即可。

HDF驱动实现

代码路径:

drivers/framework/model/misc/vibrator/driver/chipset/vibrator_linear_driver.c

linear Vibrator加速度计驱动入口函数实现

  1. struct HdfDriverEntry g_linearVibratorDriverEntry = {
  2. .moduleVersion = 1,
  3. .moduleName = "HDF_LINEAR_VIBRATOR",
  4. .Bind = BindLinearVibratorDriver,
  5. .Init = InitLinearVibratorDriver,
  6. .Release = ReleaseLinearVibratorDriver,
  7. };
  8. HDF_INIT(g_linearVibratorDriverEntry);

hcs配置

驱动hcs配置

  1. vibrator :: host {
  2. hostName = "vibrator_host";
  3. device_vibrator :: device {
  4. device0 :: deviceNode {
  5. policy = 2;
  6. priority = 100;
  7. preload = 0;
  8. permission = 0664;
  9. moduleName = "HDF_VIBRATOR";
  10. serviceName = "hdf_misc_vibrator";
  11. deviceMatchAttr = "hdf_vibrator_driver";
  12. }
  13. }
  14. device_linear_vibrator :: device {
  15. device0 :: deviceNode {
  16. policy = 1;
  17. priority = 105;
  18. preload = 0;
  19. permission = 0664;
  20. moduleName = "HDF_LINEAR_VIBRATOR";
  21. serviceName = "hdf_misc_linear_vibrator";
  22. deviceMatchAttr = "hdf_linear_vibrator_driver";
  23. }
  24. }
  25. }

线性马达器件hcs配置

  1. root {
  2. linearVibratorConfig {
  3. boardConfig {
  4. match_attr = "hdf_linear_vibrator_driver";
  5. vibratorChipConfig {
  6. busType = 1; // 0:i2c 1:gpio
  7. gpioNum = 154;
  8. startReg = 0;
  9. stopReg = 0;
  10. startMask = 0;
  11. }
  12. }
  13. }
  14. }

UT测试

测试代码路径

drivers/peripheral/misc/vibrator/test/unittest/common/hdf_vibrator_test.cpp

编译UT代码命令

./build.sh --product-name rk3568 --build-target hdf_test_vibrator

将hdf_test_vibrator.bin push到system/bin目录,添加执行权限,执行

  1. [ RUN ] HdfVibratorTest.CheckVibratorInstanceIsEmpty
  2. [ OK ] HdfVibratorTest.CheckVibratorInstanceIsEmpty (0 ms)
  3. [ RUN ] HdfVibratorTest.PerformOneShotVibratorDuration001
  4. [ OK ] HdfVibratorTest.PerformOneShotVibratorDuration001 (2001 ms)
  5. [ RUN ] HdfVibratorTest.ExecuteVibratorEffect001
  6. [ OK ] HdfVibratorTest.ExecuteVibratorEffect001 (5001 ms)

最后

有很多小伙伴不知道学习哪些鸿蒙开发技术?不知道需要重点掌握哪些鸿蒙应用开发知识点?而且学习时频繁踩坑,最终浪费大量时间。所以有一份实用的鸿蒙(HarmonyOS NEXT)资料用来跟着学习是非常有必要的。 

这份鸿蒙(HarmonyOS NEXT)资料包含了鸿蒙开发必掌握的核心知识要点,内容包含了ArkTS、ArkUI开发组件、Stage模型、多端部署、分布式应用开发、音频、视频、WebGL、OpenHarmony多媒体技术、Napi组件、OpenHarmony内核、Harmony南向开发、鸿蒙项目实战等等)鸿蒙(HarmonyOS NEXT)技术知识点。

希望这一份鸿蒙学习资料能够给大家带来帮助,有需要的小伙伴自行领取,限时开源,先到先得~无套路领取!!

获取这份完整版高清学习路线,请点击→纯血版全套鸿蒙HarmonyOS学习资料

鸿蒙(HarmonyOS NEXT)最新学习路线

  •  HarmonOS基础技能

  • HarmonOS就业必备技能 
  •  HarmonOS多媒体技术

  • 鸿蒙NaPi组件进阶

  • HarmonOS高级技能

  • 初识HarmonOS内核 
  • 实战就业级设备开发

有了路线图,怎么能没有学习资料呢,小编也准备了一份联合鸿蒙官方发布笔记整理收纳的一套系统性的鸿蒙(OpenHarmony )学习手册(共计1236页)鸿蒙(OpenHarmony )开发入门教学视频,内容包含:ArkTS、ArkUI、Web开发、应用模型、资源分类…等知识点。

获取以上完整版高清学习路线,请点击→纯血版全套鸿蒙HarmonyOS学习资料

《鸿蒙 (OpenHarmony)开发入门教学视频》

《鸿蒙生态应用开发V2.0白皮书》

图片

《鸿蒙 (OpenHarmony)开发基础到实战手册》

OpenHarmony北向、南向开发环境搭建

图片

 《鸿蒙开发基础》

  • ArkTS语言
  • 安装DevEco Studio
  • 运用你的第一个ArkTS应用
  • ArkUI声明式UI开发
  • .……

图片

 《鸿蒙开发进阶》

  • Stage模型入门
  • 网络管理
  • 数据管理
  • 电话服务
  • 分布式应用开发
  • 通知与窗口管理
  • 多媒体技术
  • 安全技能
  • 任务管理
  • WebGL
  • 国际化开发
  • 应用测试
  • DFX面向未来设计
  • 鸿蒙系统移植和裁剪定制
  • ……

图片

《鸿蒙进阶实战》

  • ArkTS实践
  • UIAbility应用
  • 网络案例
  • ……

图片

 获取以上完整鸿蒙HarmonyOS学习资料,请点击→纯血版全套鸿蒙HarmonyOS学习资料

总结

总的来说,华为鸿蒙不再兼容安卓,对中年程序员来说是一个挑战,也是一个机会。只有积极应对变化,不断学习和提升自己,他们才能在这个变革的时代中立于不败之地。 

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/weixin_40725706/article/detail/527520
推荐阅读
相关标签
  

闽ICP备14008679号