当前位置:   article > 正文

Linux摄像头驱动2——UVC(转)_uvc转模拟

uvc转模拟

转载自 hceng blog https://hceng.cn/2018/04/22/Linux%E6%91%84%E5%83%8F%E5%A4%B4%E9%A9%B1%E5%8A%A82%E2%80%94%E2%80%94UVC/

Linux摄像头驱动学习第二篇,对USB摄像头驱动USB video class(UVC)进行详细分析、编写。

这次要写一个真正的摄像头驱动,内容有点多。
先简单的介绍了USB接口,了解Linux中USB设备描述符的意义。
然后再移植内核自带的USB摄像头驱动,同时也验证了摄像头的可用。
最后为了学习,逐句写一个摄像头驱动,再总结。

1.UVC基础

UVC是USB video class的简写,也就是USB接口的视频设备。
UVC其实很好理解,就是V4L2+USB
前面的虚拟摄像头驱动,数据的来源是自己构造的虚拟数据,现在V4L2的数据来源则是通过USB传进来的真实摄像头视频数据。
除了视频数据,摄像头还把自己的特性(比如支持哪几种分辨率)告诉驱动,驱动则要配置摄像头(指定何种分辨率)。

1.1 USB基础知识

USB分主从系统,一般而言,PC中的USB系统就是作主系统,而一般的USB鼠标、U盘则是典型的USB从系统。
为了方便开发,USB定义了一套标准,只要是支持USB的主机,就可以支持任何一个厂商的USB鼠标、U盘,只要是被USB系统包含的设备,只要这些设备支持相应的标准,就无需重新设计驱动而直接使用。
下面简单的列出了USB设备类型,理想情况的USB系统要对这些设备作完整的支持,设备也必须符合USB规范中的要求。

Base ClassDescriptor UsageDescription
00hDeviceUse class information in the Interface Descriptors
01hInterfaceAudio
02hBothCommunications and CDC Control(通讯设备)
03hInterfaceHID (Human Interface Device)
05hInterfacePhysical
06hInterfaceImage
07hInterfacePrinter
08hInterfaceMass Storage(存储)
09hDeviceHub
0AhInterfaceCDC-Data
0BhInterfaceSmart Card
0DhInterfaceContent Security
0EhInterfaceVideo
0FhInterfacePersonal Healthcare
10hInterfaceAudio/Video Devices
11hDeviceBillboard Device Class
12hInterfaceUSB Type-C Bridge Class
DChBothDiagnostic Device
E0hInterfaceWireless Controller
EFhBothMiscellaneous
FEhInterfaceApplication Specific
FFhBothVendor Specific

其中UVC就是Video类。

为了更好地描述USB设备的特征,USB提出了设备架构的概念。
从这个角度来看,可以认为USB设备是由一些配置接口端点
即一个USB设备可以含有一个或多个配置,在每个配置中可含有一个或多个接口,在每个接口中可含有若干个端点。

此外,驱动是绑定到USB接口上,而不是整个设备。

体现到驱动上,就是一个一个的结构体,对应设备、配置、接口、端点。

其中USB video class它是在在标准的USB协议上进行了扩展,扩展的部分称为Class Specific。

 

  • 标准的设备描述符:
  1. typedef struct Device_Descriptor
  2. {
  3. uchar bLength; //设备描述符的字节数
  4. uchar bDescriptorType; //设备描述符类型编号
  5. uint bcdUSB; //USB版本号
  6. uchar bDeviceClass; //USB分配的设备类
  7. uchar bDeviceSubClass; //USB分配的设备子类
  8. uchar bDeviceProtocol; //USB分配的设备协议代码
  9. uchar bMaxPacketSize0; //端点0的最大包大小
  10. uint idVendor; //厂商编号
  11. uint idProduct; //产品编号
  12. uint bcdDevice; //设备出厂编号
  13. uchar iManufacturer; //设备厂商字符串索引
  14. uchar iProduct; //产品字符串索引
  15. uchar iSerialNumber; //设备序列号索引
  16. uchar bNumConfigurations; //可能的配置数
  17. }Device_Descriptor,*pDevice_Descriptor;
  • 配置描述符:
  1. typedef struct Configuration_Descriptor
  2. {
  3. uchar bLength; //配置描述符 的字节数
  4. uchar bDescriptorType; //配置描述符类型编号
  5. uint wTotalLength; //此配置返回的所有数据大小
  6. uchar bNumInterfaces; //此配置支持的接口数量
  7. uchar bConfigurationValue;//Set_Configuration命令所需要的参数
  8. uchar iConfiguration; //描述该配置的字符串索引
  9. uchar bmAttributes; //供电模式的选择
  10. uchar bMaxPower; //设备从总线获取的最大电流
  11. }Configuration_Descriptor,*pConfiguration_Descriptor;
  • 接口描述符:
  1. typedef struct Interface_Descriptor
  2. {
  3. uchar bLength; //接口描述符的字节数
  4. uchar bDescriptorType; //接口描述符的类型编号
  5. uchar bInterfaceNumber; //该接口的编号
  6. uchar bAlternateSetting; //备用的接口描述符的编号
  7. uchar bNumEndPoints; //该接口使用 的端点数,不包括端点0
  8. uchar bInterfaceClass; //接口类
  9. uchar bInterfaceSubClass; //接口子类
  10. uchar bInterfaceProtocol; //接口类协议
  11. uchar iInterface; //描述该接口的字符串索引值
  12. }Interface_Descriptor,*pInterface_Descriptor;
  •  端点描述符:
  1. typedef struct EndPoint_Descriptor
  2. {
  3. uchar bLength; //端点描述符字节数
  4. uchar bDescriptorType; //端点描述符类型编号
  5. uchar bEndpointAddress; //端点地址及输入输出类型
  6. uchar bmAtrributes; //端点的传输类型
  7. uint wMaxPacketSize; //端点收发的最大包大小
  8. uchar bInterval; //主机查询端点的时间间隔
  9. }EndPoint_Descriptor,*pEndPoint_Descriptor;

 

1.2 UVC硬件模型

首先从USB官网下载标准协议相关资料:Video Class -> Video Class 1.5 document set (.zip format, size 6.58MB)
USB_Video_Example 1.5.pdf里,可以得知硬件模型分为两部分:VC interfaceVS interface

VC interface用于控制,内部又分为多个unitterminalunit用于内部处理,terminal用于内外链接;
VS interface用于传输,内部包括视频数据传输的端点以及摄像头支持的视频格式等信息;

每个视频有且仅有一个Vieo Control接口和可有多个Video Streaming接口;

一个接口,就相当于一个逻辑上的USB设备。
现在,想象一下当USB摄像头插上主机,就相当于同时插上了两个设备,可通过函数去选中其中一个设备,从而去操作它。
一个设备用于控制,比如设置亮度等;
一个设备用于获取数据,选择所支持的某个格式等;
这样就基本把控制和数据分开,要控制则操作控制接口,要数据则通过数据接口。

  • VideoControl Interface用于控制,比如设置亮度。

       它内部有多个Unit/Terminal(在程序里Unit/Terminal都称为entity)
       可以通过uvc_query_ctrl类似的函数来访问:

ret = uvc_query_ctrl(dev /*哪一个USB设备*/, SET_CUR, ctrl->entity->id /*哪一个unit/terminal*/, dev->intfnum /*哪一个接口:VC interface*/, ctrl->info->selector, uvc_ctrl_data(ctrl, UVC_CTRL_DATA_CURRENT), ctrl->info->size);
  • VideoStreaming Interface用于获得视频数据,也可以用来选择fromat/frame(VS可能有多种format,一个format支持多种frame,frame用来表示分辨率等信息)

       可以通过__uvc_query_ctrl类似的函数来访问:

ret = __uvc_query_ctrl(video->dev /*哪一个USB设备*/, SET_CUR, 0, video->streaming->intfnum /*哪一个接口: VS*/, probe ? VS_PROBE_CONTROL : VS_COMMIT_CONTROL, data, size, uvc_timeout_param);

这里的参数VS_PROBE_CONTROL只是枚举尝试,并不是设置,真正要设置需要使用参数VS_COMMIT_CONTROL

1.3 USB描述符

前面提到摄像头要把自己的特性(比如支持哪几种分辨率)告诉驱动,这个特性就是被放在USB描述符里面。
在前面下载的USB_Video_Example 1.5.pdf文档里,有个UVC描述符层次结构例子:

将USB插在Ubuntu主机上,执行lsusb可以看到当前的USB设备:

  1. Bus 001 Device 001: ID 1d6b:0002 Linux Foundation 2.0 root hub
  2. Bus 002 Device 012: ID 1b3b:2977 iPassion Technology Inc.
  3. Bus 002 Device 001: ID 1d6b:0001 Linux Foundation 1.1 root hub

可根据厂家名字iPassion Technology Inc知道ID为1b3b:2977的USB设备就是摄像头。
再使用-v(显示USB设备的详细信息)和-d(仅显示指定厂商和产品编号的设备)获取指定设备的详细信息:

lsusb -v -d 1b3b:2977

此时会打印出许多信息,精简去掉详细的数据,只留下大致框架如下:

  1. Device Descriptor:
  2. Configuration Descriptor:
  3. Interface Association:
  4. Interface Descriptor:
  5. VideoControl Interface Descriptor:
  6. VideoControl Interface Descriptor:
  7. Endpoint Descriptor:
  8. Interface Descriptor:
  9. VideoStreaming Interface Descriptor:
  10. VideoStreaming Interface Descriptor:
  11. Interface Descriptor:
  12. Endpoint Descriptor:
  13. Interface Descriptor:
  14. Endpoint Descriptor:
  15. Interface Association:
  16. Interface Descriptor:
  17. AudioControl Interface Descriptor:
  18. AudioControl Interface Descriptor:
  19. Interface Descriptor:
  20. AudioStreaming Interface Descriptor:
  21. AudioStreaming Interface Descriptor:
  22. Endpoint Descriptor:
  23. AudioControl Endpoint Descriptor:
  24. Interface Descriptor:
  25. AudioStreaming Interface Descriptor:
  26. AudioStreaming Interface Descriptor:
  27. Endpoint Descriptor:
  28. AudioControl Endpoint Descriptor:

可以看到设备描述符下有一个配置描述符,配置描述符下有两个联合接口(IAD),一个是视频的,一个是音频的。
同级的还有若干接口描述符,接口描述符下有若干VC、VS和端点,与前面的框架是完全对应的。

任取其中一个描述符:

  1. VideoStreaming Interface Descriptor:
  2. bLength 30
  3. bDescriptorType 36
  4. bDescriptorSubtype 7 (FRAME_MJPEG)
  5. bFrameIndex 1
  6. bmCapabilities 0x01
  7. Still image supported
  8. wWidth 640
  9. wHeight 480
  10. dwMinBitRate 2304000
  11. dwMaxBitRate 2304000
  12. dwMaxVideoFrameBufferSize 76800
  13. dwDefaultFrameInterval 333333
  14. bFrameIntervalType 1
  15. dwFrameInterval( 0) 333333

就可以得知该摄像头支持一种叫FRAME_MJPEG的格式,分辨率为640*480等信息。
因此,从上面的一系列描述符,就可完全得知摄像头的特征,后面驱动用用到具体的特性再说明。

2.内核摄像头驱动

对UVC进行学习,步骤大致如下:
首先分析内核自带的UVC是如何实现的;
然后让手里的摄像头工作起来,可能内核自带的驱动可以直接用,也可能需要移植;
最后再尝试写一个精简版的UVC驱动,深入理解。

2.1分析内核摄像头驱动

在4.13.9内核中,UVC驱动在drivers/media/usb/uvc/文件夹里,下面对uvc_driver.c进行分析。
a.构造usb_driver

 

  1. struct uvc_driver {
  2. struct usb_driver driver;
  3. };
  4. struct uvc_driver uvc_driver = {
  5. .driver = {
  6. .name = "uvcvideo",
  7. .probe = uvc_probe,
  8. .disconnect = uvc_disconnect,
  9. .suspend = uvc_suspend,
  10. .resume = uvc_resume,
  11. .reset_resume = uvc_reset_resume,
  12. .id_table = uvc_ids,
  13. .supports_autosuspend = 1,
  14. },
  15. };

其中.id_table里列举了驱动支持哪些USB设备。

b.设置usb_driver

  1. uvc_probe
  2. kzalloc //分配video_device
  3. uvc_register_chains
  4. uvc_register_terms
  5. uvc_register_video
  6. vdev->v4l2_dev = &dev->vdev; //设置video_device
  7. vdev->fops = &uvc_fops;
  8. vdev->ioctl_ops = &uvc_ioctl_ops;
  9. vdev->release = uvc_release;
  10. video_register_device //注册video_device

 c.注册usb_driver

  1. uvc_init
  2. usb_register

可以看到,probe()函数里面的操作就是前面vivid驱动里一样的操作方式。
然后在外面加了一个usb的“壳”。

驱动的核心还是fopsioctl_ops。下面对这两个操作函数的实现进行分析。
首先是v4l2_file_operations:

  1. const struct v4l2_file_operations uvc_fops = {
  2. .owner = THIS_MODULE,
  3. .open = uvc_v4l2_open,
  4. .release = uvc_v4l2_release,
  5. .unlocked_ioctl = video_ioctl2,
  6. #ifdef CONFIG_COMPAT
  7. .compat_ioctl32 = uvc_v4l2_compat_ioctl32,
  8. #endif
  9. .read = uvc_v4l2_read,
  10. .mmap = uvc_v4l2_mmap,
  11. .poll = uvc_v4l2_poll,
  12. #ifndef CONFIG_MMU
  13. .get_unmapped_area = uvc_v4l2_get_unmapped_area,
  14. #endif
  15. };

里面有open()release()ioctl2readmmappoll,这点和前面的虚拟驱动一样。

这其中最重要的就是ioctl2,它使用video_usercopy()获得用户空间传进来的参数,调用__video_do_ioctl()v4l2_ioctls[]数组里找到对应的uvc_ioctl_ops

uvc_ioctl_ops每个函数的实现放在后面写代码里,逐个讲解。

UVC驱动的重点在于:

  • 对描述符的解析;
  • 属性的控制: 通过VideoControl Interface来设置;
  • 格式的选择:通过VideoStreaming Interface来设置;
  • 数据的获得:通过VideoStreaming Interface的URB来获得;

2.2移植内核摄像头驱动

我手里使用的是百问网提供的二合一摄像头,它既有CMOS接口,也有USB接口。
使用USB接口时,上面有一个DSP芯片,可以将原始的YUV数据转换成MJPEG的压缩数据。

它基本是符合UVC规范的,但有些小差别,厂家提供的文档里面有说明,按着说明修改即可。
主要添加了usb_device_id和修改了数据的处理。详细参考补丁,修改后的代码在Github
编译完成后,先加载内核自带的uvcvideo及依赖,然后移除内核自带的驱动,安装修改后的驱动,运行xawtv应用程序:

  1. sudo modprobe uvcvideo
  2. sudo rmmod uvcvideo
  3. sudo insmod uvcvideo.ko
  4. xawtv -noalsa

效果图:

3.编写UVC驱动

UVC的驱动有点长,我尽量根据功能将其分解若干部分,逐一编写。
当USB插上主机,就会产生两个接口(VC和VS),然后获取到USB描述符并解析,从而设置摄像头(比如分辨率、格式);然后分配缓冲区,启动摄像头,便从USB得到摄像头采集数据,保存到缓冲区供应用程序使用。
整个流程就大致这样,因此将其分为了6个部分进行编写。

  • 1.注册(USB和Video)
  • 2.数据格式设置相关
  • 3.缓冲区操作相关
  • 4.属性相关(以亮度控制为例)
  • 5.URB
  • 6.启动/停止
  • 7.其它操作函数(mmap和poll)
  • 8.测试/效果

3.1 注册(USB和Video)

在入口函数先“套”一个USB驱动的框架,首先分配一个usb_driver

  1. static struct usb_driver my_uvc_driver = {
  2. .name = "my_uvc",
  3. .probe = my_uvc_probe,
  4. .disconnect = my_uvc_disconnect,
  5. .id_table = my_uvc_ids,
  6. };

其中的id_table只包含我们所需的VC和VS,这样摄像头的Audio接口,就不会被识别:

  1. static struct usb_device_id my_uvc_ids[] =
  2. {
  3. /* Generic USB Video Class */
  4. { USB_INTERFACE_INFO(USB_CLASS_VIDEO, 1, 0) }, /* VideoControl Interface */
  5. { USB_INTERFACE_INFO(USB_CLASS_VIDEO, 2, 0) }, /* VideoStreaming Interface */
  6. {}
  7. };

这里USB_INTERFACE_INFO宏参数分别是前面接口描述符里的bInterfaceClass(接口类),bInterfaceSubClass(接口子类),bInterfaceProtocol(接口类协议)。

  1. #define USB_INTERFACE_INFO(cl, sc, pr) \
  2. .match_flags = USB_DEVICE_ID_MATCH_INT_INFO, \
  3. .bInterfaceClass = (cl), \
  4. .bInterfaceSubClass = (sc), \
  5. .bInterfaceProtocol = (pr)

这里传入的第一个参数都是video类,第二个分别是VC和VS,第三个参数都是无协议。这些设置的依据来自于摄像头的USB描述符:

  1. Interface Descriptor:
  2. ……
  3. bInterfaceClass 14 Video
  4. bInterfaceSubClass 1 Video Control
  5. bInterfaceProtocol 0
  6. ……
  7. Interface Descriptor:
  8. ……
  9. bInterfaceClass 14 Video
  10. bInterfaceSubClass 2 Video Streaming
  11. bInterfaceProtocol 0
  12. ……

这里驱动的usb_device_id和摄像头提供的一旦匹配后,就会调用probe()函数,这里两个接口,就会调用两次。在probe()函数里,需要先得到usb_device,用于对usb设备的操作,以及分别得到两个接口的编号,用于后面分别调用每个接口。再在probe()函数里做常规的分配、设置、注册video_device

  1. static int my_uvc_probe(struct usb_interface *intf, const struct usb_device_id *id)
  2. {
  3. static int cnt = 0;
  4. int ret;
  5. printk("enter %s\n", __func__);
  6. //usb_device_id会使probe()调用两次,然而创建video_device只需要一次
  7. cnt++;
  8. my_uvc_udev = interface_to_usbdev(intf); //获取usb设备
  9. if (cnt == 1) //获取编号
  10. my_uvc_control_intf = intf->cur_altsetting->desc.bInterfaceNumber;
  11. else if (cnt == 2)
  12. my_uvc_streaming_intf = intf->cur_altsetting->desc.bInterfaceNumber;
  13. if (cnt == 2)
  14. {
  15. /* 1.分配一个video_device结构体 */
  16. my_uvc_vdev = video_device_alloc();
  17. if (NULL == my_uvc_vdev)
  18. {
  19. printk("Faile to alloc video device (%d)\n", ret);
  20. return -ENOMEM;
  21. }
  22. /* 2.设置 */
  23. my_uvc_vdev->release = my_uvc_release;
  24. my_uvc_vdev->fops = &my_uvc_fops;
  25. my_uvc_vdev->ioctl_ops = &my_uvc_ioctl_ops;
  26. my_uvc_vdev->v4l2_dev = &v4l2_dev;
  27. /* 3. 注册 */
  28. ret = video_register_device(my_uvc_vdev, VFL_TYPE_GRABBER, -1);
  29. if (ret < 0)
  30. {
  31. printk("Faile to video_register_device.\n");
  32. return ret;
  33. }
  34. else
  35. printk("video_register_device ok.\n");
  36. /* 为了确定带宽,使用哪一个setting */
  37. my_uvc_try_streaming_params(&my_uvc_params); //测试参数
  38. my_uvc_get_streaming_params(&my_uvc_params); //取出参数
  39. my_uvc_set_streaming_params(&my_uvc_params); //设置参数
  40. }
  41. return 0;
  42. }

对应的disconnect也会被调用两次,但只做一次释放操作:

  1. static void my_uvc_disconnect(struct usb_interface *intf)
  2. {
  3. static int cnt = 0;
  4. printk("enter %s\n", __func__);
  5. cnt++;
  6. if (cnt == 2)
  7. {
  8. video_unregister_device(my_uvc_vdev);
  9. video_device_release(my_uvc_vdev);
  10. }
  11. }

现在,就完成了USB设备Video设备的注册。
且为Video设备绑定了操作函数,后续的工作就是完善操作函数。

3.2 数据格式设置相关

前面Video设备绑定了fops,这里主要有五个操作函数:

  1. static const struct v4l2_file_operations my_uvc_fops =
  2. {
  3. .owner = THIS_MODULE,
  4. .open = my_uvc_open,
  5. .release = my_uvc_close,
  6. .mmap = my_uvc_mmap,
  7. .unlocked_ioctl = video_ioctl2, /* V4L2 ioctl handler */
  8. .poll = my_uvc_poll,
  9. };

open()close()没什么好说的,常规操作:

  1. static int my_uvc_open(struct file *file)
  2. {
  3. printk("enter %s\n", __func__);
  4. return 0;
  5. }
  6. static int my_uvc_close(struct file *file)
  7. {
  8. printk("enter %s\n", __func__);
  9. my_uvc_vidioc_streamoff(NULL, NULL, 0);
  10. return 0;
  11. }

关闭的时候,顺手调用vidioc_streamoff关闭数据采集。

mmap()poll()涉及buf的操作,后面再讲。先讲ioctl里面几个稍微简单点的操作函数。

首先是vidioc_querycap(),用于表明本设备是一个摄像头设备。需要对v4l2_capability结构体的driver命名,card命名,version指定版本号,capabilities指定支持的功能,device_caps通过节点访问的功能。

  1. static int my_uvc_vidioc_querycap(struct file *file, void *priv, struct v4l2_capability *cap)
  2. {
  3. struct video_device *vdev = video_devdata(file);
  4. printk("enter %s\n", __func__);
  5. strlcpy(cap->driver, "my_uvc_video", sizeof(cap->driver));
  6. strlcpy(cap->card, vdev->name, sizeof(cap->card));
  7. cap->version = 4;
  8. cap->capabilities = V4L2_CAP_VIDEO_CAPTURE | V4L2_CAP_STREAMING | V4L2_CAP_DEVICE_CAPS;
  9. cap->device_caps = V4L2_CAP_VIDEO_CAPTURE | V4L2_CAP_STREAMING | V4L2_CAP_DEVICE_CAPS;
  10. return 0;
  11. }

然后是vidioc_enum_fmt_vid_cap(),用于列举摄像头支持的格式。
从USB摄像头的设备描述符可知,本摄像头只支持一种MJPEG格式,通过index来限定只接受一种格式。
需要设置v4l2_fmtdesc结构体的description(格式名字)、pixelformat(格式对应的像素格式)和type(v4l2_buf_type)。

  1. static int my_uvc_vidioc_enum_fmt_vid_cap(struct file *file, void *priv, struct v4l2_fmtdesc *f)
  2. {
  3. printk("enter %s\n", __func__);
  4. /* 根据摄像头的设备描述符可知,只支持一种格式:VS_FORMAT_MJPEG */
  5. if(f->index >= 1)
  6. return -EINVAL;
  7. strcpy(f->description, MY_UVC_FMT); //支持格式
  8. f->pixelformat = V4L2_PIX_FMT_MJPEG;
  9. f->type = V4L2_BUF_TYPE_VIDEO_CAPTURE;
  10. return 0;
  11. }

之后是获取摄像头数据格式vidioc_g_fmt_vid_cap()操作函数。这个比较简单,直接返回my_uvc_format即可。

  1. static int my_uvc_vidioc_g_fmt_vid_cap(struct file *file, void *priv, struct v4l2_format *f)
  2. {
  3. printk("enter %s\n", __func__);
  4. memcpy(f, &my_uvc_format, sizeof(my_uvc_format));
  5. return 0;
  6. }

再是vidioc_try_fmt_vid_cap(),用于尝试设置摄像头数据的格式。
先判断传入的v4l2_format结构体里的typepixelformat是不是正确的格式。
再设置v4l2_pix_format结构体的width(宽)、height(高)和filed(数据扫描方式:不交错)。
以及sizeimage(每帧图像大小),这里的值大小的确定是通过probe()里打印的dwMaxVideoFrameSize值,这里每帧的理论大小是width*height=320*240=76800小于dwMaxVideoFrameSize=77312,估计最大每帧图像还会包含其它数据。
大多数网络摄像头的colorspace(颜色空间)都是V4L2_COLORSPACE_SRGB
priv(私有数据)由pixelformat决定。
这里的所有设置的值,理论上都来自对USB设备描述符的解析,这里简化了代码解析的过程,直接赋值,实际开发中为了适配多个摄像头,应该读取后解析。

  1. static int my_uvc_vidioc_try_fmt_vid_cap(struct file *file, void *priv, struct v4l2_format *f)
  2. {
  3. printk("enter %s\n", __func__);
  4. if (f->type != V4L2_BUF_TYPE_VIDEO_CAPTURE || f->fmt.pix.pixelformat != V4L2_PIX_FMT_MJPEG)
  5. return -EINVAL;
  6. /* 调整format的width, height */
  7. f->fmt.pix.width = my_uvc_wWidth; //设备描述符里支持的分辨率:640x480,320x240,160x120
  8. f->fmt.pix.height = my_uvc_wHeight;
  9. f->fmt.pix.field = V4L2_FIELD_NONE;
  10. /* 计算bytesperline, sizeimage */
  11. //bBitsPerPixel = my_uvc_bBitsPerPixel; //lsusb:bBitsPerPixel
  12. //f->fmt.pix.bytesperline = (f->fmt.pix.width * bBitsPerPixel) >> 3;
  13. f->fmt.pix.sizeimage = dwMaxVideoFrameSize; //f->fmt.pix.height * f->fmt.pix.bytesperline;
  14. f->fmt.pix.colorspace = V4L2_COLORSPACE_SRGB;
  15. f->fmt.pix.priv = 0; /* private data, depends on pixelformat */
  16. return 0;
  17. }

最后是设置摄像头的数据的格式vidioc_s_fmt_vid_cap()
先参数设置传入的v4l2_format,如果不支持返回错误。支持的话,直接赋值给my_uvc_format

  1. static int my_uvc_vidioc_s_fmt_vid_cap(struct file *file, void *priv, struct v4l2_format *f)
  2. {
  3. int ret;
  4. printk("enter %s\n", __func__);
  5. ret = my_uvc_vidioc_try_fmt_vid_cap(file, NULL, f);
  6. if (ret < 0)
  7. return ret;
  8. memcpy(&my_uvc_format, f, sizeof(my_uvc_format));
  9. return 0;
  10. }

至此,就完成了对摄像头数据格式my_uvc_format的设置。
应用层就可以对摄像头数据格式进行操作,比如选择何种数据格式、何种分辨率等,当然,这里的驱动没有提供选择,全都直接赋值了。

3.3 缓冲区操作相关

buf操作是一个难点,容易出问题的地方。
首先是申请缓冲区vidioc_reqbufs(),应用层ioctl调用此函数,让其分配若干个buf,应用层后面将从这些buf读取视频数据。
驱动先从传入的v4l2_requestbuffers结构体获得count(buf数量),每个buf的大小是前面my_uvc_formatsizeimage(每帧图像大小),且长度页对齐。

  • PAGE_ALIGN
    PAGE_ALIGN在内核里作用是将数据以4K页大小上界对齐。
    举个例子:
    假如传入的数据大小是4000字节,那么结果得到4096字节;
    假如传入的数据大小是4096字节,那么结果得到4096字节;
    假如传入的数据大小是5000字节,那么结果得到8192字节;

源码:
#define PAGE_SIZE 4096
#define PAGE_MASK (~(PAGE_SIZE-1))
#define PAGE_ALIGN(x) ((x + PAGE_SIZE - 1) & PAGE_MASK)

实质:PAGE_ALIGN(x) = ((x + 4095) & (~4095))

然后再判断my_uvc_queue结构体里的mem(内存地址)是否为空,非空的话说明原来已经分配了buf,需要先释放内存、清空my_uvc_queue
如果传入需要的buf数量为0,则表明不需要分配,直接退出。
然后就分配buf,将所有buf作为一个整体一次性分配,大小也就是nbuffers * bufsize,如果分配失败,减小buf数量,再尝试。
现在就有了一整块buf,对应的起始地址是mem,再清空my_uvc_queue进行初始化。
再初始化两个队列(双向链表),mainqueue用于供应用层读取数据用,irqqueue用于供驱动产生数据用。
再依次设置每个buf的v4l2_buffer结构体的index(索引)、m.offset(偏移)、length(大小)、type(类型)、sequence(序列计数)、field(扫描方式)、memory(内存类型)、flags(标志),再设置my_uvc_bufferstate(状态)和初始化等待队列wait
最后再设置my_uvc_q,记录buf首地址、数量和大小。

  1. /* APP调用该ioctl让驱动程序分配若干个buf, APP将从这些buf中读到视频数据 */
  2. static int my_uvc_vidioc_reqbufs(struct file *file, void *priv, struct v4l2_requestbuffers *p)
  3. {
  4. unsigned int i;
  5. void *mem = NULL;
  6. int nbuffers = p->count; //buf数量
  7. int bufsize = PAGE_ALIGN(my_uvc_format.fmt.pix.sizeimage); //buf大小,且长度页对齐
  8. printk("enter %s\n", __func__);
  9. if (my_uvc_q.mem) //如果原来分配了buf,先释放原来的buf
  10. {
  11. vfree(my_uvc_q.mem);
  12. memset(&my_uvc_q, 0, sizeof(my_uvc_q));
  13. my_uvc_q.mem = NULL;
  14. }
  15. if (nbuffers == 0) //没有需要分配的,直接退出
  16. return 0;
  17. for (; nbuffers > 0; --nbuffers) //依次减少buf数量,直到分配成功
  18. {
  19. mem = vmalloc_32(nbuffers * bufsize); //这些buf是一次性作为一个整体来分配的
  20. if (mem != NULL)
  21. break;
  22. }
  23. if (mem == NULL)
  24. return -ENOMEM;
  25. memset(&my_uvc_q, 0, sizeof(my_uvc_q)); //清空my_uvc_q,初始化
  26. INIT_LIST_HEAD(&my_uvc_q.mainqueue); //初始化两个队列,my_uvc_vidioc_qbuf
  27. INIT_LIST_HEAD(&my_uvc_q.irqqueue);
  28. for (i = 0; i < nbuffers; ++i)
  29. {
  30. my_uvc_q.buffer[i].buf.index = i; //索引
  31. my_uvc_q.buffer[i].buf.m.offset = i * bufsize; //偏移
  32. my_uvc_q.buffer[i].buf.length = my_uvc_format.fmt.pix.sizeimage; //原始大小;实测PAGE_ALIGN对齐,也没问题
  33. my_uvc_q.buffer[i].buf.type = V4L2_BUF_TYPE_VIDEO_CAPTURE; //视频捕获设备
  34. my_uvc_q.buffer[i].buf.sequence = 0;
  35. my_uvc_q.buffer[i].buf.field = V4L2_FIELD_NONE;
  36. my_uvc_q.buffer[i].buf.memory = V4L2_MEMORY_MMAP;
  37. my_uvc_q.buffer[i].buf.flags = 0;
  38. my_uvc_q.buffer[i].state = VIDEOBUF_IDLE; //分配完更新状态为空闲
  39. init_waitqueue_head(&my_uvc_q.buffer[i].wait); //初始化一个等待队列
  40. }
  41. my_uvc_q.mem = mem;
  42. my_uvc_q.count = nbuffers;
  43. my_uvc_q.buf_size = bufsize;
  44. return nbuffers;
  45. }

这样,我们就得到一个my_uvc_queue结构体,这个结构体里面的my_uvc_buffer结构体数组,存放了每个buf的信息。示意如下:

 


接下来是vidioc_querybuf(),用于查询buf,获得buf的地址信息等。
先判断传入的v4l2_buffer结构体中的index是否超出了buf数量范围。
然后将my_uvc_q中的对应的v4l2_buffer传给传入的v4l2_buf
再判断my_uvc_buffer中的vma_use_count是否表示被mmap(),对应修改标准位。
最后再将uvc的state flags转换成V4L2的state flags,其实它们的值都是一样的,

  1. /* 查询缓存状态, 比如地址信息(APP可以用mmap进行映射) */
  2. static int my_uvc_vidioc_querybuf(struct file *file, void *priv, struct v4l2_buffer *v4l2_buf)
  3. {
  4. int ret = 0;
  5. printk("enter %s\n", __func__);
  6. if (v4l2_buf->index >= my_uvc_q.count)
  7. {
  8. ret = -EINVAL;
  9. goto done;
  10. }
  11. memcpy(v4l2_buf, &my_uvc_q.buffer[v4l2_buf->index].buf, sizeof(*v4l2_buf));
  12. if (my_uvc_q.buffer[v4l2_buf->index].vma_use_count) //更新flags
  13. v4l2_buf->flags |= V4L2_BUF_FLAG_MAPPED;
  14. #if 0
  15. switch (my_uvc_q.buffer[v4l2_buf->index].state) //将uvc flags转换成V4L2 flags
  16. {
  17. case VIDEOBUF_ERROR:
  18. case VIDEOBUF_DONE:
  19. v4l2_buf->flags |= V4L2_BUF_FLAG_DONE;
  20. break;
  21. case VIDEOBUF_QUEUED:
  22. case VIDEOBUF_ACTIVE:
  23. v4l2_buf->flags |= V4L2_BUF_FLAG_QUEUED;
  24. break;
  25. case VIDEOBUF_IDLE:
  26. default:
  27. break;
  28. }
  29. #endif
  30. done:
  31. return ret;
  32. }

这样,就将对应的v4l2_buffer相关信息传给了应用层,应用层就通过此函数查询各个buf信息。

 


vidioc_qbuf()是将前面的buf放入到队列中。
首先是判断传入的v4l2_buffer的类型、内存种类、节点是否超过最大数量和my_uvc_qmy_uvc_buffer状态是否处于空闲。
然后修改my_uvc_qmy_uvc_buffer状态为处于队列中VIDEOBUF_QUEUED,初始化v4l2_buffer中的bytesused(缓冲区中数据的大小)为0。
然后把对应buf的streamirq分别加到队列mainqueue和队列irqqueue尾部。

  • 队列mainqueue:供应用层使用,当队列中缓冲区有数据时, 应用层从mainqueue队列中取出数据;
  • 队列irqqueue:供产生数据的函数使用,当采集到数据时,从irqqueue队列中取出首个缓冲区,存入数据;
  1. /* 把传入的缓冲区放入队列, 底层的硬件操作函数将会把数据放入这个队列的缓存 */
  2. static int my_uvc_vidioc_qbuf(struct file *file, void *priv, struct v4l2_buffer *v4l2_buf)
  3. {
  4. printk("enter %s\n", __func__);
  5. /* 0. APP传入的v4l2_buf可能有问题, 要做判断 */
  6. if (v4l2_buf->type != V4L2_BUF_TYPE_VIDEO_CAPTURE || v4l2_buf->memory != V4L2_MEMORY_MMAP)
  7. return -EINVAL;
  8. if (v4l2_buf->index >= my_uvc_q.count)
  9. return -EINVAL;
  10. if (my_uvc_q.buffer[v4l2_buf->index].state != VIDEOBUF_IDLE)
  11. return -EINVAL;
  12. /* 1. 修改状态 */
  13. my_uvc_q.buffer[v4l2_buf->index].state = VIDEOBUF_QUEUED;
  14. my_uvc_q.buffer[v4l2_buf->index].buf.bytesused = 0;
  15. /* 2. 放入2个队列 */
  16. //队列1: 供应用层使用
  17. //当队列中缓冲区有数据时, 应用层从mainqueue队列中取出数据
  18. list_add_tail(&my_uvc_q.buffer[v4l2_buf->index].stream, &my_uvc_q.mainqueue);
  19. //队列2: 供产生数据的函数使用
  20. //当采集到数据时,从irqqueue队列中取出首个缓冲区,存入数据
  21. list_add_tail(&my_uvc_q.buffer[v4l2_buf->index].irq, &my_uvc_q.irqqueue);
  22. return 0;
  23. }

 

  • 通过此函数,就将传入的v4l2_buffer放在了两个队列中。

最后是将数据从队列取出vidioc_dqbuf()
这里是应用层想得到数据,因此是从mainqueue队列获取。
首先判断mainqueue是否是空队列,然后以my_uvc_q.mainqueue作为头节点,搜索my_uvc_buffer结构体中的stream,得到队列中第一个my_uvc_buffer的地址。
再把my_uvc_bufferstate(状态)改为VIDEOBUF_IDLE(空闲)。、
再将该节点从队列删除,最后返回v4l2_buf

  1. /* APP通过poll/select确定有数据后,把buf从mainqueue队列中取出来 */
  2. static int my_uvc_vidioc_dqbuf(struct file *file, void *priv, struct v4l2_buffer *v4l2_buf)
  3. {
  4. struct my_uvc_buffer *get_buf;
  5. printk("enter %s\n", __func__);
  6. if (list_empty(&my_uvc_q.mainqueue))
  7. return -EINVAL;
  8. get_buf = list_first_entry(&my_uvc_q.mainqueue, struct my_uvc_buffer, stream); //取出buf
  9. switch (get_buf->state) //修改状态
  10. {
  11. case VIDEOBUF_ERROR:
  12. return -EIO;
  13. case VIDEOBUF_DONE:
  14. get_buf->state = VIDEOBUF_IDLE;
  15. break;
  16. case VIDEOBUF_IDLE:
  17. case VIDEOBUF_QUEUED:
  18. case VIDEOBUF_ACTIVE:
  19. default:
  20. return -EINVAL;
  21. }
  22. list_del(&get_buf->stream); //从队列删除
  23. memcpy(v4l2_buf, &get_buf->buf, sizeof *v4l2_buf); //复制返回数据
  24. return 0;
  25. }

至此,对buf的基本操作就完成了,包括buf的申请、查询、放入/取出到队列。
其中,队列的变化如下:

初始状态,队列mainqueue和队列irqqueue串连起了传进来的buf。
产生数据的时候,buf[0]装入数据,且断开与队列irqqueue的连接,此时buf[1]是队列irqqueue的第一个节点。
取出数据的时候,buf[0]取出数据,且断开与队列mainqueue的连接,此时buf[1]是队列mainqueue的第一个节点。
待数据处理完成,buf[0]将被再次放入队列,此时在队列尾部。
周而复始完成放入、取出队列。

3.4 属性相关(以亮度控制为例)

接下来是操作摄像头属性,以亮度控制为例,查询、获取、设置摄像头的亮度属性。
从前面的UVC硬件模型中可以得知,VC interface是用于控制摄像头的,其中PU单元用于属性的控制。
UVC 1.5 Class specification.pdf文档里,找到Processing Unit Descriptor,其中的bmControls表示摄像头支持属性的含义:

  1. A bit set to 1 indicates that the mentioned Control is supported for the video stream.
  2. D0: Brightness
  3. D1: Contrast
  4. D2: Hue
  5. D3: Saturation
  6. D4: Sharpness
  7. D5: Gamma
  8. D6: White Balance Temperature
  9. D7: White Balance Component
  10. D8: Backlight Compensation
  11. D9: Gain
  12. ……

再找到本摄像头USB描述符中VC interface DescriptorPROCESSING_UNIT中的bmControls,其值是0x0000053f,对应支持的属性也就是其下面的几个属性,Brightness(亮度)控制是支持的。

  1. VideoControl Interface Descriptor:
  2. bLength 11
  3. bDescriptorType 36
  4. bDescriptorSubtype 5 (PROCESSING_UNIT)
  5. Warning: Descriptor too short
  6. bUnitID 3
  7. bSourceID 1
  8. wMaxMultiplier 0
  9. bControlSize 2
  10. bmControls 0x0000053f
  11. Brightness
  12. Contrast
  13. Hue
  14. Saturation
  15. Sharpness
  16. Gamma
  17. Backlight Compensation
  18. Power Line Frequency

在代码中,UVC规范定义的属性在uvc_ctrl.c里的一个uvc_control_info结构体类型的vc_ctrls数组里。

  1. {
  2. .entity = UVC_GUID_UVC_PROCESSING, //属于哪个entity(比如PU)
  3. .selector = UVC_PU_BRIGHTNESS_CONTROL, //用于亮度
  4. .index = 0, //对应Processing Unit Descriptor的bmControls[0]
  5. .size = 2, //数据长度为2字节
  6. .flags = UVC_CTRL_FLAG_SET_CUR //支持SET_CUR、GET_RANGE(GET_CUR、GET_MIN、GET_MAX)等
  7. | UVC_CTRL_FLAG_GET_RANGE
  8. | UVC_CTRL_FLAG_RESTORE,
  9. },
  10. {
  11. .entity = UVC_GUID_UVC_PROCESSING,
  12. .selector = UVC_PU_CONTRAST_CONTROL,
  13. .index = 1,
  14. .size = 2,
  15. .flags = UVC_CTRL_FLAG_SET_CUR
  16. | UVC_CTRL_FLAG_GET_RANGE
  17. | UVC_CTRL_FLAG_RESTORE,
  18. },

现在,文档、硬件、代码三者都找到了对应。

此外,uvc_control_mapping结构体类型的uvc_ctrl_mappings数组更加细致地描述属性。

  1. {
  2. .id = V4L2_CID_BRIGHTNESS, //应用层根据ID来找到对应属性
  3. .name = "Brightness", //名字
  4. .entity = UVC_GUID_UVC_PROCESSING, //属于哪了个entity(比如PU)
  5. .selector = UVC_PU_BRIGHTNESS_CONTROL, //用于亮度控制
  6. .size = 16, //数据占多少位
  7. .offset = 0, //从哪位开始
  8. .v4l2_type = V4L2_CTRL_TYPE_INTEGER, //属性类别(整数)
  9. .data_type = UVC_CTRL_DATA_TYPE_SIGNED, //数据类型(有符号整数)
  10. },
  11. {
  12. .id = V4L2_CID_CONTRAST,
  13. .name = "Contrast",
  14. .entity = UVC_GUID_UVC_PROCESSING,
  15. .selector = UVC_PU_CONTRAST_CONTROL,
  16. .size = 16,
  17. .offset = 0,
  18. .v4l2_type = V4L2_CTRL_TYPE_INTEGER,
  19. .data_type = UVC_CTRL_DATA_TYPE_UNSIGNED,
  20. },

因此,属性控制的准备工作有:

1.获取摄像头的设备描述符,根据PU的描述符的bmControls,得知它支持哪些属性;
2.从uvc_ctrls数组中根据entityindex找到对应属性,得知其支持的操作(SET_CUR、GET_CUR等);
3.从uvc_ctrl_mappings数组中根据ID找到对应属性,得知其更加详细信息(整数等);


首先是查询属性vidioc_queryctrl(),应用层传入一个v4l2_queryctrl结构体,驱动设置其参数返回。
需要设置的参数有id(ID)、type(类型)、name(名字)、flags(标志)、minimum(最小值)、maximum(最大值)、step(步长)、default_value(典型值),其中前面几个是根据前面的准备工作得知的值,直接赋值,后面的几个需要使用usb_control_msg()函数向摄像头发起USB传输,获取对应值。

  • usb_control_msg()
    功能:发送一个简单的控制消息到指定的端点,并等待消息完成或超时;
    参数:
      dev:指向控制消息所发送的目标USB设备(usb_device)的指针; <这里是在probe()里获取的my_uvc_udev>
      pipe:控制消息所发送的目标USB设备的特定端点,调用usb_sndctrlpipe(把指定USB设备的指定端点设置为一个控制OUT端点)或usb_rcvctrlpipe(把指定USB设备的指定端点设置为一个控制IN端点)来创建的; <这里把my_uvc_udev设置为接收端点>
      request:控制消息的USB请求值; <这里分别是需要的GET_MIN、GET_MAX、GET_RES、GET_DEF>
      requesttype:控制消息的USB请求类型值; <这里为USB_TYPE_CLASS(1<<5)、usb_recip_interface(1<<0)、usb_dir_in(1<<7)>
        D7:数据的传输方向:0表示从主机到设备;1表示从设备到主机;
        D6~5:命令的类型:0表示标准命令;1表示类命令;2表示厂商提供的命令;3保留;
        D4~0:接收对象:0表示设备; 1表示接口;2表示端点;3表示其他;
      value:控制消息的USB消息值; <这里是PU亮度控制>
      index:控制消息的USB消息索引值;<这里是PU对应的ID和控制接口>
      data:指向要发送/接收的数据的指针; <这里是接收数据>
      size:data参数所指缓冲区的大小; <这里是两字节,bControlSize=2>
      timeout:以msecs为单位,期望等待的超时时间,如果为0,该函数将一直等待消息结束以的时间;<这里是5s>
    返回值:
      成功返回接收/发送的字节数,否则返回负的错误值;

通过usb_control_msg()获得的data还需要调用my_uvc_get_le_value()进行转换成value

  1. int my_uvc_vidioc_queryctrl (struct file *file, void *fh, struct v4l2_queryctrl *ctrl)
  2. {
  3. unsigned char data[2];
  4. if (ctrl->id != V4L2_CID_BRIGHTNESS) //这里只操作控制亮度的v4l2_queryctrl
  5. return -EINVAL;
  6. memset(ctrl, 0, sizeof * ctrl); //初始化,清空
  7. ctrl->id = V4L2_CID_BRIGHTNESS; //设置ID
  8. ctrl->type = V4L2_CTRL_TYPE_INTEGER; //设置属性类别(整数)
  9. strcpy(ctrl->name, "MY_UVC_BRIGHTNESS"); //设置名字
  10. ctrl->flags = 0; //默认支持设置等
  11. /* 发起USB传输,从摄像头获取这些值 */
  12. //设置最小值
  13. if(2 != usb_control_msg(my_uvc_udev, usb_rcvctrlpipe(my_uvc_udev, 0),
  14. GET_MIN, USB_TYPE_CLASS | USB_RECIP_INTERFACE | USB_DIR_IN,
  15. PU_BRIGHTNESS_CONTROL << 8, my_uvc_bUnitID << 8 | my_uvc_control_intf, data, 2, 5000))
  16. return -EIO;
  17. ctrl->minimum = my_uvc_get_le_value(data);
  18. //设置最大值
  19. if(2 != usb_control_msg(my_uvc_udev, usb_rcvctrlpipe(my_uvc_udev, 0),
  20. GET_MAX, USB_TYPE_CLASS | USB_RECIP_INTERFACE | USB_DIR_IN,
  21. PU_BRIGHTNESS_CONTROL << 8, my_uvc_bUnitID << 8 | my_uvc_control_intf, data, 2, 5000))
  22. return -EIO;
  23. ctrl->maximum = my_uvc_get_le_value(data);
  24. //设置步长
  25. if(2 != usb_control_msg(my_uvc_udev, usb_rcvctrlpipe(my_uvc_udev, 0),
  26. GET_RES, USB_TYPE_CLASS | USB_RECIP_INTERFACE | USB_DIR_IN,
  27. PU_BRIGHTNESS_CONTROL << 8, my_uvc_bUnitID << 8 | my_uvc_control_intf, data, 2, 5000))
  28. return -EIO;
  29. ctrl->step = my_uvc_get_le_value(data);
  30. //设置典型值
  31. if(2 != usb_control_msg(my_uvc_udev, usb_rcvctrlpipe(my_uvc_udev, 0),
  32. GET_DEF, USB_TYPE_CLASS | USB_RECIP_INTERFACE | USB_DIR_IN,
  33. PU_BRIGHTNESS_CONTROL << 8, my_uvc_bUnitID << 8 | my_uvc_control_intf, data, 2, 5000))
  34. return -EIO;
  35. ctrl->default_value = my_uvc_get_le_value(data);
  36. printk("Brightness: min =%d, max = %d, step = %d, default = %d\n", ctrl->minimum, ctrl->maximum, ctrl->step, ctrl->default_value);
  37. return 0;
  38. }

之后是vidioc_g_ctrl()(获得属性)和vidioc_s_ctrl()(设置属性),操作和前面差不多,都是通过usb_control_msg()函数建立控制消息,从而发送/接收亮度数据。

  1. int my_uvc_vidioc_g_ctrl (struct file *file, void *fh, struct v4l2_control *ctrl)
  2. {
  3. unsigned char data[2];
  4. if (ctrl->id != V4L2_CID_BRIGHTNESS)
  5. return -EINVAL;
  6. if(2 != usb_control_msg(my_uvc_udev, usb_rcvctrlpipe(my_uvc_udev, 0),
  7. GET_CUR, USB_TYPE_CLASS | USB_RECIP_INTERFACE | USB_DIR_IN,
  8. PU_BRIGHTNESS_CONTROL << 8, my_uvc_bUnitID << 8 | my_uvc_control_intf, data, 2, 5000))
  9. return -EIO;
  10. ctrl->value = my_uvc_get_le_value(data);
  11. return 0;
  12. }
  13. int my_uvc_vidioc_s_ctrl (struct file *file, void *fh, struct v4l2_control *ctrl)
  14. {
  15. unsigned char data[2];
  16. if (ctrl->id != V4L2_CID_BRIGHTNESS)
  17. return -EINVAL;
  18. my_uvc_set_le_value(ctrl->value, data);
  19. if(2 != usb_control_msg(my_uvc_udev, usb_sndctrlpipe(my_uvc_udev, 0),
  20. SET_CUR, USB_TYPE_CLASS | USB_RECIP_INTERFACE | USB_DIR_OUT,
  21. PU_BRIGHTNESS_CONTROL << 8, my_uvc_bUnitID << 8 | my_uvc_control_intf, data, 2, 5000))
  22. return -EIO;
  23. return 0;
  24. }

至此,对属性进行操作,比如对摄像头亮度控制就完成了,其它的属性控制类似。

3.5 URB

USB Request Block(URB)是Linux内核中,USB驱动实现的一个数据结构,用于组织每一次的USB设备驱动的数据传输请求。
也就是说,将USB传输相关信息放到URB这个结构体中,发送给USB核心,USB核心解析该结构体,从而进行所需数据/控制相关操作。

所需的操作大致有三步:
1.分配usb_buffers,作为数据的缓冲区;
2.分配URB;
3.设置URB;

  • 为什么要usb_buffer?
    从这个角度想:前面的my_uvc_buffer作为内核与用于空间的buf进行交互,这里的urb_buffer作为内核与USB设备的buf进行交互,最后类似urb_buffer = my_uvc_buffer,就实现了USB设备的数据传到用户层了。

首先,USB每次传输的数据大小,是可变的,根据外部设备的能力决定,比如外部设备支持一次传输100、200或800字节数据,每次传输称为Packet(包);
其次,USB每次需要传输的数据,很可能大于前面的最大包(800字节),因此每次传输的数据,将会被分割成N个包来传输。
因此,用URB来记录一次完整传输的信息,包括每次传多少,传几次,传的目标位置等。

  1. psize = my_uvc_wMaxPacketSize; //实时传输端点一次能传输的最大字节数;lsusb: wMaxPacketSize 0x0320 1x800 bytes;
  2. size = my_uvc_params.dwMaxVideoFrameSize; //一帧数据的最大长度
  3. npackets = DIV_ROUND_UP(size, psize); //传多少次(向上取整)
  • psize就是每次传输的数据大小,通过USB摄像头的设备描述符wMaxPacketSize(最大每包大小)可以得知。
  • size就是每帧图像的大小,前面在my_uvc_params已经设置过了,是通过在probe()的打印dwMaxPayloadTransferSize得知的;
  • npackets就是size/psize再向上取整,得到需要传多少次。
    最后还要size = psize * npackets更新一下向上取整后的新大小。

这个分配MY_UVC_URBS_NUM个(一个就行)urb_bufferurb
urb_buffer通过usb_alloc_coherent()函数分配,大小为前面的调整后的size,得到指向buf的指针和DMA地址。
urb通过my_uvc_uninit_urbs函数分配,数量为npackets,得到指向该urb的指针。

对应的,如果分配失败,相应的调用usb_free_coherent()usb_free_urb()释放空间,并相应的清空指针和重置my_uvc_q.urb_size

然后就是设置URB:

urb->dev:指向目标设备的指针;<这里是USB摄像头my_uvc_udev>
urb->pipe:与目标设置的管道;<这里使用usb_rcvisocpipe()创建等时(ISO:Isochronous)管道,参数是对应VS的端点地址>
urb->transfer_flags:传输标志;<URB_ISO_ASAP(开始调度)和URB_NO_TRANSFER_DMA_MAP(使用DMA对应的buf)>
urb->interval:传输间隔;<来自USB描述符的bInterval=1>
urb->transfer_buffer:要传输的buf;<前面得到的my_uvc_q.urb_buffer[i]指针>
urb->transfer_dma:buf对应的dma物理地址;<前面得到的my_uvc_q.urb_dma[i]地址>
urb->complete:收完数据后的中断处理函数;<后面再编写>
urb->number_of_packets:该URB要传输多少个包;<前面计算的npackets>
urb->transfer_buffer_length:总共的数据长度;<前面计算的size>
urb->iso_frame_desc[j].offset:每个包的偏移位置;<j * psize就对应每个包的偏移>
urb->iso_frame_desc[j].length:每个包的大小;<前面得到的psize>
关于URB数据结构的参考博客。

  1. static void my_uvc_uninit_urbs(void)
  2. {
  3. unsigned int i;
  4. for (i = 0; i < MY_UVC_URBS_NUM; ++i)
  5. {
  6. //释放usb_buffers
  7. //同时判断urb大小,如果非0才执行,因为本函数最后会将其置0,streamoff调用时,就不应该再释放一次
  8. if (my_uvc_q.urb_buffer[i] && my_uvc_q.urb_size)
  9. {
  10. usb_free_coherent(my_uvc_udev, my_uvc_q.urb_size, my_uvc_q.urb_buffer[i], my_uvc_q.urb_dma[i]);
  11. my_uvc_q.urb_buffer[i] = NULL;
  12. }
  13. //释放urb
  14. if (my_uvc_q.urb[i])
  15. {
  16. usb_free_urb(my_uvc_q.urb[i]);
  17. my_uvc_q.urb[i] = NULL;
  18. }
  19. }
  20. my_uvc_q.urb_size = 0;
  21. }
  22. static int my_uvc_alloc_init_urbs(void)
  23. {
  24. int i, j;
  25. int npackets;
  26. unsigned int size;
  27. unsigned short psize;
  28. struct urb *urb;
  29. psize = my_uvc_wMaxPacketSize; //实时传输端点一次能传输的最大字节数;lsusb: wMaxPacketSize
  30. size = my_uvc_params.dwMaxVideoFrameSize; //一帧数据的最大大小
  31. npackets = DIV_ROUND_UP(size, psize); //传多少次(向上取整)
  32. if (npackets == 0)
  33. return -ENOMEM;
  34. size = my_uvc_q.urb_size = psize * npackets; //取整后新大小
  35. for (i = 0; i < MY_UVC_URBS_NUM; ++i)
  36. {
  37. /* 1.分配usb_buffers */
  38. my_uvc_q.urb_buffer[i] = usb_alloc_coherent(my_uvc_udev, size,
  39. GFP_KERNEL | __GFP_NOWARN, &my_uvc_q.urb_dma[i]);
  40. /* 2.分配urb */
  41. my_uvc_q.urb[i] = usb_alloc_urb(npackets, GFP_KERNEL);
  42. if (!my_uvc_q.urb_buffer[i] || !my_uvc_q.urb[i]) //如果分配失败
  43. {
  44. my_uvc_uninit_urbs();
  45. return -ENOMEM;
  46. }
  47. }
  48. /* 3. 设置urb */
  49. for (i = 0; i < MY_UVC_URBS_NUM; ++i)
  50. {
  51. urb = my_uvc_q.urb[i];
  52. urb->dev = my_uvc_udev;
  53. urb->pipe = usb_rcvisocpipe(my_uvc_udev, my_uvc_bEndpointAddress); //lsusb: bEndpointAddress 0x82
  54. urb->transfer_flags = URB_ISO_ASAP | URB_NO_TRANSFER_DMA_MAP;
  55. urb->interval = 1; //lsusb: bInterval 1
  56. urb->transfer_buffer = my_uvc_q.urb_buffer[i];
  57. urb->transfer_dma = my_uvc_q.urb_dma[i];
  58. urb->complete = my_uvc_video_complete; //中断处理函数
  59. urb->number_of_packets = npackets;
  60. urb->transfer_buffer_length = size;
  61. for (j = 0; j < npackets; ++j)
  62. {
  63. urb->iso_frame_desc[j].offset = j * psize;
  64. urb->iso_frame_desc[j].length = psize;
  65. }
  66. }
  67. return 0;
  68. }

 

现在我们就设置好了URB,包含了目标设备USB摄像头和urb_buffer等信息,只要把这个URB传给USB核心,USB核心就会解析URB,与指定的USB设备传输数据,数据将被放在urb_buffer里,接收到USB设备传来的数据包时,将产生一个中断,执行中断处理函数my_uvc_video_complete
中断函数里会依次处理每个包,将包的数据放到my_uvc_q.irqqueue队列首个节点所指的buf,当多个包的数据量足够一帧时,就唤醒休眠的应用层,应用层就会得到数据,最后中断程序再发送URB,再次进入中断,依次循环。


下面就是实现my_uvc_video_complete,在里面首先判断之前URB传输的结果:

  1. switch (urb->status) {
  2. case 0: //Success
  3. break;
  4. case -ETIMEDOUT: //Nak
  5. case -ECONNRESET: //Kill
  6. case -ENOENT:
  7. case -ESHUTDOWN:
  8. default: //Error
  9. return;
  10. }

只有urb->status = 0才表示传输成功,否则都直接返回。

然后在判断my_uvc_q.irqqueue队列不为空的情况下,取出首个buf,后面将从URB得到的数据放在这个buf里:

  1. if (!list_empty(&my_uvc_q.irqqueue)) //判断是不是空队列
  2. buf = list_first_entry(&my_uvc_q.irqqueue, struct my_uvc_buffer, irq);//取出首buf用于后续存放数据
  3. else
  4. buf = NULL;

之后便是对每个URB的子包进行处理:

1.判断状态urb->iso_frame_desc[i].status小于0,跳过处理该子包;
2.计算数据源(来自URB)、长度、目的地址(放到队列提取的buf);
3.判断该包数据是否有效,其中data[0]包含头部长度,data[1]包含错误状态;
4.使用摄像头厂家提供的特殊处理,完成对fid的操作;<fid介绍见下面>
5.如果buf=NULL,表示之前irqqueue队列没有空间了,没必要后续操作了;
6.判断buf->state是不是VIDEOBUF_ACTIVE(正在接收数据)状态,即是不是第一次开始接收数据,是的话改为VIDEOBUF_ACTIVE
7.让last_fid = fid,表示要开始接收本帧数据;
8.传输的数据长度为:子包去除头部信息后的数据长度与buf剩余空间的 最小值;
9.将URB子包复制到buf中;
10.引用厂家代码,对buf数据进行某些处理;
11.当子包数据长度大于该buf剩下空间、得到标志UVC_STREAM_EOF且收到数据不为空时,表明一帧数据传完,修改buf状态VIDEOBUF_DONE
12.从irqqueue队列删除该节点;唤醒应用层读取mainqueue队列的数据,即本帧数据;修改mem偏移和date_len,取出下一个buf;

以上就是对每个子包的操作,主要包含了子包状态的判断对是否完成一帧传输的判断复制子包数据到buf厂家特殊处理再次从队列获取buf

讲一下fid(frame id)。
我们看到的连续视频,可以分成若干个1s的视频,再把每个1s的视频分成30份,每一份就是一张图片,称之为帧(frame)。
这个帧的数据,是由URB传输中的若干个pack组成的,在URB传输中,产生一连续的pack,我们如何知道其中的某几个pack属于某一帧的呢?
摄像头厂家的解决方案是,为每个pack也编号,属于同一帧的几个连续pack编号相同,这就实现了在pack上出现0、1交替时,就表示该帧传输完了,开始传输下一帧。

在中断函数的最后,还要再次提交URB,这样才能再次进入中断,拷贝数据,如此反复。

  1. static void my_uvc_video_complete(struct urb *urb)
  2. {
  3. int ret, i;
  4. unsigned char *mem;
  5. unsigned char *src, *dest;
  6. struct my_uvc_buffer *buf;
  7. int len, maxlen, nbytes, data_len;
  8. static int fid, last_fid = -1;
  9. //要修改影像資料,必須先宣告一個特別型態的指標變數,才能正確存取記憶體中的資料
  10. unsigned char *point_mem;
  11. static unsigned char *mem_temp = NULL;
  12. //初始化暫存用的記憶體位置
  13. static unsigned int nArrayTemp_Size = 1000;
  14. printk("enter %s\n", __func__);
  15. printk("=======urb->status: %d ======\n", urb->status);
  16. switch (urb->status) {
  17. case 0: //Success
  18. break;
  19. case -ETIMEDOUT: //Nak
  20. case -ECONNRESET: //Kill
  21. case -ENOENT:
  22. case -ESHUTDOWN:
  23. default: //Error
  24. return;
  25. }
  26. /* 从irqqueue队列中取出首个缓冲区 */
  27. if (!list_empty(&my_uvc_q.irqqueue)) //判断是不是空队列
  28. buf = list_first_entry(&my_uvc_q.irqqueue, struct my_uvc_buffer, irq);//取出首buf用于后续存放数据
  29. else
  30. buf = NULL;
  31. for (i = 0; i < urb->number_of_packets; ++i) //一次urb传输包含number_of_packets个子包
  32. {
  33. if (urb->iso_frame_desc[i].status < 0)
  34. continue;
  35. src = urb->transfer_buffer + urb->iso_frame_desc[i].offset; //数据源
  36. len = urb->iso_frame_desc[i].actual_length; //数据长度
  37. if(buf)
  38. dest = my_uvc_q.mem + buf->buf.m.offset + buf->buf.bytesused; //目的地址
  39. //判断数据是否有效;URB数据含义: data[0]->头部长度;data[1]->错误状态
  40. if ((len < 2) || (src[0] < 2) || (src[0] > len) || (src[1] & UVC_STREAM_ERR))
  41. continue;
  42. if (my_uvc_udev->descriptor.idVendor == 0x1B3B) /* ip2970/ip2977 */
  43. {
  44. if ( len >= 16 ) // have data in buffer
  45. {
  46. // 資料必須從data[12]開始判斷,是因為前面的資料是封包專用
  47. if ( (src[12] == 0xFF && src[13] == 0xD8 && src[14] == 0xFF) ||
  48. (src[12] == 0xD8 && src[13] == 0xFF && src[14] == 0xC4))
  49. {
  50. if(last_fid) //效果:取反
  51. fid &= ~UVC_STREAM_FID;
  52. else
  53. fid |= UVC_STREAM_FID;
  54. }
  55. }
  56. }
  57. else
  58. {
  59. fid = src[1] & UVC_STREAM_FID;
  60. }
  61. /* Store the payload FID bit and return immediately when the buffer is NULL.*/
  62. if (buf == NULL)
  63. {
  64. last_fid = fid;//?必要性?
  65. continue;
  66. }
  67. if (buf->state != VIDEOBUF_ACTIVE) //!= VIDEOBUF_ACTIVE, 表示"之前还未接收数据"
  68. {
  69. if (fid == last_fid)
  70. continue; //因为是第一次接收数据,前面的fid已经被取反,不该等于上一次的last_fid
  71. buf->state = VIDEOBUF_ACTIVE; //表示开始接收第1个数据
  72. }
  73. last_fid = fid; //开始传本帧数据
  74. len -= src[0]; //除去头部后的数据长度
  75. maxlen = buf->buf.length - buf->buf.bytesused; //缓冲区最多还能存多少数据
  76. nbytes = min(len, maxlen);
  77. //dest = my_uvc_q.mem + buf->buf.m.offset + buf->buf.bytesused; //目的地址
  78. memcpy(dest, src + src[0], nbytes); //复制数据
  79. buf->buf.bytesused += nbytes; //更新buf已使用空间
  80. /* ip2970/ip2977 */
  81. if (my_uvc_udev->descriptor.idVendor == 0x1B3B)
  82. {
  83. if(mem_temp == NULL)
  84. {
  85. mem_temp = kmalloc(nArrayTemp_Size, GFP_KERNEL);
  86. }
  87. else if(nArrayTemp_Size <= nbytes) //當收到的資料長度大於上一次的資料長度,則重新分配所需的空間+
  88. {
  89. kfree(mem_temp);
  90. nArrayTemp_Size += 500;
  91. mem_temp = kmalloc(nArrayTemp_Size, GFP_KERNEL);
  92. }
  93. memset(mem_temp, 0x00, nArrayTemp_Size);
  94. // 指向資料儲存的記憶體位置
  95. point_mem = (unsigned char *)dest;
  96. if( *(point_mem) == 0xD8 && *(point_mem + 1) == 0xFF && *(point_mem + 2) == 0xC4)
  97. {
  98. memcpy( mem_temp + 1, point_mem, nbytes);
  99. mem_temp[0] = 0xFF;
  100. memcpy(point_mem, mem_temp, nbytes + 1);
  101. }
  102. }
  103. /* 判断一帧数据是否已经全部接收到 */
  104. if (len > maxlen)
  105. buf->state = VIDEOBUF_DONE;
  106. /* Mark the buffer as done if the EOF marker is set. */
  107. if ((src[1] & UVC_STREAM_EOF) && (buf->buf.bytesused != 0))
  108. buf->state = VIDEOBUF_DONE;
  109. /* 当接收完一帧数据,从irqqueue中删除这个缓冲区,唤醒等待数据的进程 */
  110. if ((buf->state == VIDEOBUF_DONE) || (buf->state == VIDEOBUF_ERROR))
  111. {
  112. list_del(&buf->irq);
  113. wake_up(&buf->wait);
  114. mem = my_uvc_q.mem + buf->buf.m.offset;
  115. data_len = buf->buf.bytesused;
  116. /* 取出下一个buf */
  117. if (!list_empty(&my_uvc_q.irqqueue))
  118. buf = list_first_entry(&my_uvc_q.irqqueue, struct my_uvc_buffer, irq);
  119. else
  120. buf = NULL;
  121. }
  122. }
  123. /* 再次提交URB */
  124. if ((ret = usb_submit_urb(urb, GFP_ATOMIC)) < 0)
  125. {
  126. printk("Failed to resubmit video URB (%d).\n", ret);
  127. }
  128. }

3.6 启动/停止

应用层调用ioctl()传入的参数为VIDIOC_STREAMON时,就会调用vidioc_streamon()启动摄像头采集数据。
在该驱动函数里面,主要做三件事:

  1. 设置USB摄像头参数;(比如使用何种视频数据格式、何种分辨率)
  2. 分配设置URB;(调用前面的my_uvc_alloc_init_urbs()函数)
  3. 提交URB,等待中断;

一般的摄像头,会支持多种格式,比如MJPEG、H264等,也会支持多种分辨率。
因此需要在开始传输前,通过USB设置摄像头,让其后面返回正确的数据。

假如我们直接设置,可能摄像头不支持我们设置的格式,后面对应的解析数据可能会出现错误。因此我们先尝试传入设置参数,摄像头接收后会保存起来,并根据自身情况做一些修正,再将该设置读取出来,再进行真正的设置。
这里我们定义一个my_uvc_streaming_control结构体,用于保存这个设置过程中的参数。

首先是尝试设置参数,根据摄像头版本,对应的分配一个data空间,用于等会保存参数进行USB传输。

  1. //lsusb得到:bcdUVC = 1.00;再BCD转换,eg:2.10 -> 210H, 1.50 -> 150H
  2. size = my_uvc_bcdUVC >= 0x0110 ? 34 : 26; //根据版本分配buf大小
  3. data = kmalloc(size, GFP_KERNEL);
  4. if (data == NULL)
  5. return -ENOMEM;

再清空传入的my_uvc_streaming_control结构体,设置相应参数,再参考内核UVC驱动使用cpu_to_le16()my_uvc_streaming_control赋值给data

  1. memset(ctrl, 0, sizeof * ctrl);
  2. ctrl->bmHint = 1; //保持dwFrameInterval不变
  3. ctrl->bFormatIndex = 1; //支持格式数量
  4. ctrl->bFrameIndex = bFrameIndex; //使用第二种分辨率:640x480(1),320x240(2),160x120(3)
  5. ctrl->dwFrameInterval = 333333; //lsusb: dwFrameInterval(0) 333333 每秒30帧
  6. ctrl_to_data(ctrl, data, size);

最后调用usb_control_msg()data传给摄像头,这里的usb_control_msg()在前面的亮度控制详细介绍了每个参数的含义,当时使用的是VC接口,这里使用VS接口。
这里不是真正的设置,所以传入的参数是VS_PROBE_CONTROL

  1. ret = usb_control_msg(my_uvc_udev, usb_sndctrlpipe(my_uvc_udev, 0),
  2. SET_CUR, USB_TYPE_CLASS | USB_RECIP_INTERFACE | USB_DIR_OUT,
  3. VS_PROBE_CONTROL << 8, 0 << 8 | my_uvc_streaming_intf, data, size, 5000);
  4. kfree(data);

尝试设置了USB后,再把摄像头修正的参数读取出来保存到my_uvc_streaming_control结构体中。

  1. static int my_uvc_get_streaming_params(struct my_uvc_streaming_control *ctrl)
  2. {
  3. int ret = 0;
  4. unsigned char *data;
  5. unsigned short size;
  6. //lsusb得到:bcdUVC=1.00;再BCD转换,eg:2.10 -> 210H, 1.50 -> 150H
  7. size = my_uvc_bcdUVC >= 0x0110 ? 34 : 26; //根据版本分配buf大小
  8. data = kmalloc(size, GFP_KERNEL);
  9. if (data == NULL)
  10. return -ENOMEM;
  11. //通过usb获取摄像头参数
  12. ret = usb_control_msg(my_uvc_udev, usb_rcvctrlpipe(my_uvc_udev, 0),
  13. GET_CUR, USB_TYPE_CLASS | USB_RECIP_INTERFACE | USB_DIR_IN,
  14. VS_PROBE_CONTROL << 8, 0 << 8 | my_uvc_streaming_intf, data, size, 5000);
  15. if (ret < 0)
  16. goto done;
  17. //返回摄像头参数
  18. data_to_ctrl(data, ctrl, size);
  19. done:
  20. kfree(data);
  21. return ret;
  22. }

最后再将新的参数设置给摄像头,这样就能保证现在设置的参数对摄像头是有效的。
这里是真正的设置,所以传入的参数是VS_COMMIT_CONTROL

  1. static int my_uvc_set_streaming_params(struct my_uvc_streaming_control *ctrl)
  2. {
  3. int ret = 0;
  4. unsigned char *data;
  5. unsigned short size;
  6. //lsusb得到:bcdUVC=1.00;再BCD转换,eg:2.10 -> 210H, 1.50 -> 150H
  7. size = my_uvc_bcdUVC >= 0x0110 ? 34 : 26; //根据版本分配buf大小
  8. data = kmalloc(size, GFP_KERNEL);
  9. if (data == NULL)
  10. return -ENOMEM;
  11. ctrl_to_data(ctrl, data, size);
  12. //通过usb尝试设置摄像头参数
  13. ret = usb_control_msg(my_uvc_udev, usb_sndctrlpipe(my_uvc_udev, 0),
  14. SET_CUR, USB_TYPE_CLASS | USB_RECIP_INTERFACE | USB_DIR_OUT,
  15. VS_COMMIT_CONTROL << 8, 0 << 8 | my_uvc_streaming_intf, data, size, 5000);
  16. kfree(data);
  17. return ret;
  18. }

然后还要指定bAlternateSettingbAlternateSetting用于在同一个接口中的多个描述符中进行切换。
也就是说,USB摄像头提供多种Interface Descriptor(接口),每个接口的支持一种wMaxPacketSize(带宽,一次传输提供的数据量)、dwMaxPayloadTransferSize(每帧最大数据,实测等于分辨率加512)。
当摄像头分辨率变化时,相应所需的接口也会变化,比如分辨率变大,要选择带宽更大的接口。
bAlternateSetting就相当于是接口的索引,因此不同分辨率,应该选择对应的接口。比如本次使用的分辨率为640x480,从my_uvc_params获取的推荐接口就是bAlternateSetting=6

  1. Interface Descriptor:
  2. bLength 9
  3. bDescriptorType 4
  4. bInterfaceNumber 1
  5. bAlternateSetting 6
  6. bNumEndpoints 1
  7. bInterfaceClass 14 Video
  8. bInterfaceSubClass 2 Video Streaming
  9. bInterfaceProtocol 0
  10. iInterface 0
  11. Endpoint Descriptor:
  12. bLength 7
  13. bDescriptorType 5
  14. bEndpointAddress 0x82 EP 2 IN
  15. bmAttributes 5
  16. Transfer Type Isochronous
  17. Synch Type Asynchronous
  18. Usage Type Data
  19. wMaxPacketSize 0x03bc 1x 956 bytes
  20. bInterval 1
  1. /* 1. 向USB摄像头设置参数:比如使用哪个format, 使用这个format下的哪个frame(分辨率等) */
  2. // 根据结构体my_uvc_streaming_control设置数据包;再调用usb_control_msg发出数据包;
  3. //a.测试参数
  4. my_uvc_try_streaming_params(&my_uvc_params);
  5. //b.取出参数
  6. my_uvc_get_streaming_params(&my_uvc_params);
  7. //c.设置参数
  8. my_uvc_set_streaming_params(&my_uvc_params);
  9. //d.设置VideoStreaming Interface所使用的setting
  10. //从my_uvc_params.dwMaxPayloadTransferSize得知所需带宽;实测分辨率不一样,所需的带宽也不一样;
  11. //根据wMaxPacketSize得到对应的bAlternateSetting;
  12. usb_set_interface(my_uvc_udev, my_uvc_streaming_intf, my_uvc_bAlternateSetting);

设置好了摄像头的format(格式)、frame(分辨率)等,就可以分配设置URB,准备和USB摄像头传输数据了。

  1. /* 2.分配设置URB */
  2. ret = my_uvc_alloc_init_urbs();
  3. if (0 != ret)
  4. {
  5. printk("my_uvc_alloc_init_urbs err : ret = %d\n", ret);
  6. return ret;
  7. }

分配完成后,就提交给USB核心,等待中断来临,读取摄像头发来的数据。

  1. /* 3.提交URB以接收数据 */
  2. for (i = 0; i < MY_UVC_URBS_NUM; ++i)
  3. {
  4. if ((ret = usb_submit_urb(my_uvc_q.urb[i], GFP_KERNEL)) < 0)
  5. {
  6. printk("Failed to submit URB %u (%d).\n", i, ret);
  7. my_uvc_uninit_urbs();
  8. return ret;
  9. }
  10. }

停止采集数据vidioc_streamoff()也需要做三件事:

  1. 取消URB传输;
  2. 释放urb_buffer和URB;
  3. 设置接口为0,让其处于休眠状态;
  1. static int my_uvc_vidioc_streamoff(struct file *file, void *priv, enum v4l2_buf_type t)
  2. {
  3. struct urb *urb;
  4. unsigned int i;
  5. printk("enter %s\n", __func__);
  6. /* 1. kill all URB */
  7. for (i = 0; i < MY_UVC_URBS_NUM; ++i)
  8. {
  9. if ((urb = my_uvc_q.urb[i]) == NULL)
  10. continue;
  11. usb_kill_urb(urb);
  12. }
  13. /* 2. free all URB */
  14. my_uvc_uninit_urbs();
  15. /* 3. 设置VideoStreaming Interface为setting 0 */
  16. usb_set_interface(my_uvc_udev, my_uvc_streaming_intf, 0);
  17. return 0;
  18. }

 

3.7 其它操作函数(mmap和poll)

现在还遗留两个操作函数mmap()poll(),因为涉及buf和队列,前面无法理解,现在应该好理解了。
首先是mmap(),前面提到应用层调用vidioc_queryctrl()时,会让驱动程序分配若干个buf,也就是my_uvc_q.buf[N]
现在我们需要做的就是把buf映射到用户空间,以后用户空间操作映射后的空间,就间接的操作了内核的my_uvc_q.buf[N]

根据传入的vma->vm_pgoff偏移,对应找到my_uvc_q.buf,如果没找到或者大小不对,就退出。
如果找到了对应偏移的my_uvc_q.buf,就可以根据该buf的起始地址和偏移得到物理地址addr
再将物理地址传入vmalloc_to_page()函数得到page结构体,再使用vm_insert_page()函数将page结构体和传入的vma虚拟地址绑定,以PAGE_SIZE大小分割总的size
最后在使用计数加1,后面vidioc_querybuf()查询缓存状态时,用于更新标志。

  1. //把缓存映射到APP的空间,以后APP就可以直接操作这块缓存
  2. static int my_uvc_mmap(struct file *file, struct vm_area_struct *vma)
  3. {
  4. int i, ret = 0;
  5. struct page *page;
  6. struct my_uvc_buffer *buffer;
  7. unsigned long addr, start, size;
  8. printk("enter %s\n", __func__);
  9. start = vma->vm_start;
  10. size = vma->vm_end - vma->vm_start;
  11. //应用程序调用mmap函数时,会传入offset参数,再根据offset找出指定的缓冲区
  12. for (i = 0; i < my_uvc_q.count; ++i)
  13. {
  14. buffer = &my_uvc_q.buffer[i];
  15. if ((buffer->buf.m.offset >> PAGE_SHIFT) == vma->vm_pgoff)
  16. break;
  17. }
  18. //没找到对应的my_uvc_q.buffer或大小不对
  19. if ((i == my_uvc_q.count) || (size != my_uvc_q.buf_size))
  20. return -EINVAL;
  21. /* VM_IO marks the area as being an mmaped region for I/O to a
  22. * device. It also prevents the region from being core dumped. */
  23. vma->vm_flags |= VM_IO;
  24. //根据虚拟地址得到缓冲区对应的page结构体
  25. addr = (unsigned long)my_uvc_q.mem + buffer->buf.m.offset;
  26. while (size > 0) //循环把size大小的空间变为page
  27. {
  28. page = vmalloc_to_page((void *)addr);
  29. //把page和APP传入的虚拟地址挂构
  30. if ((ret = vm_insert_page(vma, start, page)) < 0)
  31. return ret ;
  32. start += PAGE_SIZE;
  33. addr += PAGE_SIZE;
  34. size -= PAGE_SIZE;
  35. }
  36. buffer->vma_use_count++; //引用计数+1
  37. return ret;
  38. }

最后是poll()函数,用来确定buf是否准备就绪,即含有数据。
应用层调用poll()时,会尝试从my_uvc_q.mainqueue队列取出首个缓冲区,得到其buf->wait,然后调用poll_wait()wait为标志,进入休眠。等待中断里的wake_up(),再唤醒。根据buf->state返回对应的mask,对应的应用程序就读取数据。

  1. //APP调用POLL/select来确定缓存是否就绪(有数据)
  2. static unsigned int my_uvc_poll(struct file *file, struct poll_table_struct *wait)
  3. {
  4. struct my_uvc_buffer *buf;
  5. unsigned int mask = 0;
  6. printk("enter %s\n", __func__);
  7. //从mainqueuq中取出第1个缓冲区,判断它的状态, 如果未就绪,休眠
  8. if (list_empty(&my_uvc_q.mainqueue))
  9. {
  10. mask |= POLLERR;
  11. goto done;
  12. }
  13. buf = list_first_entry(&my_uvc_q.mainqueue, struct my_uvc_buffer, stream);
  14. poll_wait(file, &buf->wait, wait);
  15. if (buf->state == VIDEOBUF_DONE || buf->state == VIDEOBUF_ERROR)
  16. mask |= POLLIN | POLLRDNORM; //普通或优先级带数据可读 | 普通数据可读
  17. done:
  18. return mask;
  19. }

3.8 测试/效果

如前面测试内核自带驱动一样,先编译自己的驱动,然后加载内核自带的uvcvideo及依赖,然后移除内核自带的驱动,安装自己写的新驱动,运行xawtv应用程序:

  1. make
  2. sudo modprobe uvcvideo
  3. sudo rmmod uvcvideo
  4. sudo insmod my_uvc.ko
  5. xawtv -noalsa
  • 效果:

完整代码见GitHub

4.总体分析

整体框图如下:

几个基本概念:
1.应用层有五个操作函数,其中ioctl下至少有11个基本的操作函数;
2.USB摄像头有且只有一个VC接口用于控制,可有多个VS接口用于数据传输;
3.11个操作函数可以分为四类:数据buf的操作、摄像头格式的操作、摄像头属性的操作、摄像头的启动与停止;
4.数据buf的操作:
  a.根据应用层参数生成指定个数的v4l2_buffer,这些buf又同时在两个队列上:mianququeirqquque
  b.摄像头产生的数据通过VS接口和USB核心的URB,放入irqquque队列的首buf,并将该buf从该队列删除;
  c.应用层取出mianquque队列的首buf,得到数据,并将该buf从该队列删除,此时该buf同时不在两个队列上,将被重新放在尾部;
5.摄像头格式的操作:使用interface_to_usbdev()得到对应接口的USB设备描述符,描述符包含摄像头的各种特性信息,保存在v4l2_format结构体中;
6.摄像头属性的操作:使用·usb_control_msg()通过VC接口设置相关属性;

有了上面的基本概念,现在开始调用vidioc_streamon()启动传输:
1.设置USB摄像头对应带宽接口等;
2.分配usb_buffersurb,设置urb
3.上报urb,USB核心解析urb,向指定接口(摄像头VS接口)接收数据(放在usb_buffers);
4.urb传输完成后产生中断,中断里取出irqquque队列首buf,将usb_buffers数据放入,并唤醒休眠的poll
5.poll唤醒,vidioc_dqbuf()mianquque队列取出首buf,返回给应用层,完成了摄像头数据到应用层的传输。

参考文章:
韦东山第三期项目视频_摄像头

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/笔触狂放9/article/detail/263049
推荐阅读
相关标签
  

闽ICP备14008679号