当前位置:   article > 正文

Linux平台Unity下RTMP|RTSP低延迟播放器技术实现_unity在linux环境下 视频

unity在linux环境下 视频

技术背景

国产操作系统对于确保信息安全、促进技术创新、满足特定需求以及推动经济发展等方面都具有重要意义,多以Linux为基础二次开发。2014年4月8日起,美国微软公司停止了对Windows XP SP3操作系统提供支持,这引起了社会和广大用户的广泛关注和对信息安全的担忧。

国产操作系统具有诸多好处:

  1. 信息安全与可控性提升:国产操作系统在设计和开发过程中,可以更加注重国内的信息安全标准和需求,通过自主研发,能够避免对外部系统的过度依赖,降低数据泄露和信息安全风险。此外,由于源代码掌握在自己手中,国家可以更好地控制操作系统的安全漏洞和后门问题,从而提高整个信息系统的安全可控性。

  2. 促进技术创新与产业发展:发展国产操作系统有助于推动国内软件技术的自主创新,提升整个软件产业的核心竞争力。通过自主研发,可以打破国外操作系统的技术垄断,掌握核心技术,为国内软件产业的发展提供有力支撑。同时,这也将促进相关产业链的发展,包括硬件、中间件、应用软件等,形成良性的产业生态。

  3. 满足特定需求与提升用户体验:国产操作系统可以根据国内用户的特定需求进行定制开发,提供更加符合国内使用习惯的服务和功能。这不仅可以提高用户的满意度和忠诚度,还可以为政府、企业等用户提供更加安全、高效、便捷的信息化解决方案。

  4. 培育新的经济增长点:随着数字经济的快速发展,操作系统作为数字基础设施的重要组成部分,具有巨大的市场潜力和商业价值。发展国产操作系统有助于培育新的经济增长点,推动国内软件产业的快速发展,为国家经济发展注入新的动力。

  5. 增强国家信息安全战略地位:在信息化时代,信息安全已成为国家安全的重要组成部分。发展国产操作系统有助于提升国家信息安全战略地位,增强国家在网络空间的话语权和影响力。

在发布国产操作系统|Linux平台的RTMP|RTSP直播播放SDK之前,大牛直播SDK(官方)在Windows、Android、iOS平台已经有了非常成熟的技术积累,功能齐全、稳定性高、超低延迟、超低资源占用,推进到Linux平台是顺理成章的。国产操作系统和Linux上的RTMP|RTSP直播播放模块,视频绘制使用XLib相关库实现, 音频输出使用PulseAudio和Alsa Lib,除了常规功能如实时静音、快照、buffer time设定、网络自动重连等,RTMP支持扩展H265播放, RTSP也支持H265播放。

Linux原生的RTSP、RTMP播放模块这里我们不做赘述,本文主要讲的是如何在Linux平台构建Unity下的RTSP和RTMP低延迟直播播放。

技术实现

国产操作系统和Linux平台下,Unity环境的播放器,和Windows、Android、iOS平台基础流程并无大的差异,简单来说,通过调用原生的播放模块,回调解码后的YUV或RGB数据,投递到Unity侧,在Unity下完成绘制,这里就需要原生的RTMP、RTSP播放模块,拉流解码延迟非常低,数据投递效率非常高,无图无真相:

Linux平台,我们是回调的YUV的数据,也就是 NT_SP_E_VIDEO_FRAME_FROMAT_I420:

  1. /*定义视频帧图像格式*/
  2. public enum NT_SP_E_VIDEO_FRAME_FORMAT : uint
  3. {
  4. NT_SP_E_VIDEO_FRAME_FORMAT_RGB32 = 1, // 32位的rgb格式, r, g, b各占8, 另外一个字节保留, 内存字节格式为: bb gg rr xx, 主要是和windows位图匹配, 在小端模式下,按DWORD类型操作,最高位是xx, 依次是rr, gg, bb
  5. NT_SP_E_VIDEO_FRAME_FORMAT_ARGB = 2, // 32位的argb格式,内存字节格式是: bb gg rr aa 这种类型,和windows位图匹配
  6. NT_SP_E_VIDEO_FRAME_FROMAT_I420 = 3, // YUV420格式, 三个分量保存在三个面上
  7. }

开始播放之前,把回调设置下去:

  1. //video frame callback (YUV/RGB)
  2. videoctrl[sel].sdk_video_frame_call_back_ = new VideoControl.SetVideoFrameCallBack(SDKVideoFrameCallBack);
  3. videoctrl[sel].video_frame_call_back_ = new SP_SDKVideoFrameCallBack(NT_SP_SetVideoFrameCallBack);
  4. NTSmartPlayerSDK.NT_SP_SetVideoFrameCallBack(videoctrl[sel].player_handle_, (Int32)NT.NTSmartPlayerDefine.NT_SP_E_VIDEO_FRAME_FORMAT.NT_SP_E_VIDEO_FRAME_FROMAT_I420, window_handle_, videoctrl[sel].video_frame_call_back_);
  5. UInt32 flag = NTSmartPlayerSDK.NT_SP_StartPlay(videoctrl[sel].player_handle_);

视频帧结构:

  1. /*定义视频帧结构.*/
  2. [StructLayoutAttribute(LayoutKind.Sequential)]
  3. public struct NT_SP_VideoFrame
  4. {
  5. public Int32 format_; // 图像格式, 请参考NT_SP_E_VIDEO_FRAME_FORMAT
  6. public Int32 width_; // 图像宽
  7. public Int32 height_; // 图像高
  8. public Int64 timestamp_; // 时间戳, 一般是0,不使用, 以ms为单位的
  9. //具体的图像数据, argb和rgb32只用第一个, I420用前三个
  10. public IntPtr plane0_;
  11. public IntPtr plane1_;
  12. public IntPtr plane2_;
  13. public IntPtr plane3_;
  14. // 每一个平面的每一行的字节数,对于argb和rgb32,为了保持和windows位图兼容,必须是width_*4
  15. // 对于I420, stride0_ 是y的步长, stride1_ 是u的步长, stride2_ 是v的步长,
  16. public Int32 stride0_;
  17. public Int32 stride1_;
  18. public Int32 stride2_;
  19. public Int32 stride3_;
  20. }

开始播放:

  1. /*
  2. * SmartPlayerLinuxMono.cs
  3. * Author: daniusdk.com
  4. */
  5. public void StartPlayer(int sel)
  6. {
  7. Debug.Log("StartPlayer++, sel: " + sel);
  8. if (videoctrl[sel].is_playing_)
  9. {
  10. Debug.Log("StartPlayer, already started.. sel: " + sel);
  11. return;
  12. }
  13. lock (videoctrl[sel].frame_lock_)
  14. {
  15. videoctrl[sel].cur_video_frame_ = null;
  16. }
  17. if (!OpenPlayerHandle(sel))
  18. {
  19. Debug.LogError("call OpenPlayerHandle failed, sel:" + sel);
  20. return;
  21. }
  22. //video frame callback (YUV/RGB)
  23. videoctrl[sel].sdk_video_frame_call_back_ = new VideoControl.SetVideoFrameCallBack(SDKVideoFrameCallBack);
  24. videoctrl[sel].video_frame_call_back_ = new SP_SDKVideoFrameCallBack(NT_SP_SetVideoFrameCallBack);
  25. NTSmartPlayerSDK.NT_SP_SetVideoFrameCallBack(videoctrl[sel].player_handle_, (Int32)NT.NTSmartPlayerDefine.NT_SP_E_VIDEO_FRAME_FORMAT.NT_SP_E_VIDEO_FRAME_FROMAT_I420, window_handle_, videoctrl[sel].video_frame_call_back_);
  26. UInt32 flag = NTSmartPlayerSDK.NT_SP_StartPlay(videoctrl[sel].player_handle_);
  27. if (flag == DANIULIVE_RETURN_OK)
  28. {
  29. videoctrl[sel].is_need_get_frame_ = true;
  30. Debug.Log("NT_SP_StartPlay succeed, sel:" + sel);
  31. }
  32. else
  33. {
  34. NTSmartPlayerSDK.NT_SP_Close(videoctrl[sel].player_handle_);
  35. videoctrl[sel].player_handle_ = IntPtr.Zero;
  36. videoctrl[sel].is_need_get_frame_ = false;
  37. Debug.LogError("NT_SP_StartPlay failed, sel:" + sel);
  38. }
  39. videoctrl[sel].is_playing_ = true;
  40. }

其中,调用的OpenPlayerHandle()实现如下:

  1. /*
  2. * SmartPlayerLinuxMono.cs
  3. * Author: daniusdk.com
  4. */
  5. private bool OpenPlayerHandle(int sel)
  6. {
  7. if (videoctrl[sel].player_handle_ != IntPtr.Zero)
  8. return true;
  9. window_handle_ = IntPtr.Zero;
  10. videoctrl[sel].player_handle_ = new IntPtr();
  11. UInt32 ret_open = NTSmartPlayerSDK.NT_SP_Open(out videoctrl[sel].player_handle_, window_handle_, 0, IntPtr.Zero);
  12. if (ret_open != 0)
  13. {
  14. Debug.LogError("call NT_SP_Open failed, sel: " + sel);
  15. return false;
  16. }
  17. if (IntPtr.Zero == videoctrl[sel].player_handle_)
  18. return false;
  19. videoctrl[sel].event_call_back_ = new SP_SDKEventCallBack(NT_SP_SDKEventCallBack);
  20. NTSmartPlayerSDK.NT_SP_SetEventCallBack(videoctrl[sel].player_handle_, window_handle_, videoctrl[sel].event_call_back_);
  21. videoctrl[sel].sdk_event_call_back_ = new VideoControl.SetEventCallBack(SDKEventCallBack);
  22. /* ++ 播放前参数配置可加在此处 ++ */
  23. int play_buffer_time_ = 0;
  24. NTSmartPlayerSDK.NT_SP_SetBuffer(videoctrl[sel].player_handle_, play_buffer_time_); //设置buffer time
  25. //int is_using_tcp = 1; //TCP模式
  26. //NTSmartPlayerSDK.NT_SP_SetRTSPTcpMode(videoctrl[sel].player_handle_, is_using_tcp);
  27. int timeout = 10;
  28. NTSmartPlayerSDK.NT_SP_SetRtspTimeout(videoctrl[sel].player_handle_, timeout);
  29. int is_auto_switch_tcp_udp = 1;
  30. NTSmartPlayerSDK.NT_SP_SetRtspAutoSwitchTcpUdp(videoctrl[sel].player_handle_, is_auto_switch_tcp_udp);
  31. Boolean is_mute_ = false;
  32. NTSmartPlayerSDK.NT_SP_SetMute(videoctrl[sel].player_handle_, is_mute_ ? 1 : 0); //是否启动播放的时候静音
  33. int is_fast_startup = 1;
  34. NTSmartPlayerSDK.NT_SP_SetFastStartup(videoctrl[sel].player_handle_, is_fast_startup); //设置快速启动模式
  35. Boolean is_low_latency_ = false;
  36. NTSmartPlayerSDK.NT_SP_SetLowLatencyMode(videoctrl[sel].player_handle_, is_low_latency_ ? 1 : 0); //设置是否启用低延迟模式
  37. //设置旋转角度(设置0, 90, 180, 270度有效,其他值无效)
  38. int rotate_degrees = 0;
  39. NTSmartPlayerSDK.NT_SP_SetRotation(videoctrl[sel].player_handle_, rotate_degrees);
  40. int volume = 100;
  41. NTSmartPlayerSDK.NT_SP_SetAudioVolume(videoctrl[sel].player_handle_, volume); //设置播放音量, 范围是[0, 100], 0是静音,100是最大音量, 默认是100
  42. // 设置上传下载报速度
  43. int is_report = 0;
  44. int report_interval = 2;
  45. NTSmartPlayerSDK.NT_SP_SetReportDownloadSpeed(videoctrl[sel].player_handle_, is_report, report_interval);
  46. //设置播放URL
  47. NTSmartPlayerSDK.NT_SP_SetURL(videoctrl[sel].player_handle_, videoctrl[sel].playback_url_);
  48. /* -- 播放前参数配置可加在此处 -- */
  49. return true;
  50. }

停止播放:

  1. /*
  2. * SmartPlayerLinuxMono.cs
  3. * Author: daniusdk.com
  4. */
  5. private void StopPlayer(int sel)
  6. {
  7. Debug.Log("StopPlayer++, sel: " + sel);
  8. videoctrl[sel].is_need_get_frame_ = false;
  9. videoctrl[sel].is_need_init_texture_ = false;
  10. if (videoctrl[sel].player_handle_ == IntPtr.Zero)
  11. {
  12. return;
  13. }
  14. UInt32 flag = NTSmartPlayerSDK.NT_SP_StopPlay(videoctrl[sel].player_handle_);
  15. if (flag == DANIULIVE_RETURN_OK)
  16. {
  17. Debug.Log("call NT_SP_StopPlay succeed, sel: " + sel);
  18. }
  19. else
  20. {
  21. Debug.LogError("call NT_SP_StopPlay failed, sel: " + sel);
  22. }
  23. NTSmartPlayerSDK.NT_SP_Close(videoctrl[sel].player_handle_);
  24. videoctrl[sel].player_handle_ = IntPtr.Zero;
  25. videoctrl[sel].is_playing_ = false;
  26. }

具体回调处理:

  1. private void SDKVideoFrameCallBack(UInt32 status, IntPtr frame, int sel)
  2. {
  3. //这里拿到回调frame,进行相关操作
  4. NT_SP_VideoFrame video_frame = (NT_SP_VideoFrame)Marshal.PtrToStructure(frame, typeof(NT_SP_VideoFrame));
  5. VideoFrame u3d_frame = new VideoFrame();
  6. u3d_frame.width_ = video_frame.width_;
  7. u3d_frame.height_ = video_frame.height_;
  8. u3d_frame.timestamp_ = (UInt64)video_frame.timestamp_;
  9. int d_y_stride = video_frame.width_;
  10. int d_u_stride = (video_frame.width_ + 1) / 2;
  11. int d_v_stride = d_u_stride;
  12. int d_y_size = d_y_stride * video_frame.height_;
  13. int d_u_size = d_u_stride * ((video_frame.height_ + 1) / 2);
  14. int d_v_size = d_u_size;
  15. int u_v_height = ((u3d_frame.height_ + 1) / 2);
  16. u3d_frame.y_stride_ = d_y_stride;
  17. u3d_frame.u_stride_ = d_u_stride;
  18. u3d_frame.v_stride_ = d_v_stride;
  19. u3d_frame.y_data_ = new byte[d_y_size];
  20. u3d_frame.u_data_ = new byte[d_u_size];
  21. u3d_frame.v_data_ = new byte[d_v_size];
  22. CopyFramePlane(u3d_frame.y_data_, d_y_stride,
  23. video_frame.plane0_, video_frame.stride0_, u3d_frame.height_);
  24. CopyFramePlane(u3d_frame.u_data_, d_u_stride,
  25. video_frame.plane1_, video_frame.stride1_, u_v_height);
  26. CopyFramePlane(u3d_frame.v_data_, d_v_stride,
  27. video_frame.plane2_, video_frame.stride2_, u_v_height);
  28. lock (videoctrl[sel].frame_lock_ )
  29. {
  30. videoctrl[sel].cur_video_frame_ = u3d_frame;
  31. //Debug.LogError("sel: " + sel + " w:" + u3d_frame.width_ + "h:" + u3d_frame.height_);
  32. }
  33. }

Unity层拿到video frame后,刷新即可:

  1. private void UpdateProc(int sel)
  2. {
  3. VideoFrame video_frame = null;
  4. lock (videoctrl[sel].frame_lock_)
  5. {
  6. video_frame = videoctrl[sel].cur_video_frame_;
  7. videoctrl[sel].cur_video_frame_ = null;
  8. }
  9. if ( video_frame == null )
  10. return;
  11. if (!videoctrl[sel].is_need_get_frame_)
  12. return;
  13. if (videoctrl[sel].player_handle_ == IntPtr.Zero )
  14. return;
  15. if ( !videoctrl[sel].is_need_init_texture_)
  16. {
  17. if ( video_frame.width_ != videoctrl[sel].video_width_
  18. || video_frame.height_ != videoctrl[sel].video_height_
  19. || video_frame.y_stride_ != videoctrl[sel].y_row_bytes_
  20. || video_frame.u_stride_ != videoctrl[sel].u_row_bytes_
  21. || video_frame.v_stride_ != videoctrl[sel].v_row_bytes_ )
  22. {
  23. videoctrl[sel].is_need_init_texture_ = true;
  24. }
  25. }
  26. if (videoctrl[sel].is_need_init_texture_)
  27. {
  28. if (InitYUVTexture(video_frame, sel))
  29. {
  30. videoctrl[sel].is_need_init_texture_ = false;
  31. }
  32. }
  33. UpdateYUVTexture(video_frame, sel);
  34. }

UpdateYUVTexture相关实现:

  1. private void UpdateYUVTexture(VideoFrame video_frame, int sel)
  2. {
  3. if (video_frame.y_data_ == null || video_frame.u_data_ == null || video_frame.v_data_ == null)
  4. {
  5. Debug.Log("video frame with null..");
  6. return;
  7. }
  8. if (videoctrl[sel].yTexture_ != null)
  9. {
  10. videoctrl[sel].yTexture_.LoadRawTextureData(video_frame.y_data_);
  11. videoctrl[sel].yTexture_.Apply();
  12. }
  13. if (videoctrl[sel].uTexture_ != null)
  14. {
  15. videoctrl[sel].uTexture_.LoadRawTextureData(video_frame.u_data_);
  16. videoctrl[sel].uTexture_.Apply();
  17. }
  18. if (videoctrl[sel].vTexture_ != null)
  19. {
  20. videoctrl[sel].vTexture_.LoadRawTextureData(video_frame.v_data_);
  21. videoctrl[sel].vTexture_.Apply();
  22. }
  23. }

技术总结

以上是Linux平台下Unity RTMP、RTSP直播播放器大概的实现参考,随着国产操作系统的推进,Linux下RTMP、RTSP高质量的播放器需求越来越大,Unity下,可以实现和Windows、Android等平台统一开发管理,非常方便。感兴趣的公司或开发者,可以单独跟我沟通探讨。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/785749
推荐阅读
相关标签
  

闽ICP备14008679号