ncnn之一：ncnn概述

github https://github.com/Tencent/ncnn

ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。ncnn 从设计之初深刻考虑手机端的部署和使用。无第三方依赖，跨平台，手机端 cpu 的速度快于目前所有已知的开源框架。

支持大部分常用的 CNN 网络

• Classical CNN: VGG AlexNet GoogleNet Inception …
• Practical CNN: ResNet DenseNet SENet FPN …
• Light-weight CNN: SqueezeNet MobileNetV1/V2/V3 ShuffleNetV1/V2 MNasNet …
• Detection: MTCNN facedetection …
• Detection: VGG-SSD MobileNet-SSD SqueezeNet-SSD MobileNetV2-SSDLite …
• Detection: Faster-RCNN R-FCN …
• Detection: YOLOV2 YOLOV3 MobileNet-YOLOV3 …
• Segmentation: FCN PSPNet UNet …

功能概述

• 支持卷积神经网络，支持多输入和多分支结构，可计算部分分支
• 无任何第三方库依赖，不依赖 BLAS/NNPACK 等计算框架
• 纯 C++ 实现，跨平台，支持 android ios 等
• ARM NEON 汇编级良心优化，计算速度极快
• 精细的内存管理和数据结构设计，内存占用极低
• 支持多核并行计算加速，ARM big.LITTLE cpu 调度优化
• 支持基于全新低消耗的 vulkan api GPU 加速
• 整体库体积小于 700K，并可轻松精简到小于 300K
• 可扩展的模型设计，支持 8bit 量化和半精度浮点存储，可导入 caffe/pytorch/mxnet/onnx 模型
• 支持直接内存零拷贝引用加载网络模型
• 可注册自定义层实现并扩展
• 恩，很强就是了，不怕被塞卷 QvQ

Example project

• https://github.com/nihui/ncnn-android-squeezenet
• https://github.com/chehongshu/ncnnforandroid_objectiondetection_Mobilenetssd
• https://github.com/moli232777144/mtcnn_ncnn