目录

EasyEdge 端与边缘 AI 服务平台

使用 文档

EasyEdge 是基于百度飞桨轻量化推理框架 Paddle Lite 研发的端与边缘 AI 服务平台，能够帮助深度学习开发者将自建模型快速部署到设备端。可基于多种深度学习框架、网络结构的模型，快捷转换发布适配多种 AI 芯片与操作系统的端/边缘计算模型，支持纯离线计算/端云协同服务。

硬件平台适配

操作系统

  • Linux
  • Windows
  • Android
  • iOS

上传本地模型

模型属性

属性 值
模型名称  
模型类型 图像分类 物体检测 图像分割 人脸检测 姿态估计 语义分割 目标追踪 决策类型 经典机器学习-分类 经典机器学习-回归 GAN
模型框架 Caffe TensorFlow2 TensorFlow PyTorch PaddlePaddle MXNet Darknet ONNX
模型网络 AlexNet VGG SqueezeNet MobileNet ShuffleNet ResNet Inception Xception DarkNet DenseNet PyramidNet ResNeXt DPN SE-ResNet SE-ResNeXt NAS ResNeXt101_wsl SSD SSDLite Yolo JDE S3FD YuFaceDetectNet Ultra-Light-Fast-Generic-Face-Detector-1MB OpenPose LSTM FD-MobileNet DQN Wide-ResNet PolyNet DRN DLA SqueezeNext Pelee IGCV3 IBN BAM ESPNetV2 FBNet HRNet Efficient MixNet Res2Net VoVNet DiCENet SelecSLS HarDNet CSPNet GhostNet RegNet ResNeSt SCNet YoloV5 YoloX CenterNet FCOS NanoDet DBFace TinyFace AlphaPose SimplePose ConvNeXt ReXNet ViT DeiT Twins RepVGG RedNet SwinTransformer PPLCNet PP-LCNetV2 PP-HGNet YoloV4 PP-Yolo PP-YoloE FasterRCNN RetinaNet PP-PicoDet FCN UNet DeepLabV3 DeepLabV3p Fast-SCNN FaceBoxes PyramidBox BlazeFace KeyPoint PP-TinyPose AnimeGAN TNT CSWinTransformer LeViT PVTV2 MobileViT MaskRCNN RetinaFace YoloFace CenterFace XGBoost Sklearn
网络结构 元数据
网络参数 权重和偏差值
模型标签  
其它配置 img_mean resize scale channelOrder colorFormat inputNodeName outputNodeName
keep_width  

模型类型与模型框架对应关系

  • 图像分类
    • 模型框架
      • Caffe
      • TensorFlow2
      • TensorFlow
      • PyTorch
      • PaddlePaddle
      • MXNet
      • Darknet
      • ONNX
  • 物体检测
    • 模型框架
      • Caffe
      • PyTorch
      • PaddlePaddle
      • Darknet
  • 图像分割
    • 模型框架
      • PaddlePaddle
  • 人脸检测
    • 模型框架
      • Caffe
      • PyTorch
      • PaddlePaddle
      • MXNet
      • Darknet
      • ONNX
  • 姿态估计
    • 模型框架
      • Caffe
      • PyTorch
      • PaddlePaddle
      • MXNet
  • 语义分割
    • 模型框架
      • PaddlePaddle
  • 目标追踪
    • 模型框架
      • Caffe
  • 决策类型
    • 模型框架
      • Caffe
      • TensorFlow
  • 经典机器学习-分类
    • 模型框架
      • XGBoost
      • Sklearn
  • 经典机器学习-回归
    • 模型框架
      • XGBoost
      • Sklearn
  • GAN
    • 模型框架
      • PaddlePaddle

深度学习框架格式

框架 格式 网络结构 网络参数
Caffe prototxt caffemodel  
TensorFlow freeze pb pb  
  MetaGraph + ckpt meta ckpt
  ckpt v2 ckptV2  
  SavedModel    
TensorFlow2 SavedModel    
PyTorch 原始模型 pt, pth  
  TorchScript torchscript  
PaddlePaddle   __model__ __params__

查看模型网络适配硬件

芯片     通用ARM芯片     通用ARM芯片  
系统     Android iOS Linux Android Linux
系列 模型网络 框架 HUAWEI Mate 20 iPhoneX RK3399    
AlexNet AlexNet Caffe          
    TensorFlow          
    PyTorch          
    PaddlePaddle          
    MXNet          
    Darknet          
    ONNX          
YoloV4 YoloV4_CSPDarkNet53 PaddlePaddle          
    Darknet          
  YoloV4-tiny Darknet          
  YoloV4-Scaled-CSP Darknet          
YoloV5 YoloV5-s PyTorch          
  YoloV5-m PyTorch          
  YoloV5-l PyTorch          
  YoloV5-x PyTorch          

其它配置（预处理）- VGG16-SSD

default-preprocess.json

{
    "img_mean": [
        123,
        117,
        104
    ],
    "resize": [
        300, // width
        300  // height
    ],
    "scale": [
        1,
        1,
        1
    ],
    "channelOrder": "CHW",
    "colorFormat": "RGB",
    "inputNodeName": "data",
    "outputNodeName": "detection_out"
}
  • 归一化（img_mean, scale）
  • 图像缩放（resize）
  • 通道布局（channelOrder）
  • 颜色反转（colorFormat）
  • 输入节点名（inputNodeName）
  • 输出节点名（outputNodeName）

飞桨开源模型

硬件适配需求

  • 硬件名称: Xeon E5-2650 v4
  • 系统名称: Windows
  • 网络框架: PyTorch
  • 模型网络: YOLOv5
  • 详细说明: 详细描述模型的应用场景、预测时延要求等。
  • 联系电话:

离线计算SDK

发布离线SDK

  1. 选择模型
  2. 芯片/硬件
  3. 操作系统
  4. 发布
    • 生成新版本 -> 获取SDK

使用说明

  1. SDK可选择按不同方式激活使用：
    • 按单台设备激活：每个序列号只可在一台设备上激活SDK
    • 按产品线激活：Android/iOS系统的SDK可按产品线获得授权激活，序列号与包名（Package Name/Bundle ID）绑定
  2. 开源模型生成的SDK无需激活，我的模型生成的SDK需要激活后方能使用：
    • ① 前往序列号管理页面获取序列号→ ② 根据开发文档在设备端部署SDK并使用序列号联网激活 → ③ 可离线使用
  3. 您可下载EasyEdge智能边缘控制台，便捷管理多个本地模型服务。
  4. 每个序列号联网激活后有效期为15天，可申请延期 .

端云协同服务

功能

  1. 在可视化界面轻松实现模型部署包在边缘设备上的集成、版本更新
  2. 断网状态下模型离线计算（http服务，可调用与公有云API功能相同的接口）
  3. 联网状态下在平台管理设备运行状态、资源利用率

流程

  1. 在本页面「 我的部署包 」发布端云协同部署包（支持EasyEdge模型和EasyDL模型），填写相关信息并申请，并在下方列表查看部署包发布状态
  2. 在「 我的本地设备 」页面新增设备，复制激活命令，联网激活本地设备
  3. 在「 下发部署包到设备 」页面，将发布成功的部署包一键下发到已激活的设备上，即可测试或正式使用

参考资料