Tiny-NAS 介绍

Tiny-NAS 是一个高性能的神经结构搜索（NAS）框架，用于在GPU和移动设备上自动设计具有高预测精度和高推理速度的深度神经网络。
Zen-NAS 是一种典型的 Tiny-NAS 方法，它基于自主设计的 Zen-Score 来对网络结构进行打分与排序，从而搜索最优网络结构。ZenNet 是基于 Zen-NAS 设计出的高效网络结构。
ZenNet 在ImageNet 数据集上的 top-1 accuracy 指标精度与 EfficientNet-B5 (~83.6%) 相当，但是推理速度更快（4.9x times faster on V100, 10x times faster on NVIDIA T4, 1.6x times faster on Google Pixel2）。

zen-net

模型描述

ZenNet 是基于 Tiny-NAS (Zen-NAS) 算法设计出的高效的卷积网络结构。
本 demo 只提供 zennet_imagenet1k_latency12ms_res22 backbone，其它网络结构可以从README 中获取。

模型使用方式以及适用范围

使用方式：

直接推理，在imagenet-1k 数据集上进行直接推理;
微调，在已经公开的模型在新数据、新任务上进行微调。

使用范围:

适合2D image 输入的任务。

目标场景:

在直接推理时，适合imagenet-1k 支持的标签集上进行直接推理;
在微调场景下，本模型可以作为各种使用 2D image下游任务的 backbone（诸如检测、分割等）。

如何使用

作为通用 backbone 可以被集成到各种任务中作为特征提取器。

代码范例


from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks

tinynas_classification = pipeline(
        Tasks.image_classification,
        model='damo/cv_tinynas_classification')
result = tinynas_classification('data/test/images/image_wolf.jpeg')
print(f'recognition output: {result}.')

模型局限性以及可能的偏差

考虑 GPU 精度等的差异，可能带来一定的性能差异

训练数据介绍

使用标准 imagenet-1k 数据集

模型训练流程

预处理

训练时：随机裁剪一部分图片，然后 resize 为 224x224，再随机翻转和颜色抖动
推理时：进行中心裁剪

训练

初始 learning rate 为0.4，衰减方式为cosine，weight decay 为0.00004，warmup-epochs 为5，一共迭代 200 epoch

数据评估及结果

model	resolution	# params	FLOPs	Top-1 Acc	V100	T4	Pixel2
zennet_imagenet1k_flops400M_SE_res224	224	5.7M	410M	78.0%	0.25	0.39	87.9
zennet_imagenet1k_flops600M_SE_res224	224	7.1M	611M	79.1%	0.36	0.52	128.6
zennet_imagenet1k_flops900M_SE_res224	224	19.4M	934M	80.8%	0.55	0.55	215.7
zennet_imagenet1k_latency01ms_res224	224	30.1M	1.7B	77.8%	0.1	0.08	181.7
zennet_imagenet1k_latency02ms_res224	224	49.7M	3.4B	80.8%	0.2	0.15	357.4
zennet_imagenet1k_latency03ms_res224	224	85.4M	4.8B	81.5%	0.3	0.20	517.0
zennet_imagenet1k_latency05ms_res224	224	118M	8.3B	82.7%	0.5	0.30	798.7
zennet_imagenet1k_latency08ms_res224	224	183M	13.9B	83.0%	0.8	0.57	1365
zennet_imagenet1k_latency12ms_res224	224	180M	22.0B	83.6%	1.2	0.85	2051
EfficientNet-B3	300	12.0M	1.8B	81.1%	1.12	1.86	569.3
EfficientNet-B5	456	30.0M	9.9B	83.3%	4.5	7.0	2580
EfficientNet-B6	528	43M	19.0B	84.0%	7.64	12.3	4288

‘V100’ is the inference latency on NVIDIA V100 in milliseconds, benchmarked at batch size 64, float16.
‘T4’ is the inference latency on NVIDIA T4 in milliseconds, benchmarked at batch size 64, TensorRT INT8.
‘Pixel2’ is the inference latency on Google Pixel2 in milliseconds, benchmarked at single image.