2017年AI芯片市场规模已经有7亿美元，预计到2022年将达到490亿美元，年均增长率高达90%。在政策支持、产业期待、市场热捧、前景可期的大环境中，AI芯片产业的热度一直高居不下也成为了不少企业入局的首选。但缺乏统一的芯片测评标准却成为了AI芯片发展的一大桎梏。
当前，知名如英伟达、英特尔、高通等公司芯片性能主要依靠厂家自己发布。相关基准测试的缺乏导致企业、系统集成厂商、开发者等无法准确评价芯片的技术水平和行业内外国际上的地位。对算力、性能、功耗等要求极高的人工智能芯片更是如此。在芯片发展过程中，基于清晰指标的技术竞争可以帮助企业快速进步。
其实，国内在AI芯片测评基准方面，针对AI芯片的性能测试软件并非凤毛菱角。但这些软件的通病在于缺乏权威性且往往由相关企业自己推出。因此，难以得到业内的广泛认可，同时，也未能立足于宏观的视角，将整个AI芯片领域串联起来，让业内的更多企业受益。而由独立权威的第三方平台推出的基准测试方案就显得尤为关键。
在国家发改委、科技部、工信部、网信办指导下，由中国信息通信研究院等单位联合发起的中国人工智能产业发展联盟，联合业内知名公司推出了AIIA DNN benchmark——人工智能端侧芯片基准测试评估方案。
该测评方案从客观的角度出发，能够切实反映当前AI芯片的能力，也能够通过开源社区网络更多具有AI芯片研发制造能力的企业深度参与，推动行业的发展壮大。
其中，AIIA DNN benchmark v0.5「通用芯片 AI 能力评估」测评方案中是基于安卓的benchmark工具，可以对基于CPU/GPU/DSP/NPU的终端推断任务进行评测。支持测评的机器学习训软件框架包括TensorFlow/Caffe。评测指标包括：时间、性能评价、功耗等。评测场景包括：图像分类、目标检测、超分辨率、分割网络。目前，已经完成的移动端适配环境有：HiAI /MACE/ ncnn/ SNPE/TensorFlow Lite。
针对端侧具有丰富多样应用场景的特点，联盟同时推出「定制化芯片的AI能力评估」，具体由商务沟通确定。
评估方案会向企业征集实际应用场景，并针对测评指标进行版本迭代更新。最终的测评报告则将由第三方中国信息通信研究院提供，中国人工智能产业发展联盟则会根据版本迭代，对测评结果进行定期发布。
AIIA DNN benchmark将以「版本迭代、不断丰富、不断完善」展开，欢迎各大企业加入，提供更多实用性测评场景，搭建测评环节，让测评指标更加丰富和完善。
