有奖征文第七弹|一位全职开发者的NVIDIA故事

目前我是一名研发工程师，从事全职开发工作。自初中起便因一次偶然的机遇接触到了 51 单片机，并由此踏入了嵌入式开发的领域。直至高中三年级的那个暑假，当我首次接触到 NVIDIA Jetson Nano 时，我的 AI + 嵌入式开发之旅才正式启程。出于自己对电子编程相关行业的爱好，我开始从事相关行业的开发工作。至今，我已经从事开发工作达九年之久。

2017 年，物联网概念刚刚开始进入到人们的日常生活中，我当时从事物联网智能家居相关开发工作。花了一年的周末业余时间研发了一套类似于当前市面在售的智能家居系统（由智能灯泡、智能插座、居家环境检测仪组成）。

2018 年开源硬件爆火，我创立了松果派开源硬件，从事开源硬件开发以及中小学生教育工作。最终成功发售两块开发板，社群 2000+ 人，帮助若干中小学生入门电子编程。

2020 年后，我开始从事 AI 边缘计算开发工作，致力于将复杂高算力需求的模型通过量化裁剪等手段部署在边缘设备（例如 K210）上。同时，我的本科毕设 OpenNNA 也是一个有关边缘计算的良好实践。OpenNNA 项目致力于在 Xilinx ZYNQ 平台上创建 FPGA 神经网络硬件加速器，最终实现加速 ARM Cortex A7 的神经网络模型推理性能的作用。

回顾过往，我开发的项目主要用于智能家电、边缘计算、机器人等行业领域。智能家电行业主要要求开发者有主导一个产品的全栈开发经验，能够完成端到端的设计流程，并且深度调研用户需求。而边缘计算和机器人行业则要求开发者拥有良好的算法基础以及学习能力，当遇到疑难问题时，能够通过自己的学习和摸索突破一个个算法难题。

我和 NVIDIA 可以说是结缘良久，既为尝试将一些 AI 的方案落地到智能家居领域，同时也是为了体验 AI 对生产生活带来的革新，而这一切都要追溯到高三时就开始使用的 NVIDIA Jetson Nano。

现在我主要使用 Jetson Nano、Jetson AGX 等 NVIDIA 边缘计算产品进行开发工作。同时，针对于神经网络模型的训练，NVIDIA RTX 3090Ti 是我目前主要使用的模型训练卡。非常值得说的是 NVIDIA CUDA 框架能够帮助开发者更方便地调用 GPU 的并行计算能力，提升模型训练/推理速度。

另外，TensorRT SDK 提供的一些模型量化和加速功能也让我印象很深。在疫情期间，我接到一个口罩识别项目，用于方便快速地监测人们是否佩戴口罩。在 NVIDIA GPU 的帮助下，我很快完成了相关模型的训练工作。但是在模型量化剪枝工作上遇到了些许挑战。直到我了解到 TensorRT SDK 工具后，我被它对模型强劲的优化能力吸引了。最终使用 TensorRT 进行模型优化，并成功部署在边缘计算设备上，完成了整个项目。