有奖征文第六弹|与NVIDIA有关的时间线

原创 英伟达NVIDIA中国 2024-01-12 17:12

“我只要按照时间线慢慢写,就已经可以表现 NVIDIA 与我如影随形的一切了,无论是过去的游戏,当下的科研与开发,还是未来的工作规划,都有 NVIDIA 的一部分。”


作为有奖征文的第六弹,今天我们一起来听听开发者——知乎用户“梦负影”所分享的,那些他与 NVIDIA 交织的时间线和携手走过的路。



初识 NVIDIA













如果要从我的第一台 NVIDIA 设备说起,那可能是 2016 年买的微星笔记本搭载的 960M 显卡,它支撑了我大学四年的游戏生涯。那时候不懂机器学习、数据科学、人工智能,仅仅作为娱乐设施,我想这也是大部分男生一开始入手的原因吧。


把时间拨转来到 2021 年,此时我准备开始研究生生涯,在考研结束到入学前,我做了一个 Chat Bot,主要是放在 QQ、微信的群里给大家提供一些游戏工具,或增加其他一些增强聊天趣味性的小功能,想要触发这些功能需要用户事先输入关键词,虽然可以运用正则匹配、模糊匹配等优化反馈,但是依然不可避免导致了呆板。基于这样的背景,在我入学的时候最想的是做一个可以像人一样回复的机器人,于是开始了解人工智能、深度学习、自然语言处理,网上的资料多且杂,看的我依然是一头雾水,仅仅知道这些东西似乎需要经过训练。



学习 CUDA













时间到 2021 年末,入学半年临近寒假,通过研究生的课程以及资料不断增加,对 AI 的内容逐渐了解了起来,知道了 GPU 与 CPU 的不同,也才知道经常拿来打游戏的显卡居然有着与众不同的作用。恰好此时,同学向我发来了 NVIDIA CUDA 冬训营的通知,在那时候浅薄的认知中,学习 CUDA 或许可以帮我了解一下算法模型训练等内容,一番犹豫之后便报名了旁听班(而正式班在犹豫的时候已经满员了)。


经过一周的学习,我顺利地通过了冬训营的考验,同时认识了好玩的 HuanHuan 老师和何老师,以及认真负责的鬼鬼。了解到 CUDA 的内容后,发现 CUDA 比我想的要更底层,虽然不是预期的模型训练与使用,但是它却向我讲解了 GPU 上的矩阵运算过程和具体的代码,让我了解 GPU 所带来的力量。唯一不足的可能就是我的研究方向与代码、CUDA 相去甚远,冬训营之后便很少触及 CUDA 了。



了解 Jetson













在 CUDA 冬训营之后,我对 NVIDIA 所构建的生态产生了更多的好奇,除了支撑游戏运行之外,似乎 GPU 还有很多其他的作用,于是在第六届 Sky Hackthon 报名发布的第一时间,我便寻找队友报了名,除了抱着学习 AI 模型这一目的之外,也对只有巴掌大的 Jetson 设备产生了好奇:这样一个设备,却也可以跑 AI 模型甚至完成一些独特的功能。


Sky Hackthon 真正地让我训练了第一个模型,并且成功地在设备上部署、运行了起来。在完成 Sky Hackthon 的过程中,不仅看到了熟悉的何老师和李奕澎老师,也认识了参与多届比赛的恺,他无私地为我分享了之前的比赛经验,于是在队内队外的合作之下,机缘巧合拿下了第一名。



NGC、NeMo、TAO 与 TensorRT













在 Sky Hackthon 过程中,我访问了模型平台 NGC、使用了语言处理的 NVIDIA NeMo、视觉处理的 TAO 和模型优化的 TensorRT,可以说第一次了解了生态这个词:在硬件的基础上,围绕着 CUDA,构建了一套不同水平的人都可以使用的工具链。在 Sky Hackthon 中,我第一次听到 ASR、TTS、目标检测,尽管不了解其原理和细节,却可以利用 NVIDIA NeMo 构建 ASR 与 TTS 模型,利用 TAO 构建目标检测模型。唯一要做的仅仅是构建好数据的训练集。而随着了解深入,为了更进一步的提高模型质量与速度,我尝试使用开源的 TensorRT 代码来构建更优化的 YOLO 模型。


以上仅仅是 NVIDIA 生态的一角,除了这些工具之外,还有更多的软件在开发和迭代,比如在第八届 Sky Hackthon 中出现了 NVIDIA Omniverse,用 GPU 进行实时的图像生成,可以用于 AI 的数据增强或者数据生成。而更重要的是,这些软件大部分都是可以开源取用的,不需要在一开始就顾虑使用成本,仅仅需要考虑学习成本。



生成式 AI













最后,2023 年迎来生成式 AI 的大爆发, 尽管入学后没能如愿研究 Chat Bot,但是 2021 年梦想的 Chat Bot 由 OpenAI 帮我实现了,怎么能不算圆了读研究生的梦想呢?因此我们不去谈论 NVIDIA 显卡训练我的 AI 模型、完成我的论文课题,来聊聊在生成式 AI 时刻 NVIDIA 帮我做的事情吧。


我最开始关注 LLM 远超过 SD 等生图模型,但是就算是 Llama 7B 也并不是容易跑起来的,到现在 2024 年,已经有了不少模型小型化的工作,所以我也能在 3090 上跑一些通义千问等开源模型的小参数模型了,目前正在收集数据集,准备进行自己的模型微调。


由于本地 LLM 运行困难,我的目光逐渐转向了 Stable Diffusion 等生图模型。一开始只会使用 Stable Diffusion WebUI,然后逐渐解构了代码,将它跑到了我自己的 P100 上,并在各种优化版本出现的第一时间尝试进行接入:Lora、ControlNet、SDXL、LCM、LCM-lora、SDXL-turbo,这些新技术出现的第一时间,我就尝试在本地的设备上运行起来。尽管我是一个没有什么艺术细胞与美感的人,但是感谢 NVIDIA 带来的计算能力,一些简短的描述就可以得到一些效果很不错的图片。特别是当 LCM-lora 和 SDXL-turbo 出现,构思提示词的时间已经开始大于生图的时间了。


伴随着工作需要,我依然在不断地了解更多生成式 AI 的内容,让模型本地化、小型、快速响应,然后让模型在 NVIDIA 的加持下来帮助更多的人发挥更多的生产力。


结语


在这里感谢一下张小白,其实我最早看到征文的时候,并不知道如何落笔,虽然每天都不曾离开使用,但是依然不知道如何去描写这碎片化的经历,是他的描述方式提示了我:我只要按照时间线慢慢写,就已经可以表现 NVIDIA 与我如影随形的一切了,无论是过去的游戏、当下的科研与开发,还是未来的工作规划,都有 NVIDIA 的一部分。


——知乎用户“梦负影”


感谢这位开发者带来的精彩分享!就如这位开发者所说,NVIDIA 在过去、现在和未来都与无数开发者们如影随形,紧密相连,而正是这种密切的合作,让创新之火在游戏、科研和开发领域不断燃烧,为行业注入了活力。


点击下方海报,一起来分享您的开发故事或实践心得吧! #1M Strong#




点击下方视频观看 NVIDIA CES 2024 特别演讲中文字幕版!

评论
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球中空长航时无人机产值达到9009百万美元,2024-2030年期间年复合增长率CAGR为8.0%。 环洋市场咨询机构出版了的【全球中空长航时无人机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球中空长航时无人机总体规模,包括产量、产值、消费量、主要生产地区、主要生产商及市场份额,同时分析中空长航时无人机市场主要驱动因素、阻碍因素、市场机遇、挑战、新产品发布等。报告从中空长航时
    GIRtina 2025-01-09 10:35 37浏览
  • 在智能网联汽车中,各种通信技术如2G/3G/4G/5G、GNSS(全球导航卫星系统)、V2X(车联网通信)等在行业内被广泛使用。这些技术让汽车能够实现紧急呼叫、在线娱乐、导航等多种功能。EMC测试就是为了确保在复杂电磁环境下,汽车的通信系统仍然可以正常工作,保护驾乘者的安全。参考《QCT-基于LTE-V2X直连通信的车载信息交互系统技术要求及试验方法-1》标准10.5电磁兼容试验方法,下面将会从整车功能层面为大家解读V2X整车电磁兼容试验的过程。测试过程揭秘1. 设备准备为了进行电磁兼容试验,技
    北汇信息 2025-01-09 11:24 51浏览
  • 1月7日-10日,2025年国际消费电子产品展览会(CES 2025)盛大举行,广和通发布Fibocom AI Stack,赋智千行百业端侧应用。Fibocom AI Stack提供集高性能模组、AI工具链、高性能推理引擎、海量模型、支持与服务一体化的端侧AI解决方案,帮助智能设备快速实现AI能力商用。为适应不同端侧场景的应用,AI Stack具备海量端侧AI模型及行业端侧模型,基于不同等级算力的芯片平台或模组,Fibocom AI Stack可将TensorFlow、PyTorch、ONNX、
    物吾悟小通 2025-01-08 18:17 38浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 150浏览
  •  在全球能源结构加速向清洁、可再生方向转型的今天,风力发电作为一种绿色能源,已成为各国新能源发展的重要组成部分。然而,风力发电系统在复杂的环境中长时间运行,对系统的安全性、稳定性和抗干扰能力提出了极高要求。光耦(光电耦合器)作为一种电气隔离与信号传输器件,凭借其优秀的隔离保护性能和信号传输能力,已成为风力发电系统中不可或缺的关键组件。 风力发电系统对隔离与控制的需求风力发电系统中,包括发电机、变流器、变压器和控制系统等多个部分,通常工作在高压、大功率的环境中。光耦在这里扮演了
    晶台光耦 2025-01-08 16:03 80浏览
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 115浏览
  • 「他明明跟我同梯进来,为什么就是升得比我快?」许多人都有这样的疑问:明明就战绩也不比隔壁同事差,升迁之路却比别人苦。其实,之间的差异就在于「领导力」。並非必须当管理者才需要「领导力」,而是散发领导力特质的人,才更容易被晓明。许多领导力和特质,都可以通过努力和学习获得,因此就算不是天生的领导者,也能成为一个具备领导魅力的人,进而被老板看见,向你伸出升迁的橘子枝。领导力是什么?领导力是一种能力或特质,甚至可以说是一种「影响力」。好的领导者通常具备影响和鼓励他人的能力,并导引他们朝着共同的目标和愿景前
    优思学院 2025-01-08 14:54 82浏览
  • 本文介绍编译Android13 ROOT权限固件的方法,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。关闭selinux修改此文件("+"号为修改内容)device/rockchip/common/BoardConfig.mkBOARD_BOOT_HEADER_VERSION ?= 2BOARD_MKBOOTIMG_ARGS :=BOARD_PREBUILT_DTB
    Industio_触觉智能 2025-01-08 00:06 100浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2025-01-09 09:58 33浏览
  • 在过去十年中,自动驾驶和高级驾驶辅助系统(AD/ADAS)软件与硬件的快速发展对多传感器数据采集的设计需求提出了更高的要求。然而,目前仍缺乏能够高质量集成多传感器数据采集的解决方案。康谋ADTF正是应运而生,它提供了一个广受认可和广泛引用的软件框架,包含模块化的标准化应用程序和工具,旨在为ADAS功能的开发提供一站式体验。一、ADTF的关键之处!无论是奥迪、大众、宝马还是梅赛德斯-奔驰:他们都依赖我们不断发展的ADTF来开发智能驾驶辅助解决方案,直至实现自动驾驶的目标。从新功能的最初构思到批量生
    康谋 2025-01-09 10:04 39浏览
  • 一个真正的质量工程师(QE)必须将一件产品设计的“意图”与系统的可制造性、可服务性以及资源在现实中实现设计和产品的能力结合起来。所以,可以说,这确实是一种工程学科。我们常开玩笑说,质量工程师是工程领域里的「侦探」、「警察」或「律师」,守护神是"墨菲”,信奉的哲学就是「墨菲定律」。(注:墨菲定律是一种启发性原则,常被表述为:任何可能出错的事情最终都会出错。)做质量工程师的,有时会不受欢迎,也会被忽视,甚至可能遭遇主动或被动的阻碍,而一旦出了问题,责任往往就落在质量工程师的头上。虽然质量工程师并不负
    优思学院 2025-01-09 11:48 51浏览
  • 故障现象一辆2017款东风风神AX7车,搭载DFMA14T发动机,累计行驶里程约为13.7万km。该车冷起动后怠速运转正常,热机后怠速运转不稳,组合仪表上的发动机转速表指针上下轻微抖动。 故障诊断 用故障检测仪检测,发动机控制单元中无故障代码存储;读取发动机数据流,发现进气歧管绝对压力波动明显,有时能达到69 kPa,明显偏高,推断可能的原因有:进气系统漏气;进气歧管绝对压力传感器信号失真;发动机机械故障。首先从节气门处打烟雾,没有发现进气管周围有漏气的地方;接着拔下进气管上的两个真空
    虹科Pico汽车示波器 2025-01-08 16:51 94浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦