在软件个锤子站,你会发现许多生成式AI工具的整合包。这些整合包通常会打包好所需的运行环境,安装后即可使用。不过,也有不少朋友更喜欢亲自部署工具,自己动手更有成就感!但难免会遇到运行报错的问题。其实,很多时候问题的根源在于没有安装好必备的运行环境。
为了让大家少走弯路,我们特别整理了玩转生成式AI必备的工具、框架和插件。从这期开始,将为你逐一介绍这些工具的功能特点以及安装教程,即使是零基础用户也能轻松搞定!
基础工具篇:三大关键组件
1. CUDA:显卡加速的核心技术
CUDA,全称 Compute Unified Device Architecture,是英伟达(NVIDIA)推出的并行计算平台。它可以让你的显卡帮助处理复杂的计算任务,将一部分原本由 CPU 承担的工作转移到 GPU 上完成,从而极大提升计算效率。在生成式AI中,CUDA 是加速大数据计算和复杂算法的基础工具。
2. cuDNN:深度学习加速神器
cuDNN(CUDA Deep Neural Network)同样是 NVIDIA 开发的一款工具,专门针对深度神经网络优化。它建立在 CUDA 技术之上,为卷积、池化、激活函数等核心操作提供了高度优化的计算能力。这款加速库广泛应用于主流深度学习框架,如 TensorFlow、PyTorch 和 MXNet,显著提高了训练和推理的速度。简单说,cuDNN 是深度学习领域的“提速神器”。
3. FFmpeg:多媒体处理全能王
在生成式AI的应用中,视频生成和音频处理是两个常见的场景,而 FFmpeg 则是其中必不可少的工具。作为一款功能强大的多媒体处理工具,它可以高效完成音视频的编码、解码和转换任务,是众多 AI 工具运行的幕后功臣。
接下来,我们将带来详细的安装教程,帮助你一步步搞定 CUDA 和 cuDNN 的部署(注意:仅限 NVIDIA 显卡用户哦!)。
cuDNN安装教程
(cuDNN是CUDA的补充,在安装cuDNN前请先确保CUDA安装成功)
1、下载与CUDA对应的cuDNN版本
① 进入下方链接的官网下载网址,用邮箱创建一个账号,然后选择与CUDA版本对应的cuDNN版本
下载与CUDA版本对应的cuDNN版本:https://developer.nvidia.com/rdp/cudnn-archive
② 点击“Local Installer for Windows (Zip)”下载本地压缩包
2、安装cuDNN
① 将下载下来的压缩包解压,解压之后得到三个文件夹
② 复制三个文件夹,粘贴到CUDA的文件夹目录中,粘贴时会发现CUDA 的安装目录中有和 cuDNN 解压缩后的同名文件夹,不需要担心,直接复制替换即可
③ 在环境变量中依次添加下方路径
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\include
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\lib
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\libnvvp
3、验证cuDNN是否安装成功
① 进入到CUDA文件目录的“demo_suite”文件夹中
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\extras\demo_suite
② 在文件夹目录中输入“cmd”,敲击一下“回车”即可打开命令提示符
③ 用鼠标将文件夹中的“bandwidthTest.exe”拖入命令提示符中,键盘敲击一下“回车”,看命令提示符中是否出现分别出现以下画面,如出现以下画面进入下一步,否则说明cuDNN未能成功安装
④ 再用鼠标将文件夹中的“deviceQuery.exe”拖入命令提示符中,键盘敲击一下“回车”,如出现出现以下画面,即说明cuDNN安装成功