|
AI PC 是时下 PC 领域的一个热门话题。与普通 PC 不同，AI PC 配备了先进的硬件，例如强大的 GPU，可以超快地运行具有生成式AI或大语言模型等繁重计算要求的 AI 模型推理，更重要的是，它还具有称为神经处理单元 （NPU） 的专用 AI 芯片。NPU 针对低功耗进行了优化，同时保持了高计算性能，这使其在处理特定 AI 工作负载方面表现出色，例如背景模糊、噪声去除等运行连续推理而不会快速耗尽电池电量的AI推理任务。因此，基本上，如果您需要一台能够处理繁重的 AI 工作或能够更有效地管理复杂的多线程 AI 应用的计算机，那么配备了英特尔®酷睿™Ultra处理器的 AI PC 就是为您打造的。
OpenVINO™ 是英特尔推出的一款针对AI模型进行优化、推理加速以及快速部署的开源 AI 工具套件。针对配备了英特尔®酷睿™Ultra 处理器的 AI PC ，可以帮助 AI 模型在 CPU、GPU 以及 NPU 上进行快速部署以及推理加速。接下来，我们将利用 OpenVINO™ 来验证AI PC 上这些硬件推理设备的的可用性。在本文中，我们将使用 Ubuntu 24.04，因为这是最新的 Ubuntu LTS 版本。 让我们从全新的 Ubuntu 安装开始。然后，创建一个虚拟环境，并使用以下命令安装 OpenVINO： python3-mvenvvenvsourcevenv/bin/activatepipinstallopenvino
在 Python 解释器中运行此代码，以验证哪些设备可供您在AI推理时使用。 importopenvinoasovcore=ov.Core()print(core.available_devices)
此时，你应该只能看到[‘CPU’]这个设备，意味着你目前只能访问 CPU。这个可不是什么好事！毕竟，你的笔记本电脑也有 GPU 和 NPU！那么，让我们解决这个问题。
我们将从 GPU 开始。第一步是安装所有驱动程序和必要的软件包。为此，您应该添加一个使用 GPG 密钥签名的 Intel 软件包存储库。还有其他方法（您可以在https://dgpu-docs.intel.com/driver/client/overview.html查看它们），但这种方法对于安装和未来更新来说是最简单的。 sudoaptupdatesudoaptinstall-ygpg-agentwgetwget-qO-https://repositories.intel.com/gpu/intel-graphics.key|sudogpg--yes--dearmor--output/usr/share/keyrings/intel-graphics.gpgecho"deb[arch=amd64,i386signed-by=/usr/share/keyrings/intel-graphics.gpg]https://repositories.intel.com/gpu/ubuntujammyclient"|sudotee/etc/apt/sources.list.d/intel-gpu-jammy.listsudoaptupdate
好的，是时候安装 GPU 推理所需的一切了。 sudoaptinstall-y\intel-opencl-icdintel-level-zero-gpulevel-zero\intel-media-va-driver-non-freelibmfx1libmfxgen1libvpl2\libegl-mesa0libegl1-mesalibegl1-mesa-devlibgbm1libgl1-mesa-devlibgl1-mesa-dri\libglapi-mesalibgles2-mesa-devlibglx-mesa0libigdgmm12libxatracker2mesa-va-drivers\mesa-vdpau-driversmesa-vulkan-driversva-driver-allvainfohwinfoclinfo 完成此步骤后重新启动。 importopenvinoasovcore=ov.Core()print(core.available_devices)
您现在应该看到的是 CPU 和 GPU。因此，唯一缺少的设备是 NPU。oneTBB 是 intel-driver-compiler-npu 的依赖项，因此必须先安装。
之后，我们需要下载并安装 NPU 驱动程序和所有相关软件包。 wget
https://github.com/intel/linux-npu-driver/releases/download/v1.5.0/intel-driver-compiler-npu_1.5.0.20240619-9582784383_ubuntu22.04_amd64.deb
wget
https://github.com/intel/linux-npu-driver/releases/download/v1.5.0/intel-fw-npu_1.5.0.20240619-9582784383_ubuntu22.04_amd64.deb
wget
https://github.com/intel/linux-npu-driver/releases/download/v1.5.0/intel-level-zero-npu_1.5.0.20240619-9582784383_ubuntu22.04_amd64.deb
wget
https://github.com/oneapi-src/level-zero/releases/download/v1.17.2/level-zero_1.17.2+u22.04_amd64.deb
sudo dpkg
-i *.deb
我们还需要为我们的加速器（NPU）分配正确的组和权限，并将我们的用户添加到渲染组中（请将<your-user-name>替换为您的用户名）。 sudobash-c"echo'SUBSYSTEM==\"accel\",KERNEL==\"accel*\",GROUP=\"render\",MODE=\"0660\"'>/etc/udev/rules.d/10-intel-vpu.rules"sudousermod-a-Grender<your-user-name>
importopenvinoasovcore=ov.Core()print(core.available_devices)
CPU、GPU 和 NPU 现在应该可见了！可以开始愉快地用所有设备运行AI推理了！
| 
