Инсталирането на CUDA на Windows не е задължително да е проблем, ако знаете къде да се обърнете и кои версии да изберете. В това практическо ръководство ще ви преведа стъпка по стъпка през всичко необходимо, за да инсталирате и да работите с инструментариума, правилния драйвер и помощните програми за проверка, както на оригиналния Windows, така и с помощта на WSL. Идеята е да изключите графичния си процесор. наистина ускорява вашите работни натоварвания, без изненади, свързани със съвместимостта.
В допълнение към основната инсталация, ще разгледам реални случаи на употреба и специални изисквания (като ML.NET Model Builder със стари зависимости), алтернативи за инсталиране с Conda и pip, интеграция с Visual Studio и класическите тестове deviceQuery и bandwidthTest. Ще видите също как да диагностицирате типични проблеми с шофьорите, несъответствия при откриване на GPU и версии на CUDA, които обикновено забавят хората от първия път.
Какво е CUDA и защо е важно за Windows?
CUDA е платформата и моделът на NVIDIA програмиране за паралелни изчисления, които ви позволяват да прехвърлите най-интензивните части от вашите приложения към графичния процесор (GPU). Процесорът (CPU) обработва последователната работа, а графичният процесор (GPU) - масово паралелни, всеки със собствена памет, избягвайки пречки и позволявайки едновременна работа.
CUDA-съвместимите графични процесори разполагат със стотици или хиляди ядра, изпълняващи десетки хиляди нишки. Библиотеки като cuBLAS, cuDNN и NVCC завършете комплекта, за да можете да компилирате, отстранявате грешки и профилирате вашия софтуер, ускорен от GPU, в Windows.
Системни изисквания и съвместимост с Windows
Първо, трябва да проверите дали вашата система е съвместима с желания от вас инструментариум. В текущите Windows системи, Поддръжка на CUDA 13.0 U1Windows 11 24H2, 23H2, 22H2-SV2; Windows 10 22H2; Windows Server 2022 и 2025.
Поддържани компилатори и IDE: Visual Studio 2022 17.x (MSVC 193x) с C++11/14/17/20 и Visual Studio 2019 16.x (MSVC 192x) с C++11/14/17. поддръжка за VS2017 Премахнато е в CUDA 13.0, а за VS2015 е остаряло от CUDA 11.1, така че коригирайте проектите си.
Важна забележка за 32-битовата архитектура: От CUDA 12.0 насам вече няма 32-битов набор от инструменти (нативен или междуплатформен). Драйверите ще продължат да работят с 32-битови двоични файлове на GeForce. Архитектура на АдаHopper вече не поддържа 32 бита.
Препоръчителен хардуер: NVIDIA GPU с изчислителни възможности, подходящи за вашата версия (за общи сценарии, 3.0 или по-нова; вижте официалния списък), достатъчно памет и в някои специфични случаи по-високи изисквания. За Model Builder (класификация на изображения), поне 6 GB VRAM дедикиран, докато за основни приложения се споменават минимуми от 4 GB.
Проверете дали имате съвместим графичен процесор и каква версия имате
За да проверите модела на вашия графичен процесор в Windows: Настройки > Система > Дисплей > Разширени настройки. Там ще видите марката и модела под „Информация за дисплея“, много полезно за потвърждаване на съвместимостта.
Можете също да използвате диспечера на задачите в раздела „Производителност“ и да изберете панела „Графичен процесор“, за да видите подробности. Ако не се появи, отворете Мениджър на устройства и вижте Видео адаптерите; Ако драйверът на NVIDIA липсва, инсталирайте го.
За да проверите инсталацията на CUDA, отворете PowerShell или CMD и изпълнете nvcc --version o nvcc -VТова връща версията на компилатора. НВКЦ инсталиран; ако не отговаря, пътят до инструментариума не е конфигуриран или не е инсталиран правилно.
Ако е необходимо да актуализирате драйверите, GeForce Experience предлага най-новите версии или ги изтеглете от официалния уебсайт за драйвери на NVIDIA. Актуализираният драйвер обикновено решава проблема. несъвместимости с инструментариума и грешки при откриване.
Изтеглете NVIDIA CUDA Toolkit: Формати и интегритет
Отидете на официалната страница за изтегляне на CUDA на NVIDIA и изберете Windows. Можете да изберете или Network Installer (минимално изтегляне, след което пакети при поискване), или Full Installer (всичко е включено). Пълният инсталатор е чудесен за офлайн компютри или за внедрявания в предприятия.
След изтеглянето е добра практика да проверите публикуваната MD5 контролна сума, за да се уверите, че файлът не е повреден. Ако хешът не съвпада, изтеглете отново инсталатора и избягва главоболия по-късно.
От CUDA 13 насам, драйверът на NVIDIA вече не е включен в Toolkit. Инсталирайте драйвера отделно от Страница с драйвери на NVIDIA и след това Инструментариума; избягвайте смесването на несъвместими версии.
Инсталиране на Windows: графичен, безшумен и режим на извличане
Графична инсталация: Стартирайте инсталатора и следвайте стъпките. Изберете местоположение, приемете лиценза и изберете елементи като например Toolkit, Nsight Compute/Systems и примери.
Тиха инсталация: Можете да стартирате инсталатора с -s за безшумен режим и добавете параметри за специфични подпакети. Ако не искате автоматично рестартиране, добавете -n и вие управлявате рестартирането накрая.
Ръчно разархивиране: С 7-Zip/WinZip можете да разархивирате целия пакет, за да проверите съдържанието му. Инструментариумът се намира вътре в папката. CUDA инструментариум и интеграция с Visual Studio в едноименната директория; .dll и .nvi файловете, които виждате в корена на инсталатора, не са инсталируеми файлове като такива.
Път към инструментариума по подразбиране: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v13.0. При инсталиране на подпакети Можете да изберете само това, от което се нуждаете (например, nvcc_13.0 за компилатора, cudart_13.0 за време на изпълнение, cublas_13.0/cublas_dev_13.0, cufft_13.0, curand_13.0, cusolver_13.0, cusparse_13.0, nsight_compute_13.0, nsight_systems_13.0, nvrtc_13.0, nvdisasm_13.0, nvprune_13.0, opencl_13.0, sanitizer_13.0, thrust_13.0И т.н.). По този начин намалявате заеманата площ и времето за монтаж.
Деинсталиране: Всички подпакети могат да бъдат премахнати от Контролен панел > Програми и компоненти. Полезно е, ако искате да преинсталирате дадена версия. чисти или сменяйте клони без никакви остатъци.
Модели на драйвери в Windows: WDDM срещу TCC
В Windows 10 и по-нови версии, драйверът на NVIDIA може да работи в два режима: WDDM (за дисплеи) и TCC (за изчислителни графични процесори като Tesla или някои Titans). Можете да проверите и промените режима с nvidia-smi на поддържаните карти; повечето съвременни GeForce карти използват WDDM по подразбиране.
Проверете инсталацията: nvcc, примери и тестове
Проверете версията на NVCC с nvcc -VАко командата работи, PATH и основната инсталация е налице.
Клонирайте CUDA примерите от GitHub на nvidia/cuda-samples, компилирайте ги и ги стартирайте deviceQueryТрябва да открие устройството ви и да върне тестът е преминалАко не, проверете драйвера и хардуера.
Също така работи bandwidthTest за валидиране на честотната лента на хост-устройството. Ако тестовете преминат успешно, комуникацията CPU-GPU е наред. Всякакви грешки тук обикновено сочат към драйвери или инсталацията на Toolkit.
Интеграция с Visual Studio и проектна инфраструктура
Примерите и вашите проекти могат да бъдат компилирани с VS 2019/2022 решения. Шаблоните на NVIDIA създават C++ проект с... Създаване на персонализации на CUDA за вашата версия (например, CUDA 13.0 Runtime).
Файлове с инструменти .props: VS 2019 съдържа props-ите в C:\Program Files (x86)\Microsoft Visual Studio\2019\Professional\MSBuild\Microsoft\VC\v160\BuildCustomizations и спрямо 2022 г. C:\Program Files\Microsoft Visual Studio\2022\Professional\MSBuild\Microsoft\VC\v170\BuildCustomizationsТези маршрути позволяват на VS да намери правила и свойства от CUDA.
В новите проекти, създайте от NVIDIA Templates > CUDA за инсталираната версия. В съществуващите проекти отидете на Изграждане на зависимости > Изграждане на персонализации и маркирайте вашата CUDA версия или посочете $(CUDA_PATH) ако искате винаги да използвате най-скоро инсталираната.
След инсталиране или деинсталиране на Toolkits, проверете дали $(CUDA_PATH) сочи към правилната папка. Достъп Променливи на околната среда от „Свойства на системата“, за да проверите и коригирате стойността, ако е необходимо.
Файловете с CUDA код трябва да бъдат маркирани като CUDA C/C++ тип. Можете да ги добавите от Добавяне на нов елемент > NVIDIA CUDA 13.0 > CUDA C/C++ код във Visual Studio.
Инсталирайте CUDA с Conda и pip
Conda: NVIDIA публикува пакети в своя канал Anaconda (anaconda.org/nvidia), за да инсталирате пълния Toolkit или конкретни предишни версии. За да закачите предишна версия, добавете етикет за издаване към командата за инсталиране и Conda ще разреши зависимостите.
pip: NVIDIA предоставя Wheels за инсталиране на CUDA компоненти, ориентирани предимно към средата за изпълнение на Python. Първа инсталация nvidia-pyindex и се уверете, че сте актуализирали pip и setuptools. Можете да включите съответния ред във вашия requirements.txt Ако предпочиташ.
Метапакети на Windows за CUDA 12 (cu12), които изтеглят от най-новата налична версия: между другото, nvidia-cublas-cu12, nvidia-cuda-cccl-cu12, nvidia-cuda-cupti-cu12, nvidia-cuda-nvcc-cu12, nvidia-cuda-nvrtc-cu12, nvidia-cuda-opencl-cu12, nvidia-cuda-runtime-cu12, nvidia-cuda-sanitizer-api-cu12, nvidia-cufft-cu12, nvidia-curand-cu12, nvidia-cusolver-cu12, nvidia-cusparse-cu12, nvidia-npp-cu12, nvidia-nvfatbin-cu12, nvidia-nvjitlink-cu12, nvidia-nvjpeg-cu12, nvidia-nvml-dev-cu12, nvidia-nvtx-cu12.
Тези метапакети инсталират специфични версирани пакети, например със суфикс cu129: nvidia-cublas-cu129, nvidia-cuda-cccl-cu129, nvidia-cuda-cupti-cu129, nvidia-cuda-nvcc-cu129, nvidia-cuda-nvrtc-cu129, nvidia-cuda-opencl-cu129, nvidia-cuda-runtime-cu129, nvidia-cuda-sanitizer-api-cu129, nvidia-cufft-cu129, nvidia-curand-cu129, nvidia-cusolver-cu129, nvidia-cusparse-cu129, nvidia-npp-cu129, nvidia-nvfatbin-cu129, nvidia-nvjitlink-cu129, nvidia-nvjpeg-cu129, nvidia-nvml-dev-cu129, nvidia-nvtx-cu129Не забравяйте, че CUDA Wheels не включват инструменти за разработчици, а само среда за изпълнение.
Използването на pip означава, че CUDA средата е обвързана с вашата Python среда. Ако планирате да компилирате или изпълнявате извън тази среда, инсталирайте също Инструментариум на системно ниво за да се избегнат несъответствия в маршрута.
CUDA на WSL: Windows 11 и Windows 10 21H2
Windows 11 и Windows 10 21H2 (и по-нови версии) ви позволяват да изпълнявате CUDA-ускорени ML рамки и библиотеки в WSL. Това включва PyTorch, TensorFlow, Docker и NVIDIA Container Toolkit, точно както бихте направили в оригиналния Linux.
Стъпка 1: Инсталирайте CUDA-съвместимия NVIDIA драйвер за WSL от официалния уебсайт. Този драйвер е специално проектиран да разкрива графичния процесор в рамките на дистрибуции. Linux на WSL.
Стъпка 2: Активирайте WSL и добавете дистрибуция, базирана на glibc (Ubuntu/Debian). Актуализирайте ядрото от Windows Update и проверете дали е 5.10.43.3 или по-висока бягане wsl cat /proc/version в PowerShell.
Стъпка 3: Следвайте ръководството за NVIDIA CUDA on WSL, за да инсталирате Toolkit-а в дистрибуцията и/или да конфигурирате NVIDIA Docker. Ще можете да използвате обичайните Linux процеси с ускорение и перфектно отделят средата от хост Windows.
Реален сценарий: смесен лаптоп с AMD + NVIDIA и грешки с 12.8/11.8
Да предположим, че е Lenovo Ideapad 5 Pro с AMD Ryzen, AMD Radeon iGPU и NVIDIA GeForce GTX dGPU. При работа nvidia-smi появява 526.56 Driver и CUDA версия 12.0, но опитът за инсталиране на CUDA 12.8 или 11.8 изглежда не работи.
Ключове за разбирането му: редът CUDA Version на nvidia-smi показва максималната версия на CUDA средата, поддържана от вашия драйвер, а не инсталирания Toolkit. Драйверът 526.56 Поддържа CUDA 12.0 и 11.8, но не и 12.8, която изисква много по-нов драйвер (клон 55x/56x). Актуализирайте до скорошен драйвер (Studio или Game Ready DCH) от уебсайта на NVIDIA и повторете инсталацията.
На хибридни компютри проверете в контролния панел на NVIDIA или в настройките на графиката на Windows, за да се уверите, че приложението ви използва графичния процесор на NVIDIA. Ако dGPU не се използва, NVIDIA-SMI Това може да причини проблеми или фреймворците може да се заредят на AMD iGPU, който не поддържа CUDA. Помислете за чисто инсталиране на драйвера и проверете дали GeForce Experience разпознава хардуера.
Специални изисквания: ML.NET Model Builder (само класификация на изображения)
За сценария за класификация на изображения с Model Builder, Microsoft изисква специфичен стек: CUDA 10.1 и cuDNN 7.6.4Бъдете внимателни с това, защото по-новите версии не поддържат този специфичен поток.
Ключови стъпки с cuDNN 7.6.4: изтеглете ZIP файла за CUDA 10.1, разархивирайте го и го копирайте cudnn64_7.dll от cuda\bin a C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\binНе можете да имате няколко версии на cuDNN едновременно с това премахва остатъци от други версии, за да избегне конфликти по време на изпълнение.
Хардуерни изисквания за този сценарий: поне един CUDA-съвместим графичен процесор и 6 GB специална памет. Ако нямате локален графичен процесор, Model Builder може да обучава на виртуални машини с графичен процесор. Лазурен, или в крайна сметка на процесора, макар и с много по-дълго време за обучение.
Бърза диагностика и разрешаване на често срещани проблеми
Графичният процесор не се показва в „Настройки“ или „Диспечер на задачите“: Отворете „Диспечер на устройства“, погледнете под „Видеоадаптери“ и инсталирайте подходящия драйвер. Няма драйвер. NVIDIA, Windows няма да предостави достъп до dGPU на приложения.
Проверете CUDA версията на системата: в PowerShell/CMD изпълнете nvcc --versionАко не успее, проверете дали Toolkit е инсталиран и че PATH включете папката bin от Инструментариума.
Инструментариумът не открива CUDA устройства: Уверете се, че драйверът е актуален и че вашият графичен процесор е в списъка с CUDA-съвместими устройства. устройствоQuery y Тест за честотна лента Те са вашият термометър, за да потвърдите, че стекът от хардуер-драйвер-инструменти отговаря.
Неправилен режим на драйвера за изчисления: На графичния процесор за изчисления използвайте nvidia-smi за да проверите/превключите TCC, ако е приложимо. На повечето лаптопи GeForce, WDDM Това е предвиденият режим и не можете да го промените.
Конфликти на зависимости с Python рамки: Ако използвате CUDA Wheels чрез pip, не забравяйте, че те покриват само runtime и са обвързани с виртуалната среда. За да компилирате разширения или да използвате инструменти, инсталирайте също Системен инструментариумили използвайте Conda, за да управлявате всичко наведнъж.
Примери, образци и добри практики
За да проверите производителността и функционалността, компилирайте и изпълнете deviceQuery y bandwidthTest от VS решения в хранилището с примери. Компилациите обикновено оставят двоични файлове в пътища като CUDA Samples\v13.0\bin\win64\Release ако сте запазили стойностите по подразбиране.
За да видите визуално потенциала на CUDA, изпълнете графични примери като particlesОсвен демонстрацията, те ще ви помогнат да вземете референции за употребата на споделена памет и мрежови/блокови модели във вашите собствени проекти.
Облачни алтернативи с графични процесори
Ако не искате да се затруднявате с локални драйвери или се нуждаете от пикове на мощност, можете да изберете облачни инстанции с модерни графични процесори (A100, RTX 4090, A6000 и др.). Тези услуги предлагат незабавно разполагане, шаблони за PyTorch/TensorFlow и плащане при ползване, полезни за интензивно обучение или бързо тестване.
Бележки и маркировки
Техническата документация и пакетите на NVIDIA подлежат на промяна без предупреждение. Винаги проверявайте бележки към изданието и актуализирани съвместимости преди инсталиране на драйвери или инструменти в производствения процес.
OpenCL е търговска марка на Apple Inc., използвана по лиценз от Khronos Group. NVIDIA и нейното лого са търговски марки или регистрирани търговски марки на NVIDIA Corporation в САЩ и други страни.
С правилния драйвер, правилния инструментариум и няколко добре направени теста, Windows е солидна основа за CUDA: можете да разработвате с Visual Studio, да валидирате с официалните примери, да стартирате AI рамки в WSL, както в Linux, и ако се затрудните, да изтеглите алтернативни инсталатори (Conda/pip) или дори облака, за да избегнете неизправности; важното нещо е да се синхронизират версиите на драйверите и инструментариума, да се потвърди, че графичният процесор NVIDIA е действително използваният и да ви помогне в deviceQuery/bandwidthTest за да се уверите, че всичко е зелено. Споделете този урок и повече потребители ще знаят как да инсталират CUDA на Windows.