Безусловно, одним из самых важных компонентов в реализации GPU-ускорения в приложении является само программное обеспечение, адаптированное на параллельные вычисления.
Существует несколько технологий для вычислений на GPU: NVIDIA CUDA (для GPU NVIDIA), ATI Stream Technology (для GPU AMD (ATI)) и OpenCL. В то время, как первые две жестко привязаны к GPU указанных производителей, OpenCL призван стать унифицированным решением для GPU-вычислений, его можно использовать как с продуктами NVIDIA, так и с продуктами AMD. Но и тут все не так просто. Учитывая различия в архитектуре графических процессоров NVIDIA и AMD, даже на OpenCL приходится адаптировать программный код под конкретную архитектуру, NVIDIA или AMD. Казалось бы, что может быть проще — переписать код программы с учетом особенностей GPU, но здесь-то и обнаруживается одна из самых важных особенностей. Как известно, процесс разработки ПО включает не только собственно написание кода программы, но и его отладку, профилирование и компиляцию, а также адаптацию под исполнение программы на CPU (в случае отсутствия GPU определенного производителя или модели). С отладкой и разработкой ПО у решения AMD есть ряд недостатков. У NVIDIA, напротив, есть большое количество документации, свободно распространяемые библиотеки и SDK, полноценный отладчик на GPU и интегрируемый в среду разработки Microsoft Visual Studio набор инструментов NVIDIA Parallel Nsight™. Все это, и отличный маркетинг (ну куда уж без него), выводит продукты NVIDIA на первое место в создании GPU accelerated приложений, а также устойчиво сформировавшегося сообщества разработчиков.