Из-за большого кулера (noctua nh-c14) невозможно установить видюху (gigabite gtx 780) в мать (asus z87 pro), есть внизу другие разъемы для видюхи, но повлияет ли это на производительность системы?

Во-первых, все другие "разъёмы" работают, максимум, в режиме х8 (для 780-й это уже может иметь значение...), во-вторых, не факт, что оно вообще будет работать - с видеокартой во втором слоте при пустом первом система может вообще не запуститься (зависит от биоса). Разумнее просто повернуть кулер на 90 градусов.

Grayhaund PCI-E 3.0 в x8 не критично. С PCI-E 3.0 вполне имеют право на жизнь связки видеокарт в x4.