Имеется P8Z77-V pro, i5-2550k, gtx 760 (2 штуки). Проблема следующая: при подключении двух видеокарт они работают x8 x4, хотя должны x8 x8.

может не хватает линий, напаяли кучку контроллеров, а линий мало, что может отключить, возможно нижний или изменить ему количество линий

Следуя предыдущему совету - можно попробовать отключить всё незадействованное/малополезное (Wifi, порты COM LPT, третий слот PCI-E...)
Из трёх доступных слотов PCI-E задействованы два верхних.
PCI-E 2.0 X1;
PCI-E 3.0 X16; этот
PCI-E 2.0 X1
PCI;
PCI-E 3.0 X8; и этот
PCI;
PCI-E 2.0 X4.

Из обзора мамки: http://www.overclockers.ru/lab/48274/Ob ... V_PRO.html -
В нём написано: Они делят шестнадцать линий PCI-E, идущих от процессора между двумя графическими слотами, позволяя им работать по формуле либо 16/0, либо 8/8. Данные микросхемы поддерживают версию интерфейса PCI-E 3.0, хотя он доступен только в случае с использованием процессоров Ivy Bridge.

На ваш камень спек: Редакция PCI Express 2.0, Макс. кол-во каналов PCI Express 16. Есть вариант с Ivy Bridge потестить???