При этом в BIOS вообще нет настроек, связанных с частотой PCI-Express. На частоте FSB 400 МГц и делителем памяти 1:1 (DDR800) система загружается, но из диспетчера задач исчезает видеоадаптер. На частоте 390 МГц видеокарта уже определяется и работает, но вылетает под нагрузкой (Radeon HD7950).

Частоту шины фиксить нужно, иначе глючить может как у вас. Там же на шине тоже идет поднятие частоты. Если не изменяет память вроде так. А почему нет у вас настройки, отвечающий за частоту PCIe, хз. Это вопрос скорее к кодерам, которые БИОС писали.

Ну вот тут эту материнку разгоняют до 420 МГц без танцев с бубном:
http://www.overclockers.ru/lab/32197.shtml

А у меня и с Xeon E5440, и с Xeon X5260, и с Core2Duo E6600 одинаковая петрушка. Что даже 400 МГц не дает поставить