В общем тухлые это чипсеты H, B, жалкие огрызки. Только Z адекватно работают.

mol61 для разгона Z77, Z75, Z68, P67. H и B для обычного использования.

Была плата h61 и celeron g540, память 1333 работала на своей частоте 1333, с i5 на этой же плате эта память запустилась на 1600 без изменения таймингов. Вот что удивительно для пентиума как раз таки есть ограничение в 1066.
Несмотря на заявленную поддержку DDR3-1066, оказалось, что процессоры Celeron G5xx работают и с DDR3-1333. А вот уже Pentium G6xx работают исключительно с DDR3-1066.

У пеньтиума Северный мост: Intel Sandy Bridge-DT IMC, он в самом ЦП, а он отвечает в том числе за RAM, по этому работа с частотами памяти зависит от используемого ЦП, я так понял.

Установил Xeon E3-1230 v2, теперь всё работает
И кстати память завелась на 1600 в авто режиме, только выставил в настройках 1600, вольтаж в автомате стоит на 1.5v, работает стабильно, задержка автоматом выставилась 9-9-9-24!