НВ и ЦПУ производит к слову на ARM.

Узел в смысле host. Далеко не каждая шина подходит для соединения двух и более хостов, как из-за упомянутых тобой физических ограничений, так и из-за банального отсутствия соответствующих протоколов.

Выигрыш очевиден - можно будет ваять отдельные коробки только с gpu и подключать их подобно дисковым полкам. Это поубавит головной боли при проектировании и обслуживании ЦОДов/машзалов под такие системы, позволит подключать больше GPU на один хост, или вообще организовать подключение этих ускорителей к большому числу хостов, например к виртуальной вычислительной инфрастуктуре (как SAN), и интерконнект между такими "графическими полками" также будет нужен.

Но не все одинаково полезны. Infiniband как раз из полезных)

это как понять то? вот пси-е будут использовать для нового протокола для совместной работы гпу и любых вычислителей и цпу в одной связки... а изначально то таких функций предусмотрено не было и протокола не было... так в чем проблема для нв линка замутить протокол? еще раз нв линк это точка точка она прекрасно должна понимать хосты уже даже по этому параметру. если она сейчас понимает только один хост это всего лишь ограничение нынешней реализации.

и получать тормоз на тормозе. у меня даже простенькие вычисления на 1 видеокарте отжирают 10-15% пси-е 3.0 сколько сожрет массив тесел штук так из 10 мне страшно представить и главное про латентность таких соединений мы конечно забудем.

мечта конечно хорошая правда провальная напрочь.

О чем спорт то ? Покупка уже свершилась, можно сказать. Направление датацентров у Nvidia на втором месте по доходам, после игровых видеокарт.
Mellanox имеют самое прямое отношение к датацентрам.