loriy в любом случае стоит снять и разобрать водоблок
отсутствие внутренней резинки на херткиллере даёт +7+8 градусов с аквой думаю ситуация +- такая-же
заодно и прижим проверите... ну и наличие мусора какого

насчёт крепежа имейте ввиду что у сокета АМ4-5 отверстия хоть и сквозные но резьба там 6/32" или 6#-32
близко к метрической М3.5
такие винты в магазине не купиш... только заказывать с али или озона/ямаркета
ну или из комплекта какого куллера/водоблока/корпуса добыть можно такая-же резьба у стоек поддона материнки, Ж/Д

либо высверливать родную резьбу из бэка и пропускать насквозь винты/болты М4
либо разбирать каретку сокета снимать её и родной бэк и пропускать крепёж сквозь отверстия в материнке (тут придётся делать новый бэк) что при наличии родного в качестве трафарета для разметки - не сложно.

если с водоблоком всё ОК то может помоч набор крепления с офсетом (сдвигом центра водоблока к чиплету с основными ядрами)
либо его самостоятельное изготовление (средне сложно)
эффект от незначительного до весомого (-3 -10)

ну и скальп, тут уже гарантированно -10 -20 градусов

в конце же самое простое, зажать лимиты или в ручную задать напряжения и потолок буста (так можно ужать температуру хоть до 60 ценой падения производительности само собой)

насчет помп: Д5 или ДДС не желательно эксплуатировать на низких оборотах для Д5 это ниже 3й скорости (3300об/мин) не совсем понятно что вы подразумевали под 30% ведь у Д5 минималка 1800об/мин а это 37% от максимума в 4800 об/мин
если вам это громко, то нужны резино металлические буфферы, усиление корпуса в месте установки битумной шумкой и толстой стальной пластиной.

Корпус какой кстати вы не написали...

loriy для Д5 2я скорость это 2550-2600об мин или 54% от МАХ (4800об/мин) это конечно малова-то, но не критично если контур не сложный собсно потому она у вас столько лет и проработала

хз что там показывает аквовский софт, но по железу Д5 некст - это та-же самая Д5 PWM но с доп примочками
3400об/мин это 70% от мах... или р-н 3й скорости у варио, эт так информация к слову, не все % одинаково %, походу условные 1800об/мин у аквы от чего то взяты за ноль% м.б. в настройках это дело можно поменять.

корпус - ну сильно на любителя конечно, но уж точно проблем с вентиляцией не имеет, пара 240 радиаторов - это мало, но не критически мало
насчет причин высоких температур...
точно нигде нет "узких мест" ? длинной резьбы фитинга перекрывающей канал, фильтра со смешным поперечным сечением, пережатый шланг...
или например воздушная подушка в верхнем радиаторе или иные проблемы... всё-же фото системы в сборе не помешало-бы, особо интересен сток в резервуар если его можно наблюдать визуально
наверняка затык - что-то не очевидное или наоборот на столько банальное что и не подумаешь в ту сторону...

в норме должна быть струя 10мм в диаметре, если-же узкая струйка - то где-то в контуре проблема.
всё-же по симптомам похоже на общую проблему контура (60 для 5080 на воде - много)

и да что там за термопаста и как выглядит отпечаток? м.б. паль?

loriy все как я и писал - на 3д вообще без разницы что ставить, любой топовый блок будет работать нормально.
90-=95 в стрессе на не очень настроенной проце ок, тем более, что у тебя ВК в контуре под нагрузкой.
Чуда не будет без стачивания крышки или ДД блока.

Если стрессить только видеокарту, она прогревает воду где-то на 8-9 градусов. А если проц отдельно - то только на 2-3 градуса.. Да и водоблок еле теплый на нем если пальцами проверять. Например бекплейт на видяхе такой температуры что пальцы держать на нем можно, но не комфортно.

хз тогда куда копать... явных проблем не видно

режте лимиты камню и/или скальпируйте его, в принципе можно воткнуть курву на - 25 -30 и лимит температуры скажем 80 и успокоится
либо как в старые добрые подбирать такой потолок в мгц и фиксированное напряжение при которых камень будет стабильно работать и не долбится в сотку при нагрузке (аккуратно это отрубает часть защит)

мне казалось что 8ми ядерный камень да ещё и следующего поколения должен быть не такой адовой печкой как мой 7950х но видимо это не так =( вернее не на столько как я думал так...
мой то при скальпе, установке ватера через ЖМ и со сдвигом перестал долбится в 95 по любому поводу и это в контуре на 2х Д5 и 420 море (вкрата в другом контуре)
либо требовалось урезание частоты до 5400 и напруги на 0.125в всё при той-же овер избыточной СВО

Проц райзен 9800x3d в стресстестах температура 95 градусов

150вт для 9800х3д это много. Для такого стресс теста 90 градусов это норма.

видеокарта 4090 =360Вт, процессор 9800х3д = 110Вт, вода 30 градусов.

Проблема явно в водоблоке проца была, я добавлял мощи вентиляторам и жижа в районе 28 градусов была, а темпа проца поднималась и поднималась. А темпа жижи не росла практически. С 26 простоя до 28.5 поднялась, а проц уже 92 стал. И водоблок трогаешь руками он даже не особо теплый, не то что горячий..

У вас радиатор на улице? Или в комнате градусов 16-18??? плюс - если верить корсару - у вас 600Вт в системнике "греется".

araku1 на фото еще не забит, "а еще норм" благо у меня 4й херт и у него прямые каналы и всё если оседает то сверху я сказывается когда уже мусора прям много... (обычно не довожу да и фильтр спасает)

по тепло пакету: помпы по 40 ватт вертушки в сумме еще 10 + ЖД + ССД от они 100ватт и набегаают

промывать и перебирать ВСЁ

ну что я скажу разбирать промывать и перебирать ВСЁ м.б. водоблок ВКарты подзабит, может где в топе помпы кусок облоя закрывает просвет...
может какое-то соединение перекрывать поток хз короче
каждую часть по отдельности проверять на продуваемость, потом отдельно скидывать на столе контур, добавляя по одной запчасти пока контур не станет резко хуже продуватся... тем самым изоблечив проблемный узел.

Ну не должен водоблок быть еле теплым

Да не тут точно что-то не так. Если стрессить только видеокарту, она прогревает воду где-то на 8-9 градусов. А если проц отдельно - то только на 2-3 градуса.. Да и водоблок еле теплый на нем если пальцами проверять. Например бекплейт на видяхе такой температуры что пальцы держать на нем можно, но не комфортно.