5090 обладает хорошим потенциалом для снижения энергопотребления при минимальном влиянии на производительность.
В отдельных случаях производительность может быть немного лучше стоковых значений.
Основная цель данного процесса – повысить эффективность энергопотребления ВК при минимальном влиянии на производительность относительно заводских настроек.

ВАЖНО:
Любые манипуляции со значениями частот/напряжения могут приводить к нестабильности.
Необходимо все тщательно тестировать и держать в уме, что даже хорошо протестированная кривая частот/напряжения может «вылететь». На мой взгляд, данный риск оправдан, т.к. речь в 99,99% случаев идет про игры.
Необходимость в снижении энергопотребления таким способом вы определяете самостоятельно. Не следует делать его по принципу "все побежали и я побежал".

Отличный материал по теме:
- YouTube (оригинал) / пост автора видео на reddit
- Rutube (перезалив)

В процессе спора про корректность использования понятия "андервольт" (в том или ином контексте) камрад Alex TOPMAN выдал полезную информацию о связи частоты/вольтажа.

Оригинал сообщения (рекомендуется к прочтению): ссылка

Отредактировано, чтобы читалось как самостоятельное сообщение:


Пошаговая инструкция по оптимизации кривой для увеличения производительности (на базе поста и лс) :

0. Необходимо задрать левую часть кривой повыше - выбираем любую крайнюю правую точку, зажимаем Ctrl и тянем вниз, тем самым поднимая левую часть кривой.
Без разницы, за какую точку тянуть, но здесь лучше задрать самую левую часть повыше (но, карта всё равно будет сбрасывать её до некоего потолка, который на кривой превысить просто не получится).
90% обычных пользователей обойдутся без опционального пункта 0 и будут двигать всю кривую только альтом.
Но, тех, кто захочет выжать из карты побольше потенциала, ждёт ловушка из-за небольшой дельты запаса потенциала в правой части, по сравнению с левой.

1. Выбираем любую точку, зажимаем Alt и поднимаем всю кривую пока в какой-то точке не потеряется стабильность.
Стабильность в каждой точке тестируем прогоном ОССТ 3D Adaptive с настройкой от 10 до 100% с шагом 10%, смена шага через 20 секунд (не меньше, но можно и дольше - по желанию).

2. После того, как курва предельно поднята, но все точки частота/напряжение сохраняют стабильность (=успешно прошли весь указанный выше ОССТ тест),
нам достаточно пристреляться лишь по верхней точке (показываемые частота/напряжение при 10% нагрузки в тесте) и нижней (100% нагрузки) - на остальных точках стаб мы получим автоматом в 95% случаев (если не ковыряли отдельные точки вверх руками).
"Пристреляться" = поднял всю курву через альт или погнул её через ctrl - потестировал. Тест проходит - поднял/погнул ещё. Нашёл, где стабильность потерялась - опустил всю курву до стабильного значения "нестабильной" точки и запомнил её - её больше превышать нельзя. Далее пробуем гнуть противоположную часть кривой, чтобы понять, какой запас остался там.
Другими словами: цель = найти нестабильную частоту для напряжения 1,1в (у кого-то 1,075в или около того и выше не поднимется) в тесте 10% нагрузки и спустить её на 15-30 МГц до стабильности. Запомнить. Затем найти такую же точку при 100% нагрузки (например, у кого-то это будет 2400 и 0,85в). Запомнить. Далее, нужно минимально простыми манипуляциями со всей курвой целиком поднять и наклонить всю кривую так, чтобы она проходила через две точки, что мы ранее запомнили.

3. После этого можно ещё дополнительно залочить по кнопке L любую желаемую максимальную точку (сам я ставлю L на точке 1.1в) - для гарантии. А чтобы карту в моменте не бустили ещё выше какие-то её внутренние алгоритмы, можно через выделение с шифтом всех точек далее L вместе с точкой L, выровнять их в ровное плато: выделяем, жмём шифт-ентер на первой (левой, которая у меня L) из выделенных точек, видим значение её частоты (нашего будущего потолка) с возможностью её редактирования ручками, жмем просто ентер (="применить значение для всех выделенных точек"). Остальные точки сами выровняются по введённому значению. И тогда даже сняв лок по L, частота в нагрузке уже никогда не уйдёт выше выбранной нами верхней желаемой частоты и минимального по курве напряжения для неё.

Видео от Алекса (просто пример, какие инструменты нам понадобятся, чтобы достичь результата минимумом действий): https://youtu.be/wzc85dbfpnM?feature=shared

Если требуется, можно дружно попросить записать Алекса более подробное видео, где будет симулирован весь процесс настройки у рядового юзера.

ВАЖНО: Вы можете задаться вопросом: а зачем оно мне надо, если "ползунковый" разгон у меня прекрасно работает. Ответ: работает - не трогай! Но если хочется глубже изучить тему и выжать максимум, то это хорошая отправная точка.

Дисклеймер:
1/ длительное обсуждение водяного охлаждения для 5090 является оффтопом, для этого есть отдельная тема;
2/ к сожалению, особенности личности камрада Alzov несовместимы с правилами этого форума, поэтому он забанен. Тем не менее, отрицать наличие у него определенных компетенций глупо. Свои вопросы, если они появятся, вы можете задать в его тг канале.

ВОПРОС: ссылка на сообщение


ОТВЕТ: ссылка на сообщение

LocalScore — это инструмент для бенчмаркинга с открытым исходным кодом, предназначенный для измерения скорости работы больших языковых моделей (LLM) на конкретном оборудовании. Он также является общедоступной базой данных результатов бенчмарков.

Независимо от того, задаетесь ли вы вопросом, сможет ли ваш компьютер без проблем запустить модель с 8 миллиардами параметров, или пытаетесь решить, какую видеокарту купить для вашей локальной системы искусственного интеллекта, LocalScore предоставит вам данные, необходимые для принятия обоснованных решений.

Результаты бенчмарков предназначены для непосредственного сравнения друг с другом. Они также должны давать достаточно хорошее представление о том, какую производительность в реальных условиях вы можете наблюдать на своем оборудовании. К сожалению, набор бенчмарков не может охватить все возможные сценарии (спекулятивное декодирование и т. д.), но он должен дать приблизительное представление о том, насколько хорошо будет работать ваше оборудование.

LocalScore измеряет три ключевых показателя эффективности для оценки результативности работы местных программ LLM.

Скорость оперативной обработки: Как быстро ваша система обрабатывает входной текст (токенов в секунду)
Скорость генерации: Как быстро ваша система генерирует новый текст (токенов в секунду)
Время до получения первого токена: задержка до появления первого ответа (миллисекунды)
Эти показатели объединяются в единый показатель LocalScore , что позволяет легко сравнивать различные конфигурации оборудования.

Оценка в 1000 баллов считается отличной, 250 — удовлетворительной, а оценка ниже 100, скорее всего, будет означать плохой пользовательский опыт в каком-либо аспекте.

В основе LocalScore лежит использование Llamafile , обеспечивающего переносимость между различными системами, что делает тестирование производительности доступным независимо от вашей конфигурации.

#77 #77

при 600Вт дельта около 9 градусов