Часовой пояс: UTC + 3 часа




Куратор(ы):   MegaCalcii   



Начать новую тему Новая тема / Ответить на тему Ответить  Сообщений: 2438 • Страница 49 из 122<  1 ... 46  47  48  49  50  51  52 ... 122  >
  Пред. тема | След. тема 
В случае проблем с отображением форума, отключите блокировщик рекламы
Автор Сообщение
 
Прилепленное (важное) сообщение

Куратор темы
Статус: Не в сети
Регистрация: 16.08.2007
Откуда: Красноярск
Сборка общекомандной кранчерской системы.

Сбор денег:
Перечисления делаем в кассу команды. В комментариях к платежу желательно указывать свой ник в форуме.
Перечислять можно любую сумму в рублях начиная со 100 и заканчивая вашей фантазией.

Сбор средств на сервер пока не актуален, но вклад в другие общекомандные траты всегда приветствуется. :old_smile:

Командный сервер. Версия 1.0 (почил в бозе)
Проектная спецификация
1. Supermicro H8QGi+-F. Ориентировочная стоимость $800-900.
2. 4*Opteron 6272. Ориентировочная стоимость $600 за штуку (с учётом доставки в Россию).
3. 4*Thermaltake CLS0017. Средняя стоимость в России 1440 рублей за штуку.
4. AirTone GF-9100B. Ориентировочная стоимость 3790 рублей.
5. Corsair CMPSU-1200AX 1200W (есть незадействованный у tguskill'а).
6. Kingston KVR1333D3N9/4G. Ориентировочная цена 660 рублей за одну планку. Восемь планок - 5280 рублей.
7. Есть рапторы по 300 гигов, Hil согласился нам их предоставить.
ИТОГО: ~113000 р.
Фактическая конфигурация и расходы: писал(а):
1. Материнская плата Supermicro H8QGI-F: 1 шт. 30/12/2011 (29 880 р.)
2. Процессоры AMD Opteron 6174: 2 шт. 19/12/2011 (32 301,43 р.) + 1 шт. 19/03/2012 (15307,89 р.) + 1 шт. 25/03/2012 (13422,21 р.)
3. Кулеры Thermaltake CLS0017: 2 шт. 30/12/2011 (2 680 р.) + 2 шт. 12/04/2012 (3000 р.)
4. Корпус AirTone GF-9100B. (3800 р.)
5. Блок питания Corsair CMPSU-1200AX 1200W: 1 шт. 31/12/2011 предоставлен tguskill'ом
6. Оперативная память Samsung original M378B5273CH0-CH9: 5 шт. + M378B5273DH0-CH9: 3 шт. 29/12/2011 (5 255,72 р.) + Samsung original 8 шт. 12/04/2012 (5270 р.)
7. 300 GB WD VelociRaptor: 2 шт. 31/12/2011 предоставлены Hil'ом
ИТОГО: 110917,25 р.


Фотографии
http://forums.overclockers.ru/viewtopic ... 6#p9567746

Конфигурация нового сервера версия 2.0
Цитата:
Материнская плата ASUS Rampage IV Black Edition Socket 2011 ASUS X99-E WS Socket 2011-3ASUS RAMPAGE V EXTREME: 1 шт.
Процессор Intel Core i7 3930k(3.2 Ghz) Intel Core i7 5820K(3.6 Ghz)Intel Core i7 5930K(3.7 Ghz) : 1 шт.
Вентилятор для процессора Noctua NH-D14 : 1 шт.
Оперативная память Kingmax 4096 MB DDR3 AMD 4GB DDR4 2133 Mhz Crucial CT4G4DFS8213 : 2 шт. + 2 шт. 09.09.2015
Видеокарты: Palit GTX970 JetStream + MSI GTX 970 4GD5 OC + Gigabyte GTX970 GV-N970G1 GAMING-4GD x 3 шт.
Корпус : Ascot 98R9-SB : 1 шт.
Блок питания Corsair RM1000 1000W SeaSonic Electronics X-1250(SS-1250XM Active PFC) 1250W 15.04.2015г.Corsair HX1000i 1000W: 1 шт. 09.09.2015
Жесткий диск Western Digital VelociRaptor WD5000HHTZ SATA 500GB Plextor PX-G256M6e Intel SSDSA2CW120G3K5 : 1 шт.

Конфигурация сервера версия 3.0 от 23.10.2015
Цитата:
Материнская плата ASUS RAMPAGE V EXTREME: 1 шт.
Процессор Intel Core i7 5930K(3.7 Ghz) : 1 шт.
Вентилятор для процессора Noctua NH-D14 : 1 шт.
Оперативная память Crucial CT4G4DFS8213 : 2 шт. + 2 шт. 09.09.2015
Видеокарты: ZOTAC GeForce GTX 980 Ti AMP! 1051Mhz x 2 шт.
Корпус : Ascot 98R9-SB : 1 шт.
Блок питания [url]Corsair HX1000i 1000W[/url]: 1 шт. 09.09.2015
Жесткий диск Intel SSDSA2CW120G3K5 : 1 шт.

Конфигурация сервера версия 4.0 от 25.12.2016
Цитата:
Материнская плата ASUS RAMPAGE V EXTREME: 1 шт.
Процессор Intel Core i7 5930K(3.7 Ghz) : 1 шт.
Оперативная память Crucial CT4G4DFS8213 : 2 шт. + 2 шт. 09.09.2015
Видеокарты: Nvidia GeForce GTX 1080 x 4 шт.
Корпус Thermaltake Core X71 Black (CA-1F8-00M1WN-00) - 1 шт.
Блок питания Corsair AX1200: 1 шт.
Жесткий диск Intel SSDSA2CW120G3K5 : 1 шт.

Конфигурация СВО:
Цитата:
1. Корпус Thermaltake Core X71 Black (CA-1F8-00M1WN-00) - 1 шт. - 9 930 руб.
2. Водоблок GPU EK-FC1080 GTX - Nickel - 4 шт. 7 228 руб. x 4 = 28 912 руб.
3. Водоблок CPU EK-Supremacy MX - 1 шт. - 3 136 руб.
4. Радиатор EK-CoolStream CE 420 (Triple) 1 шт. - 7 088 руб.
5. Радиатор Coolgate Copper Radiator Dual 140/60mm thick/G1/4" Fillport 5x G1/4" Threads - 1 шт. - 5 368 руб. Aquacomputer Airplex Modularity System 280 Radiator - Aluminum Fins - Dual Circuit - 1 шт. 0 руб. (вклад от anwjl)
6. Помпа EK-XRES 100 DDC 3.2 PWM Elite (incl. pump) - 1 шт. - 8 977 руб.
7. Соединительный мост для 4х карт GPU EK-FC Terminal QUAD Semi Parallel - 1 шт. - 2 033 руб.
8. Фитинг EK-ACF Fitting 10/13mm - Nickel - 12 шт. 317 руб. x 12 = 4 452 руб.
9. Вентиляторы 140 мм Arctic Cooling F14 1300 об/мин - 5 шт. 580 руб. x 5 = 2 900 руб.
10. Шланг TUBE PrimoChill PrimoFlex™ Advanced LRT™ 12,7 / 9,5mm - Crystal Clear (PFLEXA-12) - 2 шт. 424 руб. x 2 = 848 руб.
11. Угловой фитинг под 45 градусов EK-AF Angled 45° G1/4 Nickel - 4 шт. - 356 x 4 = 1 424 руб.
12. Угловой фитинг под 90 градусов EK-AF Angled 2×45° G1/4 Nickel - 2 шт. 637 руб. x 2 = 1 274 руб.
13. Хаб для вентиляторов Thermaltake Commander FP (AC-023-AN1NAN-A1) на 10 вентиляторов - 1 шт. - 1 240 руб.
14. 5 литров дистиллированной воды - 5 шт. - 50 руб. x 5 = 250 руб.
Итого: 9 930 + 28 912 + 3 136 + 7 088 + 0 + 8 977 + 2 033 + 4 452 + 2900 + 848 + 1424 + 1 274 + 1 240 + 250 = 72 464 руб.

Статистика сервера:
Официальная stanford.edu
folding.extremeoverclocking.com
#77

Фотографии сервера
Вложение:
2016-12-07 21.30.JPG
2016-12-07 21.30.JPG [ 2.14 МБ | Просмотров: 75011 ]
Вложение:
Комментарий к файлу: TcsServ1
2016-12-25 10.53.JPG
2016-12-25 10.53.JPG [ 2.47 МБ | Просмотров: 75011 ]


Последний раз редактировалось MegaCalcii 25.12.2016 21:26, всего редактировалось 47 раз(а).
Конфигурация сервера версия 4.0 от 25.12.2016



Партнер
 

Member
Статус: Не в сети
Регистрация: 31.05.2006
Откуда: Королёв МО
На восьми сокетной системе отключил ECC, т.к. немного уменьшает скорость, но проблем нет. Помимо ECC на модулях стоят буферы, чтобы больше модулей на канал устанавливать.

Может тайминги не подходят для корректной работы?

PS C моим парком около сотни серверов ошибки ECC очень редки.

_________________
IT, RC или просто блог моих интересов www.krohpit.ru


 

Member
Статус: Не в сети
Регистрация: 06.07.2004
Откуда: РФ
Фото: 6
deelayka писал(а):
128Гб там предел для не-ECC - 32 штуки по 4Гб

Да, интегрированный контроллер оперативной памяти - это вещь. Четыре процессора = 16 каналов на память. У нас получается по модулю на канал.

Kensei
Я и не пугаю :) Зачем мне?

Behc
В фцен тре. Там с гарантийкой хорошо.

ToEst
:) мне везло с SEC

Добавлено спустя 6 минут 15 секунд:
Я смотрю, 6901 досчиталось штатно и слилось. Давайте-ка я запущу пока мемтест...

Добавлено спустя 12 минут 3 секунды:
Попёр memtest86+ v 4.20

Добавлено спустя 57 секунд:
Так, он нам показывает режим работы памяти:
666 MHz 9-9-9-24

_________________
It's dolomite, baby! (c)


 

Member
Статус: Не в сети
Регистрация: 02.02.2010
Откуда: Пермь
targitaj писал(а):
Вы вообще соображаете, что ВОСЕМЬ планок памяти без технологий проверки\коррекции в одной системе - это как бы сильно дохрена?
В принципе? Да ХЗ. 6 конечно не 8, но шесть Samsung SEC M378B5273DH0-CH9 по 4Gb на профильном без проблем работали. Даже под несильным разгоном. Тесты на ошибки тоже без проблем проходили. Сейчас вынул три - для хорошего разгона памяти напряг на контроллер нужно дико задирать.

Hazord писал(а):
Может оптероновский контроллер памяти обиделся на то что ему вместо положеной REG/ECC памяти подсунули плашки за 600р? :D
Ты знаешь G.SKILL Ripjaws X планки с ECC?
2.3Mb
"2P"
#77
#77
#77

"4P"
#77
#77
#77
Его лог для 2P. Считает 6904 на 4P:
4 x 6174 - P6904 - 20:28 - 468,797.85 PPD - 550w

_________________
Распределенные вычисления - http://tscrussiateam.ru/
Форум нашей команды - http://forums.overclockers.ru/viewforum.php?f=21


Последний раз редактировалось noname2 09.01.2012 17:47, всего редактировалось 1 раз.

 

Member
Статус: Не в сети
Регистрация: 06.07.2004
Откуда: РФ
Фото: 6
noname2
Жаль, на фото не видно сколько доп питания подключено.

Добавлено спустя 20 минут 13 секунд:
http://www.google.ru/search?ie=UTF-8&hl ... 66&bih=667 гм...
http://www.google.ru/search?ie=UTF-8&hl ... 66&bih=667

_________________
It's dolomite, baby! (c)


 

Member
Статус: Не в сети
Регистрация: 05.10.2010
Откуда: ЮБутово;Лип.Обл
targitaj писал(а):
Жаль, на фото не видно сколько доп питания подключено
раз оно есть - значит нужно втыкать. лучше чтоб воткнуто, но без потребителей, чем если потребители есть - а питалова мало. лишнего не возьмёт :)


 

Member
Статус: Не в сети
Регистрация: 02.02.2010
Откуда: Пермь
perest писал(а):
раз оно есть - значит нужно втыкать
Не всегда так. Показать на сlassified E760 два 8-pin или на asus RIIIF 4-pin Molex для PCI-E? :old_wink:

targitaj
И что это значит? Расшифровывай.

_________________
Распределенные вычисления - http://tscrussiateam.ru/
Форум нашей команды - http://forums.overclockers.ru/viewforum.php?f=21


 

Member
Статус: Не в сети
Регистрация: 06.07.2004
Откуда: РФ
Фото: 6
noname2
Гугл не знает о проблемах с 6903 на debian, если я всё правильно понял. Зато знает о багах с NUMA.

_________________
It's dolomite, baby! (c)


 

Member
Статус: Не в сети
Регистрация: 02.02.2010
Откуда: Пермь
MegaCalcii писал(а):
Статистика сервера:
http://www.hardfolding.com/fh_stats/ind ... id=7975580 можно добавить. Устанешь изучать статистику. :old_biggrin:
XCPUS ещё был, но сдох, гад.

_________________
Распределенные вычисления - http://tscrussiateam.ru/
Форум нашей команды - http://forums.overclockers.ru/viewforum.php?f=21


 

Member
Статус: Не в сети
Регистрация: 09.07.2008
Откуда: Золотая миля.
noname2 писал(а):
MegaCalcii писал(а):
Статистика сервера:
http://www.hardfolding.com/fh_stats/ind ... id=7975580 можно добавить. Устанешь изучать статистику. :old_biggrin:
XCPUS ещё был, но сдох, гад.

Не в тему, но:
Так........блин, :-x не буду говорить кого, но меня не поздравили со 130 лимонием. :-)

_________________
Так-то оно так, потому как не может того быть, кабы не было бы никак. И не потому, что оно вообще, а потому, что когда оно что, тогда оно и пожалуйста


 

Member
Статус: Не в сети
Регистрация: 28.08.2006
Откуда: Рязань
miklebat
Поздравляю, пивас...мир...дружба...А что сейчас, в отпуске?

_________________
suum cuique


 

Member
Статус: Не в сети
Регистрация: 09.07.2008
Откуда: Золотая миля.
Куба
Да обстоятельства изменились. Плюс отрубили всё к чёрту в фирме на эти "каникулы", завтра подключу жалкие остатки. Тыс. 50 ещё могём.

_________________
Так-то оно так, потому как не может того быть, кабы не было бы никак. И не потому, что оно вообще, а потому, что когда оно что, тогда оно и пожалуйста


 

Member
Статус: Не в сети
Регистрация: 31.05.2006
Откуда: Королёв МО
Вот что у меня Ubuntu выводит про NUMA - в каждой ноде память используется:
# numactl --hardware
available: 8 nodes (0-7)
node 0 cpus: 0 1 2 3
node 0 size: 4093 MB
node 0 free: 2707 MB
node 1 cpus: 4 5 6 7
node 1 size: 4096 MB
node 1 free: 3471 MB
node 2 cpus: 8 9 10 11
node 2 size: 4096 MB
node 2 free: 3494 MB
node 3 cpus: 12 13 14 15
node 3 size: 4096 MB
node 3 free: 3469 MB
node 4 cpus: 16 17 18 19
node 4 size: 4096 MB
node 4 free: 3529 MB
node 5 cpus: 20 21 22 23
node 5 size: 4096 MB
node 5 free: 3527 MB
node 6 cpus: 24 25 26 27
node 6 size: 4096 MB
node 6 free: 3507 MB
node 7 cpus: 28 29 30 31
node 7 size: 4096 MB
node 7 free: 3531 MB

Может 6903 нужно много памяти и начинаются проблемы при использовании из следующей ноды?
Я бы еще проверил частоту HyperTransport для связи между процами, у меня даже при небольшом увеличении от номинала система становилась нестабильной

_________________
IT, RC или просто блог моих интересов www.krohpit.ru


 

TSC! Russia Vice-captain
Статус: Не в сети
Регистрация: 21.03.2006
Откуда: Петербург
krohpit
6903 2Gb за глаза хватает.

_________________
Революционеров можно убить, идеи — никогда.


 

TSC! Russia member
Статус: Не в сети
Регистрация: 24.07.2004
Откуда: Yaroslavl
Фото: 32
miklebat
Цитата:
Так........блин, не буду говорить кого, но меня не поздравили со 130 лимонием

а это что тогда: - http://forums.overclockers.ru/viewtopic.php?p=8939870#p8939870 ???

_________________
Бег – искусство оставаться на месте


 

Member
Статус: Не в сети
Регистрация: 23.07.2006
Откуда: Москва
Фото: 0
Добавьте потом фотки зверя в шапку, когда будет файнал лук =)

_________________
i7-13700K / GTX 1080 Ti / AORUS Z790 Elite AX / 32GB DDR5-6600 / Samsung 980 PRO/ Define S / AX1200i


 

Member
Статус: Не в сети
Регистрация: 16.11.2005
Откуда: Klin
targitaj писал(а):
Зато знает о багах с NUMA

нума вкл? ну ее в сад, зачем она в фолдинге?

_________________
Don't panic!


 

Member
Статус: Не в сети
Регистрация: 06.07.2004
Откуда: РФ
Фото: 6
Мемтест проблемы не показал. Систему передать не получилось. Свернул и положил у Хила в офисе.

_________________
It's dolomite, baby! (c)


 

Member
Статус: Не в сети
Регистрация: 09.07.2008
Откуда: Золотая миля.
sco01
Как всегда, я что-то пропустил. :?: :beer:

_________________
Так-то оно так, потому как не может того быть, кабы не было бы никак. И не потому, что оно вообще, а потому, что когда оно что, тогда оно и пожалуйста


 

TSC! Russia ex-Captain
Статус: Не в сети
Регистрация: 13.07.2007
Фото: 0
Предлагаю для начала оставить в системе только планки одной ревизии. Может DH0 и СH0 конфликтуют так специфично.
Вторым делом предлагаю всё что есть доп питания подключить.
Ну и в-третьих попробовать другой дистрибутив.


 

Member
Статус: Не в сети
Регистрация: 05.10.2010
Откуда: ЮБутово;Лип.Обл
[kane]Enforce, мож лучше в обратном порядке?


Показать сообщения за:  Поле сортировки  
Начать новую тему Новая тема / Ответить на тему Ответить  Сообщений: 2438 • Страница 49 из 122<  1 ... 46  47  48  49  50  51  52 ... 122  >
-

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 5


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Перейти:  
Создано на основе phpBB® Forum Software © phpBB Group
Русская поддержка phpBB | Kolobok smiles © Aiwan