Часовой пояс: UTC + 3 часа




Куратор(ы):   MegaCalcii   



Начать новую тему Новая тема / Ответить на тему Ответить  Сообщений: 2438 • Страница 48 из 122<  1 ... 45  46  47  48  49  50  51 ... 122  >
  Пред. тема | След. тема 
В случае проблем с отображением форума, отключите блокировщик рекламы
Автор Сообщение
 
Прилепленное (важное) сообщение

Куратор темы
Статус: Не в сети
Регистрация: 16.08.2007
Откуда: Красноярск
Сборка общекомандной кранчерской системы.

Сбор денег:
Перечисления делаем в кассу команды. В комментариях к платежу желательно указывать свой ник в форуме.
Перечислять можно любую сумму в рублях начиная со 100 и заканчивая вашей фантазией.

Сбор средств на сервер пока не актуален, но вклад в другие общекомандные траты всегда приветствуется. :old_smile:

Командный сервер. Версия 1.0 (почил в бозе)
Проектная спецификация
1. Supermicro H8QGi+-F. Ориентировочная стоимость $800-900.
2. 4*Opteron 6272. Ориентировочная стоимость $600 за штуку (с учётом доставки в Россию).
3. 4*Thermaltake CLS0017. Средняя стоимость в России 1440 рублей за штуку.
4. AirTone GF-9100B. Ориентировочная стоимость 3790 рублей.
5. Corsair CMPSU-1200AX 1200W (есть незадействованный у tguskill'а).
6. Kingston KVR1333D3N9/4G. Ориентировочная цена 660 рублей за одну планку. Восемь планок - 5280 рублей.
7. Есть рапторы по 300 гигов, Hil согласился нам их предоставить.
ИТОГО: ~113000 р.
Фактическая конфигурация и расходы: писал(а):
1. Материнская плата Supermicro H8QGI-F: 1 шт. 30/12/2011 (29 880 р.)
2. Процессоры AMD Opteron 6174: 2 шт. 19/12/2011 (32 301,43 р.) + 1 шт. 19/03/2012 (15307,89 р.) + 1 шт. 25/03/2012 (13422,21 р.)
3. Кулеры Thermaltake CLS0017: 2 шт. 30/12/2011 (2 680 р.) + 2 шт. 12/04/2012 (3000 р.)
4. Корпус AirTone GF-9100B. (3800 р.)
5. Блок питания Corsair CMPSU-1200AX 1200W: 1 шт. 31/12/2011 предоставлен tguskill'ом
6. Оперативная память Samsung original M378B5273CH0-CH9: 5 шт. + M378B5273DH0-CH9: 3 шт. 29/12/2011 (5 255,72 р.) + Samsung original 8 шт. 12/04/2012 (5270 р.)
7. 300 GB WD VelociRaptor: 2 шт. 31/12/2011 предоставлены Hil'ом
ИТОГО: 110917,25 р.


Фотографии
http://forums.overclockers.ru/viewtopic ... 6#p9567746

Конфигурация нового сервера версия 2.0
Цитата:
Материнская плата ASUS Rampage IV Black Edition Socket 2011 ASUS X99-E WS Socket 2011-3ASUS RAMPAGE V EXTREME: 1 шт.
Процессор Intel Core i7 3930k(3.2 Ghz) Intel Core i7 5820K(3.6 Ghz)Intel Core i7 5930K(3.7 Ghz) : 1 шт.
Вентилятор для процессора Noctua NH-D14 : 1 шт.
Оперативная память Kingmax 4096 MB DDR3 AMD 4GB DDR4 2133 Mhz Crucial CT4G4DFS8213 : 2 шт. + 2 шт. 09.09.2015
Видеокарты: Palit GTX970 JetStream + MSI GTX 970 4GD5 OC + Gigabyte GTX970 GV-N970G1 GAMING-4GD x 3 шт.
Корпус : Ascot 98R9-SB : 1 шт.
Блок питания Corsair RM1000 1000W SeaSonic Electronics X-1250(SS-1250XM Active PFC) 1250W 15.04.2015г.Corsair HX1000i 1000W: 1 шт. 09.09.2015
Жесткий диск Western Digital VelociRaptor WD5000HHTZ SATA 500GB Plextor PX-G256M6e Intel SSDSA2CW120G3K5 : 1 шт.

Конфигурация сервера версия 3.0 от 23.10.2015
Цитата:
Материнская плата ASUS RAMPAGE V EXTREME: 1 шт.
Процессор Intel Core i7 5930K(3.7 Ghz) : 1 шт.
Вентилятор для процессора Noctua NH-D14 : 1 шт.
Оперативная память Crucial CT4G4DFS8213 : 2 шт. + 2 шт. 09.09.2015
Видеокарты: ZOTAC GeForce GTX 980 Ti AMP! 1051Mhz x 2 шт.
Корпус : Ascot 98R9-SB : 1 шт.
Блок питания [url]Corsair HX1000i 1000W[/url]: 1 шт. 09.09.2015
Жесткий диск Intel SSDSA2CW120G3K5 : 1 шт.

Конфигурация сервера версия 4.0 от 25.12.2016
Цитата:
Материнская плата ASUS RAMPAGE V EXTREME: 1 шт.
Процессор Intel Core i7 5930K(3.7 Ghz) : 1 шт.
Оперативная память Crucial CT4G4DFS8213 : 2 шт. + 2 шт. 09.09.2015
Видеокарты: Nvidia GeForce GTX 1080 x 4 шт.
Корпус Thermaltake Core X71 Black (CA-1F8-00M1WN-00) - 1 шт.
Блок питания Corsair AX1200: 1 шт.
Жесткий диск Intel SSDSA2CW120G3K5 : 1 шт.

Конфигурация СВО:
Цитата:
1. Корпус Thermaltake Core X71 Black (CA-1F8-00M1WN-00) - 1 шт. - 9 930 руб.
2. Водоблок GPU EK-FC1080 GTX - Nickel - 4 шт. 7 228 руб. x 4 = 28 912 руб.
3. Водоблок CPU EK-Supremacy MX - 1 шт. - 3 136 руб.
4. Радиатор EK-CoolStream CE 420 (Triple) 1 шт. - 7 088 руб.
5. Радиатор Coolgate Copper Radiator Dual 140/60mm thick/G1/4" Fillport 5x G1/4" Threads - 1 шт. - 5 368 руб. Aquacomputer Airplex Modularity System 280 Radiator - Aluminum Fins - Dual Circuit - 1 шт. 0 руб. (вклад от anwjl)
6. Помпа EK-XRES 100 DDC 3.2 PWM Elite (incl. pump) - 1 шт. - 8 977 руб.
7. Соединительный мост для 4х карт GPU EK-FC Terminal QUAD Semi Parallel - 1 шт. - 2 033 руб.
8. Фитинг EK-ACF Fitting 10/13mm - Nickel - 12 шт. 317 руб. x 12 = 4 452 руб.
9. Вентиляторы 140 мм Arctic Cooling F14 1300 об/мин - 5 шт. 580 руб. x 5 = 2 900 руб.
10. Шланг TUBE PrimoChill PrimoFlex™ Advanced LRT™ 12,7 / 9,5mm - Crystal Clear (PFLEXA-12) - 2 шт. 424 руб. x 2 = 848 руб.
11. Угловой фитинг под 45 градусов EK-AF Angled 45° G1/4 Nickel - 4 шт. - 356 x 4 = 1 424 руб.
12. Угловой фитинг под 90 градусов EK-AF Angled 2×45° G1/4 Nickel - 2 шт. 637 руб. x 2 = 1 274 руб.
13. Хаб для вентиляторов Thermaltake Commander FP (AC-023-AN1NAN-A1) на 10 вентиляторов - 1 шт. - 1 240 руб.
14. 5 литров дистиллированной воды - 5 шт. - 50 руб. x 5 = 250 руб.
Итого: 9 930 + 28 912 + 3 136 + 7 088 + 0 + 8 977 + 2 033 + 4 452 + 2900 + 848 + 1424 + 1 274 + 1 240 + 250 = 72 464 руб.

Статистика сервера:
Официальная stanford.edu
folding.extremeoverclocking.com
#77

Фотографии сервера
Вложение:
2016-12-07 21.30.JPG
2016-12-07 21.30.JPG [ 2.14 МБ | Просмотров: 74949 ]
Вложение:
Комментарий к файлу: TcsServ1
2016-12-25 10.53.JPG
2016-12-25 10.53.JPG [ 2.47 МБ | Просмотров: 74949 ]


Последний раз редактировалось MegaCalcii 25.12.2016 21:26, всего редактировалось 47 раз(а).
Конфигурация сервера версия 4.0 от 25.12.2016



Партнер
 

TSC! Russia ex-Captain
Статус: Не в сети
Регистрация: 13.07.2007
Фото: 0
Да, кривенько пошло :(

Предлагаем варианты установки. Нужен ли рэйд, какую ОС ставить и т.д. Как наберётся несколько вариантов, так голосование устроим.


 

TSC! Russia Vice-captain
Статус: Не в сети
Регистрация: 21.03.2006
Откуда: Петербург
tguskill
tguskill писал(а):
Повторюсь, я поставил серверную убунту, и все работает как часы в круглосуточном режиме уже больше 2 месяцев.
Так я ж не возражаю. Надеюсь ты в курсе, что Ubuntu - это не Unix-way. :old_lol:
В конце-концов там два винчестера! Хочет targitaj ерундой страдать и вылизывать систему - пусть страдает на другом компьютере на втором винчестере. А на первый поставить (точнее ладе развернуть через dd) и пусть считает, а не EUE ловит.

Добавлено спустя 1 минуту 39 секунд:
Кстати, если у тебя система нормально стоит и считает, то её спокойно можно через dd скопировать на чистый винчестер. Потом после загрузки в безопасном режиме останется только поменять имя компьютера в системе и Samba (если она стоит) и вперёд.

_________________
Революционеров можно убить, идеи — никогда.


 

Member
Статус: Не в сети
Регистрация: 08.08.2003
Откуда: Москва
Behc
Короче, завтра сервак окажется у меня в офисе, наверное, разверну с нуля в софт-рэйде убунту серверную. Какие службы поставить? кроме ssh надо что?


 

TSC! Russia ex-Captain
Статус: Не в сети
Регистрация: 13.07.2007
Фото: 0
tguskill ЭТО СПАМ - ОТПРАВЬТЕ ЖАЛОБУ (синий квадрат).


 

TSC! Russia Vice-captain
Статус: Не в сети
Регистрация: 21.03.2006
Откуда: Петербург
tguskill
По-моему, от RAID в данном случае кроме лишнего геморроя никакой пользы, смотри сам в общем.
Кроме SSH ещё нужно NTPd поставить, чтобы время синхронизировалось. И Samba, если будешь мониторить по сети.

_________________
Революционеров можно убить, идеи — никогда.


 

TSC! Russia ex-Captain
Статус: Не в сети
Регистрация: 13.07.2007
Фото: 0
Behc писал(а):
Так я ж не возражаю. Надеюсь ты в курсе, что Ubuntu - это не Unix-way. :old_lol:
В конце-концов там два винчестера! Хочет targitaj ерундой страдать и вылизывать систему - пусть страдает на другом компьютере на втором винчестере. А на первый поставить (точнее ладе развернуть через dd) и пусть считает, а не EUE ловит.
Вообще это конечно мой просчёт. Я изначально не определил круг задач, как например это было с кулерами :bandhead:

Предлагаю обойтись без рэйда, серверной убунтой + SSH (с пробросом портов) + ЭТО СПАМ - ОТПРАВЬТЕ ЖАЛОБУ (синий квадрат).

Добавлено спустя 12 минут 43 секунды:
Надо с корпусом определяться.


 

Member
Статус: Не в сети
Регистрация: 06.07.2004
Откуда: РФ
Фото: 6
DayWalker писал(а):
может там с памятью чего?

О, нашелся человек, который верхней головой думает.

Я не понял, про какой такой рейд речь идет? Какое такое вылизывание системы? Что за фантазии? Вы что там принимаете? Я же еще на этапе сборки пришел к решению отказаться пока от рейда. Установлена система с ОФИЦИАЛЬНОГО СТАБИЛЬНОГО нетинстала на ОДИН винт. Ничего лишнего не ставилось. Только базовые утилиты + SSH. Систему вообще никто не трогает. Некому. Один раз было запущено и потом только мониторилось. Какие, нафиг, игрушки? Я тут вообще есть в наличии для этого?

6901 считается нормально. 6903 сыпется. Думаем над причиной. Потребление памяти у задач одинаковое? Или у 6903 больше? Я не в курсе. В чем разница между заданиями? Обращаю внимание, что 6903 сыпется сразу при старте. То есть, я так понимаю, при развертывании в оперативной памяти. Именно 6903, с 6901 я проблемы не вижу.
Я думаю, что-то с памятью. Или банально сбоит банк или нужен специфичный пакет\драйвер для NUMA, если он существует. Надо погуглить. Кстати, вполне возможно, что в убунте такой пакет идет в базе, если он вообще в природе существует. Это нормально, на убунте отрабатывают все инновации. Если в убунте с пакетом всё хорошо, то его могут включить в дебиан. А могут и не включить...
Вы вообще соображаете, что ВОСЕМЬ планок памяти без технологий проверки\коррекции в одной системе - это как бы сильно дохрена? Нет, в голову такое не приходило? А это дохрена. Надо мануал глянуть, как бы там 32 гигибайта без таких технологий вообще пределом для системы не оказалось.

Предлагаю первым делом после передачи системы погонять мемтест. Какой там, нахрен, ЭТО СПАМ - ОТПРАВЬТЕ ЖАЛОБУ (синий квадрат) может быть при нестабильности системы в штатном режиме. Вы вообще о чем? Первое правило отлова багов - убери всё лишнее. Вот будет молотить стабильно - вот тогда и о допиле можно подумать.

Перезапустил 6901 с ключем -oneunit. Как раз к утру досчитает.

_________________
It's dolomite, baby! (c)


 

Member
Статус: Не в сети
Регистрация: 27.11.2011
Откуда: Киров
Ак может в количестве и дело, ведь одна из задач регистров в регистровой памяти - снижение токовой нагрузки сигнальных цепей, за счет чего и обеспечивается бОльшее число слотов памяти в серверных м.п. в отличии от одомашненых собратьев. Может оптероновский контроллер памяти обиделся на то что ему вместо положеной REG/ECC памяти подсунули плашки за 600р? :D


 

Member
Статус: Не в сети
Регистрация: 06.07.2004
Откуда: РФ
Фото: 6
Hazord
Вообще, стоит SEC, так что надежда на стабильность была изначально.

О, я вижу, что ничего на форуме про рейд не отписал. Точно. Это же мы в асе решили забить на рейд. С этим вопросом ясно. Ребята, нет рейда. Я столкнулся с тем, что система его не видит и не стал с ним заморачиваться. Не отписал, извиняйте. Не до того было.

Добавлено спустя 9 минут 38 секунд:
[01:42:17] Completed 188435 out of 250000 steps (75%)
[01:51:34] Completed 190000 out of 250000 steps (76%)
[02:06:26] Completed 192500 out of 250000 steps (77%)
[02:21:14] Completed 195000 out of 250000 steps (78%)

6901 молотит просто "на ура". "Что-то не то". Здесь пахнет неправильными пчелами. Надо память гонять.

Mem: 33013588k total, 1898420k used, 31115168k free, 51232k buffers
Swap: 31250424k total, 0k used, 31250424k free, 296984k cached

PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
2175 root 39 19 2567m 1.3g 3120 S 2398 4.2 966:34.14 FahCore_a5.exe

4,2% оперативы на 6901. Время мало из-за перезапуска с -oneunit. Засечь потребление памяти на 6903 получится ли? Валится сразу при запуске счета :(

_________________
It's dolomite, baby! (c)


 

Member
Статус: Не в сети
Регистрация: 27.11.2011
Откуда: Киров
Думается надо смотреть не на объем потребления, а на интенсивность обращения к ней, может быть? Убрать половину плашек и посмотреть что будет :D


 

Member
Статус: Не в сети
Регистрация: 09.03.2003
Откуда: Москва
targitaj, я как-то в описании к памяти SEC наткнулся на пост в обсуждении, почитал последние посты тут и про память вы верно думаете (не последнее это дело), хотя странно что остальные жабы считаются, тут тоже конечно вопрос. http://www.fcenter.ru/products.shtml?es ... r=97467:::: Короче ф-ц--тр...
Цитата:
При покупке из 6 модулей вообще не рабочими оказались 3. Намаялся ездить и менять по гарантии. Заменил на CH0 - все заработало... мат плата asus p8z68-v pro. думаю брак, т.к. dh0 - есть в списке рекомендуемых асусом


 

Member
Статус: Не в сети
Регистрация: 06.07.2004
Откуда: РФ
Фото: 6
Главное сделано. Оно собрано. Оно запущено. Есть первая статистика. Теперь можно будет в рабочем порядке устранять недостатки. Это все-таки не нетбук какой-нибудь. Это, блин, 4 сокета. Пусть даже и при 2 процессорах всего. Думаете, HP бабло на ровном месте за свои системы берет? Хех. Нет, понятное дело, брак везде попадается, никто не застрахован. Но ты берешь тот же HP и ты уверен, что проблем с железом у тебя не будет. Даже в голову это не берешь. Спокойно разворачиваешь систему и запускаешь сервисы. Потому что другие люди это железо как следует отработали на предмет надежности и стабильности. Не знаю, у кого там какой опыт, я лично я видел глюки отдельных сервисов из-за косячного железа. Система стабильна. Всё вроде работает. И аптаймы большие. А вот один сервис как-то вот ну не так работает. То ли подвисает, то ли подглючивает, то ли хрен поймешь. А потом убираешь\меняешь железку одну и всё ВНЕЗАПНО становится прекрасно. Не видели? А вот я видел. А чтобы выловить такие глюки - это нужен просто маэстро. Было бы оно всё так просто, не стоили бы ни железо ни спецы таких бабок. Между прочим, системе могла тупо не понравиться оперативка и она могла не запускаться по этой причине. Не видели такого? А я видел. И как из-за звука система не запускалась, тоже видел. И даже, блин, из-за кривой видяхи. И, кажется, из-за флопа. И, если правильно помню, из-за винта. Не стартует система и хоть ты тресни. И даже из-за гребанной usb-ФЛЕШКИ!!! Точно, помню, натрахался тогда вдоволь... Так что, ребяты, у нас всё зашибись. Оно, блин, не только запускается, но даже считает. Разберемся с проблемой, не сомневайтесь. Правильно говорят - не делай ничего с первого раза хорошо, не оценят сложность ;)

Пойти поспать или поехать потаксовать? Вопросец... Мда...

Хммм... Мне тут мысля в голову пришла. Там на матери три 8 пиновых доп питания. Я подключил одно. Может быть, питания не хватает?.. Мне почему-то подумалось, что это по коннектору на каждый дополнительный ЦП при базовом одном. Может 6903 грузить сильнее камни по питанию, чем 6901? Хммм... Ладно, пусть tguskill уже сам пробует. Первый этап запуска системы предлагаю считать закрытым.
ЗЫ. И не забыть выяснить про поддержку NUMA.

Добавлено спустя 1 минуту 56 секунд:
qton
О, блин, вот так лажа с SEC. Офигеть. Никогда с SEC проблем не имел вообще.

_________________
It's dolomite, baby! (c)


 

Member
Статус: Не в сети
Регистрация: 09.03.2003
Откуда: Москва
targitaj, ну может быть с памятью и все в порядке (обычно это редкость), но исключать такое нельзя.

Добавлено спустя 46 минут 36 секунд:
Имелось ввиду конечно проблемы с памятью редкость)))


 

Member
Статус: Не в сети
Регистрация: 25.08.2003
Откуда: Волгоград
Вообще мне эт все напомнило ситуацию - на одном из моих сервантов под W2K3 x86 было 16 ядер, считались (в августе было дело) 6901... Поставщик напутал, пришлось менять 5630 на 5645, приезжает курьер с процами, я без задней мысли даже папку с клиентом не бэкаплю, вставляю процы, и тут все - приплыли... на интеловском сервере СРАЗУ же client-core communication error. Ошибки железа исключены. Как потом оказалось под х86 системой 6901 не считались на числе потоков, бОльшим 16, а обычные смп - на ура. Думаю какая-то фишечка имеет место быть и в данном случае.

_________________
TT Volcano II -> TT Volcano7 -> TT Silent Tower -> ThermalRight Ultra 120 eXtreme -> ThermalRight HR-02
Чем дальше, тем тише и быстрее :)


 

Member
Статус: Не в сети
Регистрация: 31.05.2006
Откуда: Королёв МО
У меня на восьми сокетной Tyan Thunder n4250QE обычная память вообще не завелась, Ubuntu 10.04 x64 server работает, с NUMA проблем нет.
Еще на ней питание на каждом из двух этажей - 24+8+8+4 - причем часть разъемов питания необходимо для модулей памяти - в манах все описано.

_________________
IT, RC или просто блог моих интересов www.krohpit.ru


 

TSC! Russia Vice-captain
Статус: Не в сети
Регистрация: 21.03.2006
Откуда: Петербург
А память с moneyback взята?

Добавлено спустя 59 минут 44 секунды:
Кто-то спрашивал про серийные номера процессоров 6174. Должны быть такими: 9B63951K90065 и 9B03431J90051.

_________________
Революционеров можно убить, идеи — никогда.


 

Member
Статус: Не в сети
Регистрация: 16.11.2005
Откуда: Klin
targitaj писал(а):
Было бы оно всё так просто, не стоили бы ни железо ни спецы таких бабок.

а они и не стоят. у меня ибм-овский сервак забраковал палку памяти, с ней пост пройти не может. приехал специально обученный человек из москвы ажно, поменял - та же херь. благо мамо умеет сбойные палки отрубать на ходу и на спецыальном экране показывает, что не так. сервак боевой, тормозить никак, а на горячую память дергать я что-то очкую (хотя можно). ну и за что бабки плачены?
а индивидуальной непереносимостью пугать легко тех, кто в сервисе не работал. как говорится: кто в армии служил...
зря питалово недоподрубил, имхо

_________________
Don't panic!


 

Member
Статус: Не в сети
Регистрация: 08.11.2010
targitaj писал(а):
Надо мануал глянуть, как бы там 32 гигибайта без таких технологий вообще пределом для системы не оказалось.

128Гб там предел для не-ECC - 32 штуки по 4Гб


 

Member
Статус: Не в сети
Регистрация: 16.11.2005
Откуда: Klin
targitaj писал(а):
Обращаю внимание, что 6903 сыпется сразу при старте

может все-таки что-то где-то недособралось? надобно другой дистриб пробовать, хотя бы дебиана того-же, но лучше совсем другой. раз у народу под убунтой работает, чего велосипед изобретать.

_________________
Don't panic!


 

TSC! Russia member
Статус: Не в сети
Регистрация: 19.07.2010
Откуда: Казань
targitaj писал(а):
Hazord
Вообще, стоит SEC, так что надежда на стабильность была изначально.


Так это особо и не при чем ведь. Мне попадались бракованные плашки почти среди всех основных производителей планок (Samsung в том числе). Небольшую надежду на стабильность может дать только ECC :)

_________________
RC64 (1997-1998); FaD (2005); F@H (2005-2006, 2011-...); S@H (2011-...); R@H (2011-...); WUProp (2012-...); Poem/Sat/Simap (2013-...)


Показать сообщения за:  Поле сортировки  
Начать новую тему Новая тема / Ответить на тему Ответить  Сообщений: 2438 • Страница 48 из 122<  1 ... 45  46  47  48  49  50  51 ... 122  >
-

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 7


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Перейти:  
Создано на основе phpBB® Forum Software © phpBB Group
Русская поддержка phpBB | Kolobok smiles © Aiwan