Экскурсия в дата-центр MSM
Так, дата-центр на ВДНХ – это экспериментальный проект, спроектированный и сделанный целиком в стенах МСМ. Он небольшой, всего 40 стоек, и у него уровень TIER 2+. Этот эксперимент делался для того, чтобы научиться, как правильно строить дата-центры. И сейчас МСМ строит новый, самый большой в России, дата-центр на 2000 стоек. Это больше, чем на М9 и у стак-нета. Новый дата центры будет иметь TIER 4+.
Всего 2 ряда стоек. Внизу из щелей идет холодный воздух с хорошим напором, чтобы доходить до серверов на самом верху стоек. От потолка он отражается и внутри этого коридора очень холодно и избыточное давление.
Коммутатор, который раздаёт интернет на все стойки.
Это рейд-массив (рейд 5) в 12 терабайт, где хранятся все логи и дампы из этого дата-центра. Еще у мсм 100 стоек на м9. Если у вас 2 сервера у мсм в разных дата-центрах, то трафик между ними не считается.
Огромный черный шкаф – это мега-упс, который может держать весь дата-центр в течении 15-20 минут. Так же в подвале стоит дизель-генератор на всякий случай.
Красные баллоны – это газ (углекислый, вроде) под давлением. Если что-то загорается в дата-центре, то газ выпускается и замещает собой весь кислород. Соответственно огонь тушится, но всё оборудование при этом остаётся невредимым.
Вот так выглядит этот мега-упс внутри.
Еще баллоны, уже подключенные в систему.
Датчики дыма и огня стоят над каждой стойкой. Но, на всякий случай, еще и 24/7/365 сидит специальный человек, ответственный за противопожарную охрану.
Это щиток, который контролирует электричество. В этот дата-центр входит 2 электрических независимых канала. Каждый из которых может полностью обеспечить электро-снабжением весь дата-центр. Ну и в качестве резерва упс и дизель-генератор.
Щиток, который раздаёт электричество на каждую стойку. В прямом эфире показывает, сколько ампер каждая стойка жрет.
Система охлаждения. Воздух очень неплохо очищается фильтрами и охлаждается. Таких установок всего 3 – в начале, по середине и в конце дата-центра. Любые две могут обеспечивать полное охлаждение всех 40 стоек. Соответственно всё сделано с избытком.
Современные технологии даже в офисе – двери открываются от отпечатков пальцев.
Еще в этот дата-центр проложен 10ти гигабитный канала в интернет и два резервных по 1 гигабиту. При этом у канала свободна полоса в 6 гигабит.
У МСМа очень много известных клиентов. Так, несколько стоек в дата-центре на ВДНХ, полностью заклеены наклейками одного очень известного южнокорейского гиганта. Там хранятся все их сервера.
Все сервера, которые МСМ сдаёт в аренду сейчас – это сервера IBM. Раньше у них были еще и HP, но от них пришлось отказаться, т.к. были проблемы с драйверами на линухах, отличных от Red Hat’а. Самосборных серверов МСМ не сдаёт в аренду. И еще – на сайте есть стандартные конфигурации серверов, но это совершенно не значит, что нет других. С менеджерами всегда можно договориться и заказать именно тут конфигурацию, что нужно.
Экскурсию проводил Мирон Рудник (главный инженер компании, слева на фото). Справа – технический директор. Рассказал веселую историю про общего рыжего знакомого.
Так же ребята любезно согласились пригласить нас (меня и Антона Белицкого, у него тоже есть фотографии) в новый дата-центр, как только там будет на что смотреть. Сейчас там только залит фундамент.
Еще рассказали, что в новом дата-центре будет мелкомягкая технология cloud computiong на сколько я понял. Т.е. огромное количество серверов будет объединено в единое пространство и клиент сможет заказывать любой кусок от этого пространство с возможностью неограниченного расширения. Жалко, что технология только под виндой – спрос будет маленький. Это сильно круче, чем VPS и VDS. Под *nix ничего подобного пока нет, но должно появится.
Так же компания МСМ может помочь сделать систему любой сложности в их дата-центрах, как например системы балансировки нагрузки на сервера, отдельные сервера под БД и т.д. и т.п. Еще они могут помочь бороться с ДДОС и вообще сделать всё, что захочется клиенту за его деньги. Кроме одного – они принципиально не занимаются “администрированием” серверов на уровне софта (настройка апача/мускуля и т.д.).
Было очень интересно и я понял, что не зря арендовал сервер именно у них. Он, кстати, работает там уже полтора года как часы. Единственное, пришлось его перезагружать несколько раз из-за того, что обновлял ядро.
Сервер оплачивается из доходов с mainlink, loadmovie, bigpays, adlabs, smartbucks, linkfeed, fotocash, liex, profit-project, moviecash, kino77 и конечно-то же sape.