Мое ли дело облака, господь со мною

[kika]

Вот всякие хомячки на реддите и HN говорят нам что свои сервера для интеграции, контроля версий и проч - это прошлый век.
Я им, паразайтам, поверил, завел репо на битбакете. А он, сссскатина, лежит. 503 Service unavailable. И простите, куда бы мне закоммитить? Нет, туда можно только засунуть, закоммитить туда не получается.

Недавно у loggly был глобальный (былинный) отказ - амазон в принудительном порядке ребутнул им _все_ хосты. Тут конечно вопрос к гениальным архитекторам, которые не предполагают ситуацию когда все ложится 100% инфраструктуры, но амазон-то каков?

Вощем, по всем законам мы должны любить предметы, размер которых невелик и постоянен. ЕВПОЧЯ.

Comments

[cdplayer.livejournal.com]

Хорошо, если для тебя надо разжевать - пожалуйста, мне не жалко. У чувака обширный штат талантливых программистов, и он один из самых больших пользователей (если не самый большой) сервизов AWS. Если это для тебя не показатель того, что у него могут быть для тебя полезные советы, то извини, я чего-то наверное сильно недопонимаю.

[kika.livejournal.com]

Ну в общем, все что мне надо знать про архитектуру нетфликса я знаю, и их родной блог мне лично поинтереснее колкрофта. Я знаю еще и то что нетфликс в очень особенных отношениях с амазоном и если б надо было нетфликс ребутнуть их бы не только предупредили бы личным визитом CTO в офис, но еще бы и минет сделали :-) Ну, образно выражаясь.

[cdplayer.livejournal.com]

Должен ли я прочитать это, как "архитектура среды разработки в нетфликсе неприменима в моих обстоятельствах"?

[kika.livejournal.com]

Один в один конечно нет, а так - надрать можно отовсюду, и из нетфликса в том числе.

[cdplayer.livejournal.com]

Хорошо, тогда к тебе шкурный вопрос: основываясь на знании современных архитектур, что сегодня более приемлемый вариант: (а) написать своё, чтобы было надёжным, работая на ненадёжных облаках (например, амазон, который может упасть отдельной зоной или сказать всем, чтобы перезагрузились), или (б) купить аналогичный по внешнему функционалу сервиз, который обеспечивает надёжность со своей стороны (например, на VMware/HA)? При условии что иссессно, за второе провайдер будет хотеть больше денег.

[kika.livejournal.com]

Ну я ж не знаю что там у тебя. У меня второе, я не могу в облако (пока) - софт не хочет работать в VM, особенно таких, которые амазон продает.
Просто надо понимать что первое - это не "дешево", там проблемы надежности тоже надо забрасывать бабками. Часто может оказаться что несколько физических боксов в калифорнии и столько же (или чуть меньше) в вирджинии окажутся дешевле.

Часто решение перейти на ритейловый клауд продиктовано возможностью практически 100% отказаться от
ops и поувольнять кучу людей, а сэкономленные деньги потратить на закидывание амазоновских траншей.

[cdplayer.livejournal.com]

Интересно. Можно дискусь в емыло перевсти, если что.

Пару вопросов к тебе: не разбирались, по каким причинам софт не хочет работать в VM? Может, нужны какие особые условия - типа CPU reservation, network IO control / storage IO control? Если нужны, было бы интересно услышать, что именно (и почему).

Второй вопрос - а почему в облако не перевести хотя бы поддержку репозитория кода? Ему то, поди, пофиг всякие особенности VM? Если нет, то опять было бы интересно услышать.

Ну и опять, насчёт амазоновских траншей: не им единым. Окромя публичных облаков на OpenStack (которые как раз пытаются конкурировать с Амазоном), VMware активно толкает vCloud Powered сервизы, которые обычно построены на enterprise-grade железках (со всеми вытекающими - выше уровень безотказности, но и выше цена). Ты на такие смотрел?

[kika.livejournal.com]

Ну вот я сейчас озадачил толпу людей разобраться. Уже делали до меня, просто попробовали и бросили, я хочу к этому научно подойти. Разберемся.

Ну я вот думал что битбакет - это вполне оно. Оказалось что хрен там, и вообще судя по постмортему у них там тот еще адъ тоже. Ну нельзя же все самому делать, в конце концов.
Корпоративная репа живет на старом перфорсе и вообще в офисе. И гораздо надежнее битбакета :-)

[cdplayer.livejournal.com]

Репу в облако - я имел в виду на что-то типа EC2/VPC, где "машины" дают с доступом к сети (приватные сегменты, VPN гейты и выход в тырнет), а ты уже своё городишь, от операционки и вверх. Типа то же, что у тебя в оффисе, но в нормальном датацентре и толстыми каналами на улицу. И типа такого в паре мест (если амазон - то availability zones, если нет - то просто в двух разных местах или провайдерах), с автоматической синхронизацией по вкусу.

А про нежильё вашего софта в VM - буду с интересом ждать окончания расследования, если тебе не влом будет поделиться результатами.

[kika.livejournal.com]

Я вот надеялся (впрочем совершенно без всяких оснований) что битбакеты всякие - оно уже и есть, кем-то специально сделанное.

[cdplayer.livejournal.com]

Кстати, посмотри на OpenStack, в частности, Swift (object storage). Интерес в OpenStack сейчас очень высокий, и куча толстых вендоров вливает в разработку его компонентов (всё - опенсурц) очень много ресурсов.

Вот OpenStack Beginner's guide, для краткого ознакомления:

http://cssoss.files.wordpress.com/2011/11/openstackbookv2-0_csscorp.pdf

"Swift provides a distributed, eventually consistent virtual object store for OpenStack. It is analogous to Amazon Web Services - Simple Storage Service (S3). Swift is capable of storing billions of objects distributed across nodes. Swift has built-in redundancy and failover management and is capable of archiving and media streaming. It is extremely scalable in terms of both size (Several petabytes) and capacity (Number of objects)."

[kika.livejournal.com]

Я смотрю на них, пристально.

Кстати, ты не знаешь кого-нибудь из TelstraClear (NZ)?

[cdplayer.livejournal.com]

Из TCNZ никого не знаю. Спроси милого, если я не ошибаюсь, он там когда-то работал.

Кстати, если что, большое количество качественных активистов OS держат блох в свитере. Если хош, могу сдать парочку имён - они очень открытые ребята.

[pp-maintainer.livejournal.com]

Амазоновские availability zones имеют две точки отказа, core network и API. И то и то на моей памяти ложилось не раз. Отказ API может быть в том числе таким: с вашей карты не проходит транзакция в сраные $40K, амазоновские люди на любое ваше письмо отвечают "Thank you for your continuing interest in Amazon services!", а на телефоне вас спрашивают, что именно вы хотите купить, мягкую игрушку или DVD. Может быть, для плательщиков от миллиона в месяц там специальная телефонная линия с нормальными людьми, а вот спасение нищебродов от обезумевшей машины - дело рук самих нищебродов.

С менее знаменитым клаудом у меня тоже была смешная история, его "независимые" датацентры в NYM и LAX одновременно легли на 12 часов из-за взбесившегося puppet, который разложил какие-то неправильные изменения и убил сеть потоками запросов. Представляю, как впечатлились клиенты, в эту независимость поверившие.

[cdplayer.livejournal.com]

Спасибо, интересные истории.

[kika.livejournal.com]

На ентерпрайзы я смотрел без всякого даже любопытства. Не мои деньги совсем.

[cdplayer.livejournal.com]

А где у тебя порог "согласен/слишком дорого"? (Я так понимаю, сейчас разговор о репе, а не вашей основной софтине, т.к. она у тебя якобы под VM не работает?)

[kika.livejournal.com]

На репу вообще денег нет, ну в смысле каких-то заметных. Можно было бы сделать самому себе отказоустойчивый битбакет на амазоновском клауде, несколько сотен - это не деньги, но задрало как-то все что нужно самому себе выпиливать из цельного бруска.