Как разработать вычислительную инфраструктуру для большого кластера (Евгений Кирпичев, ADD-2012) — различия между версиями
Материал из 0x1.tv
StasFomin (обсуждение | вклад) |
StasFomin (обсуждение | вклад) |
||
== Примечания и отзывы == * Обсудить в блоге у автора → http://antilamer.livejournal.com/431555.html * {{ConferencePage|http://addconf.ru/event.sdf/ru/add_3/authors/EugeneKirpitchev/783}} <!-- <blockquote>[©]</blockquote> --> <references/> {{stats|disqus_comments=0|refresh_time=2020-07-18T23:03:152021-08-25T02:37:52.617667342176|vimeo_comments=0|vimeo_plays=5202|youtube_comments=0|youtube_plays=101}} [[Категория:ADD-2012]] [[Категория:High Performace Computing]] [[Категория:Распределенные системы]] [[Категория:Планировка задач]] |
Версия 23:37, 24 августа 2021
Содержание
Аннотация
- Докладчик
- Евгений Кирпичёв
- Соавтор
- Станислав Лагун
В докладе пойдет речь о том, как разработать инфраструктуру для массивно-параллельных высокопроизводительных вычислений на кластере из многих тысяч ядер с сотнями одновременных задач очень разной и непредсказуемой длительности и степени параллелизма. Будут освещены наиболее интересные аспекты построения такой архитектуры:
- Достижение высокой надежности и производительности транспорта задач и результатов. Как можно построить такой транспорт поверх RabbitMQ ("из коробки" RabbitMQ, будучи лучшим продуктом в своем классе, все же оказывается весьма далек от требуемых качеств).
- Отладка и анализ. Понимание поведения подобной большой системы требует специального инструментария. Мы расскажем об очень мощных инструментах логгирования и визуализации, позволяющих в большинстве случаев замечать даже довольно тонкие проблемы с первого взгляда на логи.
- Под огромными нагрузками многие подсистемы на всех уровнях технологического стека начинают ломаться или вести себя неподобающе в неожиданных (или просто непродуманных) местах; рассказывается, как предвидеть и предотвращать подобные поломки под нагрузкой.
Целевая аудитория Разработчики больших распределенных систем. Сведения из доклада можно использовать по прямому назначению — для переиспользования описанных решений и ненаступания на описанные грабли в области, например, масштабируемого транспорта задач/результатов; в области отладки; в области capacity planning и предотвращения перегрузки подсистем.
Видео
Посмотрели доклад? Понравился? Напишите комментарий! Не согласны? Тем более напишите.
Слайды
Примечания и отзывы
- Обсудить в блоге у автора → http://antilamer.livejournal.com/431555.html
- Страничка доклада на сайте конференции
Plays:533
Comments:0