Прорывное изобретение, авторами которого являются исследователи из Массачусетского технологического института (MIT), может коренным образом изменить принцип разработки веб- и мобильных приложений, а также помочь операторам гипермасштабных дата-центров вроде принадлежащих Facebook и Google справляться со взрывным ростом трафика, генерируемого конечными пользователями веб-сервисов.

Члены команды MIT разработали комплект программного обеспечения, который называется Fastpass. ПО использует параллельные вычисления, чтобы принимать решения относительно перераспределения пакетов информации практически сразу же после их поступления на коммутаторы внутри дата-центры для последующей обработки. Американские специалисты полагают, что лежащая в основе Fastpass технология может появиться в коммерческих продуктах для дата-центров примерно через два года.

Отметим, что в современных сетях пакеты могут подолгу постаивать в крупных, отнимающих много ресурсов памяти, очередях – как туристы в парке развлечений Disney World. Все потому, что коммутаторы, в большинстве своем, самостоятельно решают, когда каждый пакет может отправиться по назначению. При этом устройства выполняют рассматриваемую задачу, оперируя ограниченным объемом информации. Fastpass, в свою очередь, передает эту работу центральному серверу, который называется Arbiter (Арбитр). Эта машина может анализировать данные в разрезе целого сегмента сетевой инфраструктуры ЦОД и формировать график распределения пакетов более эффективным образом.

Такой информацией поделился профессор Массачусетского технологического института Хари Балакришнан, являющийся специалистом в области электротехники и компьютерных наук. Балакришнан является соавтором доклада на тему новой концепции управления сетевыми ресурсами, который в следующем месяце будет представлен вниманию участников конференции Association for Computing Machinery. В число соавторов также входит инженер соцсети Facebook, исследователь Ганс Фагал.

По стопам SDN

Разработка и реализация в коммерческих продуктах механизмов централизованного принятия решений относительно использования ресурсов сети ЦОД является “последним писком моды” в области сетевых технологий. Именно с этой целью вендоры все более активно реализуют в своих IT-решениях поддержку различных вариаций на тему концепции SDN (Software-Defined Network или Программно-определяемая сеть). На самом деле Балакришнан был одним из соавторов ряда ранних научных трудов на тему концепции SDN. Но в случае SDN речь идет о системах принятия решений более высокого уровня (речь, например, идет о том, как обрабатывать различные типы трафика), причем решения принимаются такими системами достаточно долго: в течение секунд или минут. Разработчики Fastpass применили ту же концепцию, чтобы оптимизировать обработку трафика на микроуровне: пакет за пакетом.

Мотивация американских инженеров заключается не в том, чтобы страницы на Facebook стали загружаться быстрее, и не в том, чтобы результаты поиска в Google появлялись оперативнее (хотя незначительный прирост производительности не исключен). Вместо этого изобретатели Fastpass хотят упростить процесс разработки приложений и коммутаторов, а также уменьшить требования к пропускной способности сети, которых компании должны придерживаться, чтобы обеспечивать нормальное функционирование своих дата-центров.

Удешевление сетевого оборудования

По словам Балакришнана, в случае коммутаторов добавление инструментов для управления очередями пакетов увеличивает сложность оборудования, что повышает затраты на его изготовление. Исследователь полагает, что созданная в MIT технология позволит удешевить будущие коммутаторы, которым если и придется работать с очередями пакетов, то такие очереди будут очень маленькими. Это позволит минимизировать сложность изготовления оборудования и, соответственно, обернется уменьшением стоимости устройств.

Сводя к минимуму продолжительность простаивания пакетов в очереди, Fastpass также поможет сетевым архитекторам избавить себя от необходимости развертывания сети со значительным резервом на случае непредсказуемых всплесков трафика, поступающего в дата-центры.

Преимущества для разработчиков приложений

Аналогичными преимуществами смогут воспользоваться и разработчики приложений для организации распределенных вычислений, которые используются при обслуживании мобильных устройств через клиентские мобильные приложения, а также при обслуживании запросов интернет-пользователей через веб-интерфейс. В данном случае девелоперы “расщепляют” крупные задачи на более мелкие и отправляют последние на различные серверы, рассредоточенные по всем корпоративным ЦОД.

Аспирант Массачусетского технологического института, специалист в области электротехники и информатики, а также соавтор доклада Джонатан Перри сказал, что в настоящее время разработчики ПО для распределенных вычислений вынуждены бороться с переменными задержками, характерными для современных сетей. Благодаря новой технологии данная проблема будет решена: разработка сложных распределенных программ вроде тех, что использует социальная сеть Facebook, станет гораздо проще.

Перри отметил, что децентрализованный механизм пересылки пакетов, используемый в настоящее время, заставляет владельцев ЦОД создавать обширные сети, ресурсы которых контролируется недостаточно эффективно. Так как трафик крайне непредсказуем, проектировщикам сетей придется либо инвестировать в физическую инфраструктуру с достаточной для обслуживания максимально возможной нагрузки пропускной способностью, либо создавать в каждом коммутаторе очереди для хранения пакетов, пока те не смогут быть обработаны. Как правило, операторы ЦОД балансирую между этими двумя опциями.

“Очень трудно выяснить, насколько большими могут быть очереди. […] Этот вопрос беспокоит нас еще с 1960 года. Сделайте их слишком большими и можете ожидать снижения производительности, сделаете их слишком маленькими и можете столкнуться с потерей пакетов, а также с их повторной передачей, отнимающей огромное количество ценного времени “, сказал Балакришнан.

Снижение задержек

Комплект ПО Fastpass назначает время передачи и выбирает маршруты для каждого пакета, и, если верить данным инженеров из MIT, он может делать это быстрее чем обычный коммутатор. ПО использует специальный протокол Fastpass Control Protocol (FCP).

Сообщается, что Fastpass работает настолько быстро, что даже несмотря на необходимость перенаправления каждого пакета по сети к центральному серверу (Arbiter), на что тратится около 40 микросекунд, он по-прежнему значительно ускоряет работу ЦОД. При достижении такой скорости необходимость в очередях попросту отпадает.

Исследователи говорят, что во время экспериментов в дата-центре Facebook, с помощью Fastpass удалось сократить среднюю длину очереди на 99.6 процента. Задержка (отрезок времени между поступлением запроса и направлением пакета) упала с 3.56 микросекунды до 0.23 микросекунды.

Огромный потенциал обычного восьмиядерного сервера

В тесте использовался сервер-Arbiter с восьмью физическими ядрами. Эта машина была в состоянии принимать решения для балансировки сети, обрабатывающей трафик на уровне 2.2 терабита данных в секунду, что соответствует нагрузке на дата-центр с 2000 серверами и гигабитными сетевыми подключениями. По словам представителей MIT, центральный сервер был связан сетевой инфраструктурой ЦОД через два канала для обеспечения избыточности.

Причем американцы оптимизировали свое ПО под многоядерный и многопоточный процессор сервера, чтобы использовать машину более рационально: когда первое ядро пытается заполнить следующий временной интервал, второе работает на два слота вперед, третье – еще на два слота вперед и так далее. Благодаря этому все ядра могут одновременно работать над устранением очереди пакетов. Сообщается также, что система может масштабироваться в широких пределах и способна обслуживать сеть ЦОД, включающую целых 1000 коммутаторов.

По словам Балакришнана, Fastpass или аналогичный комплект программного обеспечения может быть реализован на специальных серверных кластерах или даже встраиваться в специализированные чипы. Исследователи планируют выпустить комплект программного обеспечения Fastpass как проект с открытым исходным кодом, хотя они предупредили, что код ПО пока не готов к релизу.