26 сент. 2012 г.

FCoE в блейдах Supermicro

"Когда в blade-серверах Supermicro будет поддержка FibreChannel?" - это один из самых популярных вопросов о блейдах Supermicro. До настоящего момента ответов было два:

  • Никогда. Используйте iSCSI (через GbE или 10GbE), или один из способов применения InfiniBand - FCoIB и дополнительный мост от Mellanox, SRP или тот же iSCSI поверх IPoB.
  • Пользуйтесь т.н. expansion blade, т.е. блейдами с обычным слотом расширения и внешним FC коммутатором. Но выглядеть будет неаккуратно (все кабели будут спереди).
Стоит так же помнить о том, что блейд-серверы Supermicro поддерживают только одну плату расширения (специальный форм-фактор mezzanine card) с выводом интерфейсов на внешние модули, которых может быть только одна пара (помимо пары свитчей или pass-thru модулей для набортных гигабитных интерфейсов). Т.е. добавлять отдельные модульные FC-коммутаторы и FC HBA смысла нет.

На помощь приходит FCoE - протокол, позволяющий передавать фреймы FibreChannel поверх Ethernet. FCoE используется для создания конвергированных сетей, т.е. объединения обычного сетевого трафика и трафика сети хранения данных единым транспортом. В крупных датацентрах переход к конвергированным сетям может привести к существенной экономии за счет сокращения количества коммутаторов и кабелей. Для поддержки нужен Ethernet контроллер с поддержкой FCoE и коммутатор с поддержкой FCoE. Поскольку СХД с поддержкой FCoE до сих пор не так уж много, то такой коммутатор в дополнение к Ethernet портам обычно имеет несколько портов FC для подключения к существующей сети хранения данных, построенной на FibreChannel.
Supermicro готовит выпуск 10GbE коммутатора с поддержкой FCoE для блейд-серверов - SBM-XEM-F8X4SM. Сейчас доступны тестовые образцы.
Коммутатор поддерживается в шасси SBE-720E и SBE-710Q, причем из-за разного количества downlink'ов (720 шасси рассчитано на установку двойных блейдов, т.е. поддерживает до 20-ти серверных модулей), то режимы работы при установке в разные шасси будут различаться:
SBE-720E
  • 20 downlink'ов 10Гбит Ethernet
  • 6 uplink'ов 8Гбит FC
SBE-710Q
  • 10 downlink'ов 10Гбит
  • 8 uplink'ов 8Гбит FC
  • 4 uplink'а 10Гбит Ethernet
Обеспечивается совместимость Cisco Nexus 5000 и FC-коммутаторами от Brocade и Qlogic. Вопрос установки CMM в шасси решается так же, как и с другими модулями - плата mini-CMM (он же CMM-002) монтируется внутри этого коммутатора. Обратите внимание, что судя по предварительным спецификациям в 720-м шасси не получится вывести наружу 10GbE, что накладывает серьезные ограничения на масштабирование - сеть 10GbE будет изолирована в пределах одного шасси.
В качестве FCoE HBA используется уже существующий контроллер XEH-iN2. Это 2-портовый 10GbE на базе чипа Intel 82599, который поддерживает FCoE, разгрузку iSCSI и демонстрирует неплохие результаты по производительности относительно Exulex и Qlogic, на эту тему есть интересный отчет от Demartek.