Публикации
2023 г. – новый этап практического применения CXL, статья
VMware сдвигает акцент в проекте Capitola на CXL, статья
Dell Validated Design for Analytics — Data Lakehouse: интегрированное хранилище данных, статья
OCP Global Summit: решения для Computational Storage и компонуемых масштабируемых архитектур, статья
Samsung CXL MemoryySemantic SSD: 20M IOPs, статья
UCIe – открытый протокол для взаимосвязи чиплетов и построения дезагрегированных инфраструктур, статья
Omni-Path Express – открытый интерконнект для экзафлопных HPC/AI-систем, статья
GigaIO: CDI_решение на базе AMD для высшего образования, статья
Энергоэффективные ЦОД на примерах решений Supermicro, Lenovo, Iceotope, Meta, статья
От хранилищ данных и “озер данных” к open data lakehouse и фабрике данных, статья
EuroHPC JU развивает НРС-экосистему на базе RISC-V, статья
LightOS™ 2.2 – программно-определяемое составное блочное NVMe/TCP хранилище, статья
End-to-end 64G FC NAFA, статья
Computational Storage, статья
Технология KIOXIA Software-Enabled Flash™, статья
Pavilion: 200 млн IOPS на стойку, статья
CXL 2.0: инновации в операциях Load/Store вводаавывода, статья
Тестирование референсной архитектуры Weka AI на базе NVIDIA DGX A100, статья
Fujitsu ETERNUS CS8000 – единая масштабируемая платформа для резервного копирования и архивирования, статья
SmartNIC – новый уровень инфраструктурной обработки, статья
Ethernet SSD, JBOF, EBOF и дезагрегированные хранилища, статья
Compute, Memory и Storage, статья
Lenovo: CXL – будущее серверов с многоуровневой памятью , статья
Liqid: компонуемые дезагрегированные инфраструктуры для HPC и AI, статья
Intel® Agilex™ FPGA, статья
Weka для AI-трансформации, статья
Cloudera Data Platform – “лучшее из двух миров”, статья
Fujitsu ETERNUS DSP - разработано для будущего, статья
Технологии охлаждения для следующего поколения HPC-решений, статья
Что такое современный HBA?, статья
Fugaku– самый быстрый суперкомпьютер в мире, статья
НРС – эпоха революционных изменений, статья
Новое поколение СХД Fujitsu ETERNUS, статья
Зональное хранение данных, статья
За пределами суперкомпьютеров, статья
Применение Intel® Optane™ DC и Intel® FPGA PAC, статья
Адаптивные HPC/AI-архитектуры для экзаскейл-эры, статья
DAOS: СХД для HPC/BigData/AI приложений в эру экзаскейл_вычислений, статья
IPsec в пост-квантовую эру, статья
LiCO: оркестрация гибридныхНРС/AI/BigData_инфраструктур, статья
 
Обзоры
Все обзоры в Storage News
 
Тематические публикации
Flash-память
Облачные вычисления/сервисы
Специализ. СХД для BI-хранилищ, аналитика "больших данных", интеграция данных
Современные СХД
Информационная безопасность (ИБ), борьба с мошенничеством
Рынки
Новый взгляд на масштабируемое хранилище с малой задержкой с использованием NVMe™ over TCP

29, март 2021  — 

Саги Гримберг (*), соучредитель и технический директор Lightbits Labs, 5 марта 2021 г. ,
https://www.lightbitslabs.com/blog/reimagining-scalable-low-latency-storage-using-nvme-over-tcp/

Недавно Саги Гримберг  , соучредитель и технический директор Lightbits Labs, участвовал в обсуждении вопросов и ответов о будущем центров обработки данных и обеспечении большей производительности, гибкости и снижения совокупной стоимости владения для дезагрегированного хранилища на основе NVMe over Fabrics (NVMe-oF ™). Ниже приводится краткое изложение беседы .

Насколько важен NVMe-over-TCP?

На мой взгляд, NVMe™/TCP очень важен. Людям нужна была альтернатива Fibre Channel Storage Area Network (FC SAN), которая была бы производительной, но гораздо более доступной и позволяла бы консолидировать сети и практики центров обработки данных. Интерфейс Интернет-малых компьютерных систем (iSCSI) предлагает SAN с сетями Ethernet TCP/IP, но его общие характеристики производительности разочаровывают. NVMe/TCP, с другой стороны, обеспечивает скорость и низкую задержку, как у NVMe, но, что более важно, сохраняет повсеместное распространение Ethernet и опирается на хорошо зарекомендовавшую себя базу знаний и методов работы с сетями TCP/IP. Короче говоря, это отраслевой стандарт, который становится широко поддерживаемым, повсеместным, работает лучше, чем унаследованные iSCSI и Fibre Channel SAN, и использует стандартный Ethernet,

Как используется эта технология?

NVMe-over-TCP может использоваться везде, где используется iSCSI, но обеспечивает значительно улучшенную задержку и гораздо более высокие уровни операций ввода-вывода в одних и тех же сетях Ethernet/TCP. Более того, он хорошо подходит для рабочих нагрузок с высоким уровнем транзакций (базы данных, аналитика и потоковая передача сообщений), а также рабочих нагрузок с высокой пропускной способностью (аналитика в реальном времени, обработка видео, AI / ML) с упором на крупномасштабные развертывания и более высокие скорости сети и кормит.

Кто в настоящее время предлагает или планирует предложить эту технологию?

Lightbits Labs была первой, кто предложил производственное решение на основе NVMe / TCP, но другие более мелкие и крупные компании также имеют доступные продукты или анонсировали продукты, которые будут поддерживать NVMe/TCP. Поставщики включают Pure Storage (будущее), Dell/EMC (будущее), NetApp обсуждали NVMe/TCP в блогах, Infinidat, Fungible, Pavilion Data и другие. Кроме того, сетевые поставщики, такие как Intel, Mellanox (теперь NVIDIA), Marvell, SolarFlare (теперь Xilinx), Kazan-Networks (теперь WD), также объявили о поддержке и расширениях для NVMe/TCP.

Какой целевой рынок?

Целевой рынок чрезвычайно широк. Во-первых, современные центры обработки данных все больше и больше похожи на облако в том виде, в каком мы его знаем, с предприятиями, применяющими облачные методы, а также облачные развертывания в таких средах, как Kubernetes или Openstack®. Трудно представить облако, построенное на основе выделенных сетей Fibre Channel, поэтому NVMe/TCP становится гораздо более применимым благодаря своей превосходной производительности и задержке по сравнению с iSCSI (а также другими протоколами хранения на основе TCP). Во-вторых, по мере развития и развития экосистемы для NVMe-oF и NVMe/TCP, в частности, традиционные развертывания на «голом железе», построенные в настоящее время на iSCSI или Fibre Channel SAN, выиграют от внедрения NVMe/TCP.

Каковы потенциальные преимущества по сравнению с другими вариантами NVMe-over-Fabric, такими как Fibre Channel или Infiniband?

Самым большим преимуществом NVMe/TCP перед удаленным прямым доступом к памяти NVMe (NVMe/RDMA) является простота. NVMe/TCP работает на каждой сетевой карте. Это снижает барьер для пользователей при оценке различных продуктов, не требуя нестандартных практик или специального аппаратного обеспечения. Еще одно преимущество - масштабируемость. Infiniband традиционно используется в качестве серверной структуры, когда речь идет о системах хранения, где масштаб более ограничен и свобода для специализации приемлема. Однако интерфейсные структуры требуют строгой повсеместности и, как правило, более высокой масштабируемости. Вот почему TCP/IP и FC используются там гораздо шире. Преимущество по сравнению с Fibre Channel-NVME в основном заключается в снижении затрат, консолидации и увеличении пропускной способности.

Каковы потенциальные препятствия на пути к адаптации?

В отличие от некоторых поставщиков хранилищ, VMware и Microsoft в настоящее время еще не поддерживают NVMe/TCP. Таким образом, сегодня NVMe/TCP действительно ограничен средами Linux. Кроме того, вам потребуется довольно современное ядро/дистрибутив (например, последние версии RHEL, SUSE, Oracle Linux и т.д.), Чтобы иметь полный драйвер NVMe/TCP и возможности работы с несколькими путями. Эти «препятствия» должны исчезнуть по мере того, как организации переходят на более новые версии и когда Microsoft и/или VMware будут поддерживать NVMe/TCP.

В то же время NVMe-oF все еще имеет некоторые пробелы по сравнению со зрелыми и полными стандартами SCSI и FC, в основном в отношении внутриполосной аутентификации, а также автоматического обнаружения и перечисления ( enumeration ), которые важны в основном в корпоративных средах. Это области, над которыми мы сейчас активно работаем. Устранение этих пробелов в сочетании с развивающейся поддержкой экосистемы и преобладающими на рынке продуктами с соответствующими возможностями сделает NVMe-oF и NVMe/TCP жизнеспособными вариантами практически для любого развертывания.

Каким будет будущее NVMe-over-TCP?

Я считаю, что повсеместное распространение Ethernet и TCP/IP естественным образом подтолкнет людей к NVMe/TCP. Если бы у вас была простота iSCSI, но со значительно большим количеством операций ввода-вывода в секунду и гораздо меньшей задержкой в той же фабрике Ethernet, почему бы вам не переключиться?

Мы видим весь спектр экосистемы, поставщиков оборудования, систем и платформ, а также клиентов, вкладывающих значительные средства в NVMe-oF и, в частности, в NVMe / TCP. Я считаю, что это уже не вопрос «если», а скорее вопрос времени, когда это станет фактическим стандартом для блочного хранения в сети.

Будучи первопроходцем в этой области, решение Lightbits Labs NVMe/TCP было успешно протестировано и развернуто в ведущих облачных центрах обработки данных. Архитектура Lightbits Labs NVMe обеспечивает эффективную и надежную дезагрегацию с низкой задержкой, ускоряя доставку данных в приложения и повышая производительность системы.

Все названия продуктов, товарные знаки, зарегистрированные товарные знаки и / или знаки обслуживания могут быть заявлены как собственность их соответствующих владельцев.

NVM Express ™ (NVMe ™) и NVMe ™ over Fabrics (NVMe-oF ™) являются товарными знаками NVM Express, Inc. PCI-SIG® и PCIe® являются зарегистрированными товарными знаками PCI-SIG.

-----------------------------------------

(*) Саги Гримберг ( Sagi Grimberg , @sagigrim) - соучредитель и технический директор Lightbits Labs, компании по хранению данных, разрабатывающей гипермасштабируемые системы хранения следующего поколения. Он имеет более чем 10-летний опыт работы в технологиях хранения, сетей и удаленного прямого доступа к памяти (RDMA), а также в распределенных системах. Саги является соавтором подсистемы Linux NVMe и ведущим автором стандарта NVMe/TCP. Саги Гримберг пришел из Mellanox Technologies (сейчас принадлежит NVIDIA), где он работал менеджером по программному обеспечению для хранения данных.

Публикации по теме
Flash-память
 
Новости Lightbits

© "Storage News" journal, Russia&CIS
(495) 233-4935;
www.storagenews.ru; info@storagenews.ru.