about NetApp

Нет, блог не переходит на ежедневный формат, но так уж получилось, в эту неделю много новостей, а вся следующая будет занята огромным двухчастным постом про HP и NetApp, поэтому сегодня и завтра – “оперативные новости”.

Обновилась и наконец оформилась линейка FlexPod. Можно уже говорить про настоящую “линейку”. Как вы помните, скорее всего, FlexPod это идея готовой “коробки” из стораджа, серверов и активного сетевого оборудования, под разные задачи, прежде всего ферму виртуализации, кластер баз данных, и так далее. Это крайне популярная идея сейчас, достаточно вспомнить EMC-шный vBlock, Oracle Exadata Database Machine, даже Dell сейчас подтягивается со своим vStart.

Отличие NetApp FlexPod состоит прежде всего в том, что это не “коробка” как таковая, как, например, vBlock, это, прежде всего, спецификация, валидированная вендорами как эталонный дизайн. Вы можете купить готовый бокс от вендоров, например от NetApp, в котором все преднастроено и готово, а можете взять спецификацию, и сделать это самостоятельно, или даже вовсе, взять ее за основу архитектуры, и сделать что-то свое на ее основе (последнее уже, конечно, не будет FlexPod, но спрос есть и на такое). Неудивительно, что FlexPod нашел свое место на рынке, и неплохо продается.

Первая версия FlexPod была сравнительно дорогим, топовым решением, построенным на основе серверов Cisco B-series (blade), стораджа NetApp FAS32xx, 10G конвергентного ядра на Cisco Nexus 5000. Спустя какое-то время появилась lite-версия, под названием ExpressPod, с использованием серверов Cisco C-series (2U 19” rack), FAS2240 и Nexus 3048. Теперь принято решение расширить и углУбить эти продукты, расширив и сформировав линейку.

Топовый FlexPod теперь называется FlexPod Datacenter, с очевидной ориентацией на эти самые датацентры. ExpressPod теперь называется FlexPod Express, и нацелен на малый (в американском понимании этого слова) и средний бизнес, филиальные сети, и прочее. Продукт не изменился, просто чуть изменил название.

??, наконец, появился третий член семейства – FlexPod Select. Это ориентированная на растущий рынок BigData система, построенная с использованием сиcтемы хранения NetApp E-series, и нацеленная на задачи под Cloudera, Hortonworks, Apache Hadoop, и прочего подобного. Он также использует сервера Cisco C-series (рэковые), и имеет, что любопытно, впервые в истории NetApp, прямое SAS-подключение стораджей к серверам. Как вы помните, для BigData-систем, типа Hadoop, крайне важна производительность дискового канала от ноды до дисков, а собственно “сеть”, SAN, не слишком нужна. Поэтому в таких системах активно применяется DAS.

Новость, интересная узкому кругу использующих SMI-S provider, то есть, в первую очередь, виртуализацию Microsoft и его System Center. Что это такое и зачем используют SMI-S я уже писал в прошлом году:

Что такое SMI-S и как/зачем его использовать?

Если вкратце, то Storage Management Initiative – Specification (как расшифровывается аббревиатура) – это попытка разработать обобщенный стандарт управления дисковыми хранилищами на основе открытых протоколов веб-запросов (xml и http). Работу с SMI-S поддерживает, из широко распространенных систем, например, MS System Center Virtual Machine Manager (SCVMM).

SMI-S provider у NetApp это софт, ставящийся на выделенную виртуальную машину, что предполагает довольно крупную инфраструктуру.

SMI-S v5.0 из нового поддерживает:

• Clustered Data ONTAP 8.2. Работает как с SAN, так и с SMB частью unified-системы под System Center 2012 SP1.
• SMB 3.0. Для подключения и работы Hyper-V в первую очередь. Также остается доступной работа через iSCSI и FCP.
• Поддерживаются indication. Это события CIM, используемые для уведомления, мониторинга и алертов, имогут отслеживаться в SCVMM 2012 SP1.
• Соответствует версии стандарта SMI-S v1.5 и 1.6.

Опубликован и Best Practices and Prescriptive Guidance for NetApp SMI-S Agent 5.0

К сожалению, пока редко читающийся, но безусловно интересный для использующих оба этих продукта курс в официальном учебном центре NetApp – FastLane:

VMware vSphere on NetApp (VVNA)

Далее просто из описания на сайте:

В курсе рассматривается планирование, развертывание, конфигурация и администрирование виртуальной инфраструктуры VMware (ESXi 5 под управлением vCenter Server 5), подключенной к системам хранения NetApp. Сравнение плюсов и минусов использования и конфигурации VMFS и NFS datastore. Лабораторные работы помогут получить практический опыт использования NetApp plug-in Virtual Storage Console для vCenter 4/5 с целью: 1) Мониторинга и настройки гипервизоров ESXi 2) Выполнения задач резервного копирования и восстановления 3) Управления и клонирования виртуальных машин. Работа протокола репликации SnapMirror и механизмов VMware HA/DRS для повышения отказоустойчивости, а также SnapVault, OSSV и SnapProtect для резервного копирования и восстановления данных виртуальной инфраструктуры подробно освещены и продемонстрированы. Курс дает понимание сценариев использования и практический опыт применения NetApp/VMware best practice, повышения производительности, поиска и устранения неисправностей при взаимодействии инфраструктуры VMware (ESXi 5 под управлением vCenter Server 5) с сиcтемами хранения NetApp под управлением операционной системы Data ONTAP 8.1 7-mode, включая работу с Virtual Storage Console для vCenter.

Ближайший – на следующей неделе (05-09.08), возможно еще успеете зарегистрироваться, он “гарантированный”, то есть они уже набрали необходимый минимум для проведения курса, также запланировано два последующих: 26-30.08, и 28.10-01.11, все в Москве.

Стоимость – 135 тысяч рублей, или 60 NTU; пять дней.

Подробное описание курса: http://www.flane.ru/course-pdf/fl-vvna

Наконец-то опубликованы долгожданные результаты тестирования Flash Pool (гибридный aggregate с SSD в полке), показывающие эффект от его использования на задачах OLTP баз данных. Полностью отчет с описанием можно прочитать в соответствующем Technical Report, а для затравки просто картинка (а в отчете есть еще):

В работе также приводится подробное описание тестируемой конфигурации и настроек Oracle.

Я бы хотел отдельно, и явно видимо для всех указать на существование отныне в блоге особого полиси на комментирование.

В этом блоге, как вы заметили, вы можете комментировать без регистрации (зарегистрироваться, впрочем, тоже можно). Однако обязательным условием для этого теперь без исключений будет предоставление в форме комментария реального email для обратной связи.
Сам этот email не публикуется в комментарии, и вижу его только я.

Также я бы хотел пояснить некоторые особенности комментирования без регистрации в этом блоге:
Первый комментарий нового для блога комментирующего встает на премодерацию, и я его вручную разрешаю тогда, когда дохожу до админки блога. Обычно это быстро, иногда может занять до нескольких дней. Несмотря на то, что посты публикуются регулярно, я не всегда в онлайне.
В дальнейшем новые комменты от того же комментатора будут автоматически разрешаться без премодерации. Но если вы решите придумать новый еще более остроумный ник, или поменяете email, то скорее всего вы опять попадете в очередь премодерации.

Очень редко я бываю вынужден поставить на премодерацию отдельных комментаторов. Обычно это результат несогласия их с другим основным правилом полиси комментирования этого блога: “ведите дискусию вежливо, уважительно, даже если придерживаетесь по обсуждаемому вопросу иных взглядов, и будьте аргументированны в высказываемых утверждениях.”.
Могу отметить, что за 6 лет существования этого блога, таких набралось всего трое, так что это случаи исключительные, что меня, надо сказать, радует. Значит моя аудитория все же состоит из джентльменов. :)

Что же касается “политики реального емайла”, то, прежде всего,
Обратите внимание, что иногда, в особенности если у меня будут сомнения по поводу того, что указанный в комментарии адрес pupkin@hotmail.com - ваш реальный, читаемый адрес, не удивляйтесь, если я на него напишу. ?? не обижайтесь если, не получив ответа, или получив mailbox does not exist, сочту вас спамером.

Кроме того, ряд явно фэйковых емэйлов, вида xxx@xxx.xxx или 123@abc.com, и прочее такое же, автоматически отбрасывается моим спамфильтром. Это значит, что даже если вы написали интересный комент, я смогу извлечь его из горы спама только когда (или вернее будет сказать “если”) вдруг зайду в папку spam, в которой у меня еженедельно скапливается по 250-300 комментов про ca$h l0ans v!agra c1al1s дeвчёнки с вeбкaми, и которые вы не видите только потому, что спам-фильтр в блоге не дремлет. Захожу я туда скорее случайно, и очень редко. Делайте выводы.

Если вдруг у вас возникнет вопрос “зачем?”, хотя, как мне кажется, вопрос “почему комментариям требуется подпись?” для джентльменов, из которых состоит моя аудитория, не должен возникать по определению, то ответ, думаю, будет всем прост и понятен. Также как я подписываюсь под всеми моими текстами, также и любому пишущему реплику в ответ не должно быть стыдно под своими словами поставить свою подпись, не правда ли, джентльмены?

Как вы уже, наверняка, знаете, после выхода версии ESXi 5.1, VMware объявила, что это будет последняя версия, поддерживающая “толстый клиент” vSphere. В дальнейшем поддержка традиционного, “толстого” клиента будет прекращена, и вся работа с vSphere будет происходить через так называемый Web Client UI, работающий в веббраузере.

Все бы хорошо, но есть существенная сложность – многочисленные, написанные вендорами плагины для VCenter, в частности NetApp Virtual Storage Console – VSC. Подобные плагины, для работы с системой хранения из интерфейса клиента VCenter, написали под свои стораджи почти все крупные вендоры. Но все они работают с “толстым клиентом”. По этой причине для тех, кто использует соответствующие стораджи, и управляет ими через пдобные плагины, наступают тревожные времена. Успеют ли соответствующие вендоры выкатить новые версии своих плагинов до того, как наступит время отказаться от “толстого клиента”?

NetApp пока неофициально объявил, что в среде Web Client UI будет работать новая версия VSC 5.0, она запланирована к выходу в конце этого года. Это будет существенно переработанная версия, что связано с тем, что изменяется сама логика работы и интеграции подобных плагинов. Так, например, ресурсы стораджа (контроллеры и VServers в Cluster-mode) будут интегрированы в стадартный inventory VCenter. Также, наконец, закончится процесс интеграции модулей VSC в “единое операционное пространство”.

Как вы, возможно, помните, нынешняя ситуация, с отдельными модулями Monitoring & Host Configuration, Provisioning & Cloning, Optimization & Migration, и Backup & Recovery, это отголосок того, что раньше VSC был надстройкой над несколькими различными продуктами, такими как SnapManager for Virtual Infrastructure (SMVI), Rapid Cloning Utility, и так далее, которые существовали отдельно, сами по себе, как отдельные продукты. Потом поверх них надстроили интеграционный плагин VSC, некую общую консоль, но продукты, тем не менее, еще долго оставались самостоятельными, даже когда они впоследствии вошли в состав VSC как его компоненты. Однако логически это разделение функциональностей по модулям еще сохранялось (и сохраняется сейчас), когда никакой физической разделенности на фактические модули за этим уже нет. Вот, наконец, в VSC 5.0 нам пообещали, что от этого намерены избавиться.

Кстати, кто в курсе темы, прокомментируйте, а у EMC уже есть плагин для VNX под VCenter Web Client UI?

??так, на днях был опубликован новый релиз Data ONTAP 8 – версия 8.2 RC1. Напомню, что в текущей модели релизов, релизы с названием RC (release candidate) являются версиями “готовыми в продакшн”, однако по ним могут быть не завершены различные внутренние compatibility тесты. Тем не менее статус RC у NetApp указывает, что код релиза стабилен, и, как правило, уже не будет меняться, а когда все внутренние процедуры сертификаций будут завершены, то этот код станет уже “не-RC”, как правило уже без фактических изменений. Поэтому RC в терминах NetApp это уже production-ready release.

Так что можно “начинать смотреть” что нам там приготовили. Если вы уже понемногу привыкли, что в мире браузеров теперь “мажорные версии” меняются каждые два месяца, что вызвано, прежде всего попсовыми маркетиговыми соображениями, то и тут у NetApp своя, олдскульная стратегическая модель. По ней 8.2 это мажорный релиз в OS Generation 8 с большими функционалными изменениями. Как вы уже знаете, DOT G7 и 8.х 7-mode в настоящий момент практически заморожены, и все развитие идет в Clustered ONTAP. Посмотрим что именно.

• В Clustered ONTAP появилась поддержка SnapVault
   
• Для уровней Vserver, LUN и файлов появился Quality of Service, который позволяет определять их лимиты по IOPS или MB/s
   
• Реализована поддержа SMB 3.0 для cDOT (Clustered Data ONTAP AKA Cluster-mode), включая Continuous Availability, Witness Node (для Hyper-V) и Referrals (для standard shares).
   
• Появилась поддержка для ODX (Offloaded Data Transfer), функции, появившейся в Windows Server 2012 и Hyper-V 3.0. Как и в случае VAAI, у NetApp ODX позволяет повысить не только скорость работы, но и эффективность хранения, копирование не только ускоряется, но, при наличии лицензии FlexClone, еще и не дублирует занятые блоки.
   
• Продолжется улучшение функциональности для SMB file services, в Clustered ONTAP появились Fpolicy, Remote VSS, Branch Cache, Access Based Enumeration, Roaming Profiles, Previous Versions для снэпшотов NetApp, Folder Redirection, поддержка локальных пользователей и групп, и т.д.)
   
• Поддерживаются Consistency Groups при создании снэпшотов.
   
• Появилась поддержка непрерывающего работу перемещения aggregate в HA-паре без перемещения данных.
   
• Улучшена производительность этапа сканирования при дедупликации.
   
• Теперь в Clustered ONTAP реализована полная поддержка всех опций VMware VAAI для SAN.
   
• Про изменения в лицензиях я уже писал в четверг. Прежде чем планировать апгрейд – обязательно поговорите с вашими контактами в вендоре насчет необходимость получить новые лицензии и того, как это все будет происходить.
   
• Наконец-то появилась “безсвитчевая” конфигурация для двух нодового кластера. Как вы знаете, можно установить Cluster-mode на одну HA-пару контроллеров. Однако ранее это все равно требовало от вас иметь коммутатор 10G для этих двух контроллеров. Теперь воможна конфигурация для двух контроллеров в Clustered ONTAP без коммутатора для Cluster link. При добавлении в кластер второй и далее пары контроллеров, конечно, коммутатор понадобится.
   
• Появилась официальная поддержка для “однонодового кластера”, пример использования – “secondary” системы, например получатели репликации SnapMirror или SnapVault.
   
• Появилась поддержка Intracluster FlexCache.
   
• Вновь увеличены размеры Aggregate. Для старших систем они выросли до 400TB. В целом лимиты практически удвоены для всех платформ.
   
• Число поддерживаемых FlexVol на ноду увеличено с 500 to 1000, за исключением моделей ряда FAS2xxx и старых платформ (FAS3140 и FAS3210). Максимальное число FlexVols на кластер вцелом достигло 6000.
   
• Число LUN на ноду увеличено с 2048 до 8192, с максмальным числом на кластер нод 49.152 LUN.
   
• Infinite Volumes могут жить со стандартными FlexVol-ами и Vserver, добавлена поддержка SMB 1.0 (ранее только NFS), Flash Pool и Unified ACLs.
   
• Появилась возможность иметь разные типы RAID для SSD и HDD в Flash Pool Aggregate. Раньше, как вы помните, если Aggregate состоял из RAID-групп RAID-DP, то и на SSD два диска шли под party disks. Теперь можно сделать для HDD (например SATA) – RAID-DP, а для SSD – RAID-4 с одним parity disk.

Data ONTAP 8.2 RC1 опубликован на NetApp Support Site, и его уже можно качать оттуда.

Следует отметить, что новости про flash прошлой недели показывают, что для NetApp это не просто “ну еще один all-flash сторадж, раз у всех есть”, налицо стратегическая линия. Одновременно с EF540 был анонсирован продукт, который пока не выпущен, но о котором, что, в общем, необычно для NetApp, уже рассказывается: FlashRay.

Если вы уже начинаете запутываться в том, что где и для чего у NetApp на flash-рынке предназначено, то давайте посмотрим на схему:

На ней вы видите позиционирование всех на сегодняший момент flash-продуктов NetApp: Flash Cache находится в контроллере, Flash Pool -  во “встроенном” хранилище самого NetApp, его часть, Flash Accel – софтверное решение внутри хост-серверов, использующая их внутренние SSD. EF450 – это standalone-сторадж, никак, архитектурно, не связанный с FAS. А вот что будет в этой картине мира делать анонсированный FlashRay?

FlashRay – это компонент развивающейся силами Clustered ONTAP (Data ONTAP 8 Cluster-mode) архитектуры scale-out, или, если по-русски, “горизонтального масштабирования. Напомню, что такое “горизонтальное” и “вертикальное” масштабирование.

Если вы переросли ваш сторадж,  и меняете его на более мощный – это “вертикальное масштабирование”. Если вы увеличиваете мощность имеющегося стораджа, добавляя непосредственно в имеющуюся инфраструктуру новый контроллер и диски, которые не образуют новую, более мощную “сущность”, а расширяя емкость и производительность уже имеющейся системы – это “горизонтальное масштабирование”. В NetApp “горизонтальное”, или scale-out (в отличие от scale-up, “вертикального”) масштабирование – это Cluster-mode.

Хорошо знакомые с номенклатурой NetApp могут увидеть в FlashRay наследника NetApp SA, специальных кэширующих систем, нацеленных на ускорение работы NFS. Такие системы, представляющие собой контроллер соответствующей системы хранения и небольшой объем дисков, подключенных к нему для хранения закэшированных данных, устанавливаются на пути между клиентским приложением на хост-сервере, и собственно хранилищем данных, и ускоряют доступ к часто обращаемым данным, как, например, в рассмотренном выше по ссылке кейсе.

В отличие от NetApp SA, согласно анонсу, FlashRay это будут all-flash устройства, ускоряющие доступ к бэкэнд-стораджу FAS, он будет поддерживать кластерность, многопротокольность (а не только NFS), inline-компрессию и inline-дедупликацию данных с переменной длинной блока (неужели пригодились-таки разработки для VTL в этой области?), и ряд других, более обычных для NetApp опций, включая репликацию и автобалансировку нагрузки в кластере FlashRay.

Таким образом, если после анонса EF540 вам показалось, что NetApp начала отходить от своей парадигмы “во flash выгоднее кэшировать, чем хранить”, то анонс FlashRay показывает, что концепция жива, здорова, и передает всем пламенный привет с нового уровня своего развития. Ждем более подробных новостей с техническими деталями.

Несмотря на то, что я уже не раз в этом блоге обещал не слишком писать про NetApp E-series (по разным причинам, не буду вдаваться в детали, уже писал неоднократно почему), но как-то так, в насмешку над моими словами, жизнь заставляет писать о них почаще. А сегодня есть повод еще раз поднять тему E-Series, потому что в ней появился интересный продукт – Flash Array.

??з названия нетрудно догадаться, что это становящийся сегодня все более популярным так называемый all-flash массив, то есть сторадж сделанный только на flash SSD, без классических, “вращающихся” дисков вовсе. На рынке уже несколько лет как присутствуют такие устройства, прежде всего это системы хранения производства компании Violin Memory, пионера подобных систем, и Texas Memory Systems (ныне принадлежащая IBM).

Если вы читаете этот блог достаточно давно, то вы уже знаете, что в линейке NetApp есть самые разнообразные продукты с использованием Flash, можно даже сказать, что NetApp имеет вообще все возможные варианты, и в этом по своему уникальна. Считайте сами: FlashCache, встроенный в систему хранения кэш на flash memory, Flash Pool, гибридный дисково-flash-евый массив, прозрачный для пользователя и его задач, FlashAccel – софтверное решение, позволяющее использовать диски SSD на стороне сервера интегрировано, в общей инфраструктуре хранения, и вот, наконец, четвертый возможный вариант использования flash, all-flash array, “дисковый” массив состоящий из чистых SSD.

Как показывает нам его название, он построен на базе весьма удачных массивов “классической” архитектуры, досташихся NetApp вместе с приобретенным несколько лет назад подразделением компании LSI под названием Engenio, производящей крайне удачные блочные массивы по OEM-контрактам, вы их, уверен, хорошо знаете как дисковые массивы IBM DS, а также ряд других систем хранения от других компаний. Это все – Engenio, ныне подразделение NetApp.

Под крышей NetApp Engenio получила “второе дыхание” и дисковые массивы “традиционной” блочной архитектуры используются NetApp для ряда специальных проектов, например для grid-систем под Hadoop, или для систем video surveilance, а также поставляются всем прежним OEM-клиентам Engenio.

Вот на базе дисковой полки и контролллеров 5400-серии и был сделан EF540 Flash Array.

Вид контроллеров сзади:

Система поставляется в двух вариантах: с 12 и с 24 дисками MLC SSD на 800GB raw (то есть с суммарной емкостью 9,6 и 19,2 TB raw) и обеспечивает в максимуме около 300 тысяч установившихся IOPS чтения (100% random read, 4K) при менее 1 ms latency (или же около 6GB/s throughput большими блоками, то есть, конечно, не одновременно с 300K IOPS).

На контроллерах в стандартном форм-факторе SBB v2.0, слева направо:

Порт USB для диагностики и обслуживания. Два порта Ethernet для управления (это НЕ для передачи данных! Только для админнистрирования! Ни iSCSI в базе, ни NAS тут нет!), далее 4 независимых порта 8Gb/s FC. Правее находится схемный модуль, так называемый Host Interface card, в котором располагается, на рисунке, последовательная консоль и порт SAS 6Gb/s drive expansion, который в EF540 НЕ ??СПОЛЬЗУЕТСЯ, подключить к EF540 дополнительные полки НЕЛЬЗЯ.

Кроме показанного на рисунке также возможны иные варианты такого Host interface module, например с еще плюс 4x 8G FC, 4x 6G SAS (не для расширения, а для IO, например для подключения в SAS Switch и доступа по ним от сервера), 2x 10G iSCSI или же 2x 40G Infiniband (в последнем случае штатные порты FC отключены). На контроллере также располагается 12GB кэш-памяти. Поддерживаются типы RAID – 0,1,5,6,10.

Нацелены данные системы, прежде всего, как и все E-series в линейке NetApp, на определенную узкую “нишу” крайне высокопроизводительных приложений, это, прежде всего, энтерпрайзные базы данных, где latency играет решающую роль, и за что, следует специально подчеркнуть, компании готовы платить, и платить много. Это НЕ системы “для всех”, это нишевое решение для тех, у кого предельно низкие значения IO latency это решающий фактор.

Ну и, конечно же, как правило, EF540 будет использоваться не столько сама по себе, сколько как компонент более высокоуровневого решения, включающего в себя не только стораджи E-series, но и те же FAS, например уже готов TR, посвященный построению высокопроизводительной базы данных на Sybase ASE, с использованием FAS6200 для хранения данных, и EF540 для ускорения определенных операций, работающих вместе.

??, “чтобы два раза не вставать”, по некоторым слухам, NetApp в России намеревается в ближайшее время начать продавать стораджи семейства E5400 по своему обычному каналу, через партнеров, ранее, напомню, эти системы хранения можно было купить только как OEM-продукт, например через IBM, как  DS35xx, сам NetApp, от своего имени, в России их не продавал.

??так, “краткое содержание предыдущих серий”, или что вы, возможно, пропустили, по причине моего вынужденного простоя в ноябре-декабре.

1. В номенклатуре SSD появились диски емкостью 200GB, и даже ожидают, по пока неподтвержденным данным - 800GB. Оба по технологии eMLC (напомню, что текущие flash-продукты NetApp, и SSD на 100GB, и платы Flash Cache - это SLC).
К сожалению пока не поддерживается установка в “голову” 2240, только в полку 2246.

2. Для сверхъемких приложений под которые была разработана “полка специального назначения” - DS4486, появился диск 4TB. Напомню, что 4486 это полка высотой 4U, в которую устанавливаются 48 дисков 3 и 4TB в специальном “тандемном” трее (и больше никакие другие диски), и которая ориентирована на специальные применения, требующие повышенной емкости и пониженной производительности.