Archive

Posts Tagged ‘ZFS’

ZFS Shadow Migration


Доступна в Solaris 11! Раньше – только в 7000-ой серии.

Что это: миграция на уровне файловой системы.
Как работает: в одну единственную опцию: zfs create -o shadow=nfs://system/export/home/ufsdata users/home/shadow2.
Читаем здесь!

Проблемы с производительностью пары zfs send/receive по сети.

В продолжении вот этого поста.

При восстановлении снимка на другой машине через ssh (rsh аналогично) нарвались на проблему с низкой пропускной способностью всего комплекта (zfs send, ssh, zfs receive). Быстрый анализ привел к этой дискуссии.

Проблема хорошо описана здесьzfs receive имеет характер “пульсирующей” нагрузки (bursty) – приняли блок, чего-то делаем и перевариваем, zfs send в это время фактически простаивает (хотя – оба процесса могут давать пропускную способность много больше – просто у одного не забирают, а другой не принимает данные потоком, “забивая” сеть – получается ситуация, когда все компоненты могут существенно больше, чем есть на деле).

Решение – в том же блоге – описано довольно неплохо – надо буферировать приемо-передачу. Для этих целей создана утилита mbuffer. Небольшое клиент-серверное приложение, создающее буфер заданного объема с заданным размером блока внутри.

Успешно собирается (товарищ подтвердит) на Solaris 10, можно и пакеты поставить готовые.

Использование:

# принимаем поток
[root@server2]# mbuffer -s 128k -m 1G -I 9090 | zfs receive datapool/fs1
# отправляем поток
[root@server1]# zfs send datapool/fs1@pipesnap | mbuffer -s 128k -m 1G -O 10.0.0.1:9090

На мой вкус – чистый профит – выигрываем почти 10х приростом производительности!

К сожалению, эти механизмы как-то странно обходят собственно в Solaris 10/11 (по крайней мере – очевидного решения я не нашел).

PS: http://truewaytags.blogspot.com/2011/05/zfs.html – а вот и товарищ по несчастью :)

Поточный бэкап снимка ZFS.

Известно, что Veritas NetBackup умеет бэкапить (и восстанавливать) именованные каналы (named pipes, пайп(ы) дальше по тексту). Этим и воспользуемся.

Дано: файловая система ZFS, около 1 Тб в объеме, около 2-х миллионов файлов на ней, небольшого размера – 200-400 Кб. каждый. Для понимания – сделаем ls -la внутри этой директории, подождем. Много – и долго.

Надо: изготовить резервную копию этой ФС. Обычный бэкап работает очень медленно (tar, bpbackup) – около 12-18 часов на одну ФС, поток в 4-8 Мб/c – неприменимо, лента занята слишком долго одним заданием. Скорость модификации составляет около 800 Мб-1Гб/сутки по предварительной оценке (добавляются новые файлы). Что делает применение обычного файлового бэкапа вообще малореальным. Задачи восстановления единичного файла с ленты – не стоит. Предполагаем, что политики у нас уже настроены…

Делаем:
- создаем снимок ФС (по хорошему – надо перестраховаться и “притормозить” приложение, но – нам известен регламент записи заранее – и потому этого мы делать не будем, занимаясь изготовлением снимка в подходящий момент)
- создаем пайп
- запускаем процесс отправления снимка
- запускаем процесс бэкапа (в нашем случае NB bpbackup)
- ждем окончания процесса
- удаляем пайп
- удаляем снимок

zfs snapshot datapool/fs1@pipesnap
mkfifo /tmp/pipesnapGate
zfs send datapool/fs1@pipesnap > /tmp/pipesnapGate &
bpbackup <ключи NB> -w /tmp/pipesnapGate &
wait
rm /tmp/pipesnapGate
zfs destroy datapool/fs1@pipesnap

Скорость – 50-80 Мб/c – на порядок лучше, чем стандартными средствами. Очевидный минус – из архива проблематично достать единичный файл.

Как всегда – бэкап без восстановления – пустое место. Если надо – нарисую последовательность команд для восстановления. Она такая же простая. Вдумчивое “курение” документов позволит отказаться от запуска скрипта на стороне сервера.

Oracle Hot-Backup Using ZFS Snapshot and Restore procedure

“Горячее” резервное копирование Oracle с использованием мгновенных снимков ZFS и процедура восстановления

Кхм – по-русски не звучит, потому плюнул – написал in english. Вот возникла задачка, вот и сделал для себя шпаргалку, чтобы кругами не “нарезать” по сайтам – я все-таки далек изрядно от Oracle DBA’s – специфика у меня другая, но вот приходиться и подумать иногда на отстраненные темы…

Рекомендовано к прочтению: Backup and Recovery@orafaq.com, масса полезной документации лежит здесь. Ну и Google никто не отменял.

Итак: есть Oracle 10gR2 + Solaris 10 x86_64. Есть БД. Некая. Которая лежит на ZFS – плюсы и минусы такого размещения я не обсуждаю, по крайней мере – здесь. Есть метод фактически прошлого века – Oracle User-Managed Hot Backups. Настоящие джежаи меня заклюют, но я не вижу способа использования RMAN в сочетании с ZFS Snapshot в рамках одной машины (вижу, но об этом – другой раз ;) ). Надо: сделать копию БД, которая была бы пригодна к однозначному восстановлению.
Далее – много букофф… Read more…

Восстановление ZFS с помощью OSol LiveCD

В конце октября в Opensolaris была интегрированна интересная возможность – откат группы транзакций из коммандной строки. Почитать можно здесь. Полезно в случае проблем возникновения проблем с оборудованием – “битыми” RAID-контроллерами, например – короче, всякий раз, когда ZFS сталкивается с невозможностью проконтроллировать корректную запись блоков данных на диски. В результате – мы не можем импортировать свой пул, а рекоммендация в такой ситуации была одна – восстановление с бэкапа после приведения в порядок “железа” (ну или вдумчивый – очень вдумчивый!!! – анализ происходящего). Степень “полезности” этой функции я бы поставил чуть ли не выше наличия, например, дедупликации.

Посмотрел, отметил “зачетность” сей возможности, порадовался. Вспомнил про Oracle 10 + Solaris 10 с далеко не самым последним релизом, стоящий на V40z и контроллерах Adaptec – в продуктивной среде. Полезность этого нововведения резко сократилась до домашнего и внутриоффисного применения. Забыл до поры, до времени.

А вот сегодня – натолкнулся на крайне полезную заметочку. Смысл прост – качаем LiveCD Opensolaris latest bits (build 128+), загружаемся с него, делаем дальше все по инструкции от Виктора – она предельно проста и перевода не требует. Сам бы не додумался – особенно когда мне это надо было бы делать в “запарке” по факту наличия разваленного пула на площадке – времени бы на “подумать” не оставили бы ;(

Мораль – даже для настоящих джедаев с тяжеленным приложением Opensolaris может оказаться достаточно интересным и полезным.

PS: резонно подметили – “настоящие джедаи не используют ZFS” – это точно подмечено, они используют чОрную коробочку под название Veritas Volume Manager, они консервативны и предпочитают оплачивать свои проблемы заранее, а не по мере их возникновения. Проблемы имеют обыкновения проявляться, как показала практика, даже в самых стабильных и простых конфигурациях. Да, конфигурабельно, да, отлажено, да – много лет на рынке. Но и проблемы – тоже, кхм, оттачивались много-много лет ;) И не все так гладко – в том числе и из-за немаленькой стоимости этого решения.

PPS: все-таки хотелось увидеть эту “фишку” в обычном, привычном для заказчиков и поддерживаемом, Solaris 10 – хотя пора думать о выходе Solaris 11 – в котором будет ВСЕ :)

ZFS. Дедубликация данных.

Собственно, вот оно – на блоге Бонвика! С появлением дедубликации наступает и некий переломный момент – отсутствие этой математики постоянно ставили в большой жирный “минус” ZFS, в сравнение с WAFL/NetApp. Теперь же – и эта задача успешно решена :) Viva, Sun! :)

Небольшая вводная – здесь.

ЗЫ: а я сегодня так насмотрелся на Волшебную зиму в ноябре, что, пожалуй, пойду поспать ;) +1 на градуснике и метель – очень вдохновляют ;)

ZFS User/Group Quotas

Чего-то важное я и пропустил, как всегда.

Начиная с 15-й версии дискового формата ZFS появилась возможность устанавливать дисковые квоты для пользователей и для груп. А-ля windows/linux quota style. Что радует, потому как это закрывает еще один существенный вопрос.

Доступно с билда 114 Solaris (Nevada) 11. OpenSolaris 2009.06 по умолчанию этой возможности не имеет (версия дискового формата 14), Fishworks/Amber Road – тоже (ждем обновления, в интерфейсе должна появится одна замечательная возможность ;) ).

Сколько проговорено… Sun Storage, Серия SS7000 Unified Storage System – и еще презентация

И вот еще одна перезентация на русском языке, написанная для, скажем так – всех интерисующихся в общем плане ;)

Или только я ее не видел?

И еще – наткнулся на забавный девайс, а точнее – целый ряд устройств – Fusion-io ioXtreme, например – устройство для домашнего ZFS-сервера в форм-факторе PCIE. Список поддерживаемых ОС выглядит как-то кисло без (Open)Solaris. И подождем какое-то время – и потом еще напишем.

PS: вот кое-какое обсуждение на форумах opensolaris.org: https://opensolaris.org/jive/thread.jspa?messageID=297283. Дабы впустую не гонять – предварительно – этот вид устройств не поддерживается (Open)Solaris…

No ZFS in Snow Leopard?

June 11th, 2009 No comments

Судя по слухам (http://www.theregister.co.uk/2009/06/10/snow_leopard_no_zfs/) – ZFS в Snow Leopard мы не увидим. Не осилили? Подождем официальных новостей. Со страничек apple.com – все упоминания про ZFS убраны. Проприентарщина. Если был бы аналог Апертуре – в макось пошла бы нервно курить…

PS: детально просмотрел статейку, источники другие посмотрел – все-таки полного отказа от ZFS не предвидится? Цель выпуска Snow Leopard – максимальные облегчения, оптимизация и минимизация вкупе с новым фишками. ZFS – это все-таки файловая система для больших (ок, и не только) объемов данных – а целевая аудитория Apple не заинтерисованна в таких (ZFS) нововведениях? Посмотрим, как оно будет.

Sun Storage 7000 Unified Storage Systems

November 10th, 2008 No comments

Не успел отметится первым : читаем здесь http://www.sun.com/storage/disk_systems/unified_storage/index.jsp на иностранном и вводная на русском от Ильи Воронинаhttp://blog.curthread.org/posts/sun/unified_storage.html . Sun взрастил конкурента (убийцу ;) NetApp ? Очень хочется верить , что мы на пороге аннонса целой линейки сервис-ориентированных систем хранения .

Что есть :

  • три продукта – 7110 , 7210 , 7410
  • входная цена – от ~$10 000
  • внутри OpenSolaris = ZFS + OpenStorage Initiative
  • базируется на AMD Opteron
  • доступ iSCSI (блочный) / NFS/WebDAV/FTP
  • поддержка авторизации NIS , LDAP , AD
  • поддержка аггрегации линков , VLAN , 10GiB ethernet
  • СКВОЗНОЕ управление через web-интерфейс
  • кластеризация Active-Active / Active-Standby , поддержка удаленной репликации !
  • поддержка SSD-накопителей !!! Это не просто ТУПО набор дисков SSD , это умные ;) диски (хинт - Logzilla/Readzilla)
Что не написал ? Идите дальше по ссылкам , там МНОГО интересного . Например , ни слова , что же такого “умного” в SSD .
Еще ссылки :
Идите по всем , читайте , это действительно РЕВОЛЮЦИОННЫЙ подход к системам хранения !
PPS: увидел расшифровку “рыбки” - FISHWorks Project (FullyIntegrated Software and Hardware) . Теория апплиансов обретает очертания !