Interested Article - ZFS
- 2021-12-27
- 1
ZFS (Zettabyte File System) — copy-on-write файловая система с деревом Меркла , созданная Sun Microsystems в 2004–2005 годах для операционной системы Solaris . Эта файловая система поддерживает большие объёмы данных, объединяет концепции файловой системы, массивов RAID , менеджера логических дисков (томов) , принципы легковесных файловых систем ( англ. lightweight filesystems ), предоставляет простое управление томами хранения данных. На момент создания ZFS реализованная в ней структура размещения данных была новаторской. Существуют открытые реализации ZFS, в частности, OpenZFS лицензируется под CDDL ( Common Development and Distribution License ), в отличие от подобной ZFS файловой системы BTRFS , которая лицензируется по GNU General Public License . По состоянию на 2023 год OpenZFS активно развивается .
Основные преимущества ZFS — это её полный контроль над физическими носителями и логическими томами и постоянное поддержание консистентности файловой системы. Оперируя на разных уровнях абстракции данных, ZFS способна обеспечить высокую скорость доступа к ним, контроль их целостности, а также минимизацию фрагментации данных. ZFS гибко настраивается, позволяет в процессе работы изменять объём дискового пространства и задавать разный размер блоков данных для разных применений, обеспечивает параллельность выполнения операций чтения-записи.
История
ZFS была спроектирована и создана в Sun Microsystems командой во главе с ( англ. Jeff Bonwick ), анонсирована 14 сентября 2004 года . Исходный код для финального релиза был интегрирован в главную ветку разработки Solaris 31 октября 2005 года .
ZFS вошла в 27 сборку OpenSolaris , выпущенную 16 ноября 2005 года. Sun заявила, что ZFS была интегрирована в 6/06 обновление для Solaris 10 в июне 2006 года, по прошествии одного года с момента открытия сообщества OpenSolaris .
Первоначально ZFS называлась « Zettabyte File System», но позже название превратилось в простую аббревиатуру .
ZFS была выпущена под коммерческой лицензией в составе операционной системы Solaris, затем SUN Microsystems открыла исходные коды ZFS в проекте OpenSolaris под лицензией CDDL. После приобретения SUN Microsystems компанией Oracle код снова был закрыт, однако к этому времени ZFS уже была включена в FreeBSD и другие проекты с открытыми лицензиями, которые вели разработку независимо и обменивались исходными кодами путём «обратного портирования» ( англ. backports ) .
В 2013 году запущен проект , в котором применяются новые возможности и исправления из Illumos и распространяются во все порты в другие платформы, и наоборот .
Специфика
Максимальные возможности
ZFS — 128-битная [ источник не указан 2768 дней ] файловая система, что позволяет ей хранить в 18,4 × 10 18 раз больше данных, чем все известные 64-битные системы. ZFS спроектирована так, чтобы её ограничения были настолько недостижимы, что в обозримом будущем не встретятся на практике .
Некоторые теоретические пределы в ZFS:
- 2 48 — количество снимков в любой файловой системе (2 × 10 14 );
- 2 48 — количество файлов в любой индивидуальной файловой системе (2 × 10 14 );
- 256 зеттабайт (10 21 байт ) [ источник не указан 2849 дней ] — максимальный размер файловой системы;
- 16 эксбибайт (2 64 байт ) — максимальный размер одного файла;
- 16 эксбибайт (2 64 байт ) — максимальный размер любого атрибута ;
- 3 × 10 23 петабайт [ источник не указан 2849 дней ] — максимальный размер любого пула хранения ( zpool );
- 2 56 — количество атрибутов файла (фактически ограничивается 2 48 на количество файлов в файловой системе ZFS);
- 2 56 — количество файлов в каталоге (реально ограничен 2 48 на количество файлов в файловой системе ZFS);
- 2 64 — количество устройств в любом пуле;
- 2 64 — количество пулов в системе;
- 2 64 — число файловых систем в одном пуле;
- 255 байт — максимальная длина имени файла (не полного имени, а относительно родительской папки);
- 255 байт — максимальная длина полного имени хранилища данных (файловой системы, тома, снимка, общего ресурса и т. д.).
При этом утилиты управления ФС накладывают дополнительные ограничения.
Пулы хранения
В отличие от традиционных файловых систем, которые располагаются на одном устройстве и, следовательно, при использовании более чем на одном устройстве для них требуется менеджер томов, ZFS строится поверх виртуальных пулов хранения данных, называемых zpool . Пул построен из виртуальных устройств ( vdevs ), каждое из которых является либо физическим устройством, либо зеркалом ( RAID 1) одного или нескольких устройств, либо ( RAID Z) — группой из двух или более устройств. Ёмкость всех vdevs затем доступна для всех файловых систем в zpool .
Для ограничения пространства, доступного конкретной файловой системе или тому, может быть установлена квота . Кроме того, возможно использование (лимита) — это гарантирует, что всегда будет оставаться некоторый доступный объём для конкретной файловой системы или тома.
Версии пула ZFS
Существуют различные версии файловой системы ZFS и версии пула ZFS ( zpool ), в зависимости от версии доступны различные функциональные возможности. По состоянию на ноябрь 2012 существует 34 версии пула ZFS. Все версии пула изначально выпускаются для Solaris .
В версии 2 была включена поддержка ( англ. ditto blocks ). Ввиду того, что структура дискового формата ZFS древовидная, невосстановимые ошибки в метаданных пула могут привести к тому, что пул нельзя будет открыть. Данная функция предоставляет автоматическую репликацию метаданных (до трёх копий каждого блока) независимо от избыточности зависимых пулов ( англ. underlying pool-wide redundancy ). Например, в пуле с единственным зеркалом наиболее критичные метаданные будут трижды записаны на каждой стороне зеркала, в общей сложности шесть копий. Это позволяет удостовериться, что, если данные потеряны вследствие повреждения, все данные в пуле будут доступны для нахождения и пул будет работоспособным.
В версии 3 включена поддержка технологий
горячего резерва
и RAID-Z двойной чётности (raidz2); в версии 4 внедрена поддержка ведения истории пула ZFS (
zpool history
); в версии 5 добавлена поддержка сжатия на лету для наборов данных ZFS методом
gzip
; в версии 6 включена поддержка свойства
bootfs
(позволяет переключать корневую ФС загружаемой ОС через атрибут, помимо опции загрузчика).
В версии 7 реализована поддержка «целевого журнала» ( ZFS Intent Log , ZIL , букв. «журнал намерений»), который предоставляет приложениям возможность узнать, что данные, ими изменённые, находятся в стабильном хранилище, по возврату из системного вызова. Целевой журнал хранит записи этих системных вызовов, они воспроизводятся заново, если произошёл сбой питания или критическая ошибка, при которой основной пул не подтвердил их выполнение. Когда целевой журнал находится вне основного пула, он выделяет блоки, которые идут цепочкой через пул.
В версии 8 реализована возможность делегировать административные задачи по управлению ZFS обычным пользователям, до этого возможность управлять ZFS была только у администраторов.
В версии 9, в дополнение к существующим функциям квотирования и резервирования, добавлено назначение квот и резервов, не включающих потребление дискового пространства вложенными структурами данных, такими как клоны и квоты (
zfs set refquota
,
zfs set refreservation
). Резервирование автоматически устанавливается, когда созданный неразрежённый (
non-sparse
) том ZFS соответствует размеру раздела. Также в версии 9 добавлена поддержка
CIFS
-сервера.
В версии 10 появилась возможность добавлять устройства в пул как кэширующие для обеспечения дополнительного уровня кэширования между основной памятью и диском. Использование кэширующих устройств существенно увеличивает производительность при нагруженных операциях неупорядоченного считывания, в основном статичного содержимого. В версии 12 появилась поддержка свойств снимков, в версии 13 стали доступны следующие свойства снимков:
usedbysnapshots
,
usedbychildren
,
usedbyrefreservation
,
usedbydataset
, в версии 14 доступны также свойства
passthrough-x
и
aclinherit
, в версии 15 включены свойства
userused
,
groupused
,
userquota
,
groupquota
.
В версии 17 реализована поддержка тройной чётности. В версии 18 поддержана функция задержки снимков ( ZFS snapshot holds ). Начиная с версии 19 появилась возможность удалить присоединённое устройство для хранения журналов, ранее такое устройство удалить было невозможно. В 20-й версии включён алгоритм сжатия .
В версии 21 реализована дедупликация (существенным образом использует zle). Начиная с версии 30 поддерживается шифрование файловой системы , начиная с версии 32 поддерживается блок размером 1 Мбайт, а в версии 34 реализовано создание общих сетевых ресурсов с наследованием между файловыми системами.
В версии 37 добавлена поддержка алгоритма сжатия lz4 (более эффективного и быстрого по сравнению с имевшимися).
Модель транзакций с использованием копирования при записи
ZFS использует модель объектных транзакций на основе механизма копирования при записи . Все указатели на блоки внутри файловой системы содержат 256-битную контрольную сумму в целевом блоке, которая проверяется, когда блок прочитан. В качестве контрольной суммы может использоваться либо сумма Флетчера , либо криптографическая хеш-функция SHA-256 . Для данных могут быть выбраны и другие контрольные суммы. Блоки данных, содержащие активные (в этот момент) данные, никогда не перезаписываются вместе; напротив, выделяется новый блок, изменённые данные записываются в него, а затем - метаданные любых блоков, которые на него ссылаются, таким образом всё перераспределяется и записывается. Чтобы уменьшить накладные расходы, в этом процессе группируется несколько обновлений в группу транзакции, также, если требуется, ведётся журнал использования при синхронной записи.
Пул ZFS ведёт журнал нескольких последних десятков версий данных пула (на несколько последних минут, часов или дней, в зависимости от интенсивности изменения данных), предназначенный для восстановления данных в случае, если ошибка в системе привела пул в нерабочее неизлечимое состояние. Благодаря копированию при записи все эти версии данных в журнале самодостаточны, но разделяют между собой общие данные.
Снимки и клоны
Модель копия-по-записи в ZFS обладает ещё одним мощным преимуществом: когда ZFS записывает новые данные — вместо освобождения блоков, содержащих старые данные — она может сохранять их, создавая снимки файловой системы. Снимки в ZFS создаются очень быстро (за исключением редких случаев долгой блокировки пула трудоёмкой операцией с ФС), так как все данные в составе снимка уже сохранены; они также эффективно размещены в пространстве, поскольку любые неизменённые данные разделяются (являются общими) между файловой системой и её снимком.
Также на основе любого снимка может быть создан перезаписываемый снимок («клон»), в результате чего будут две или более независимые файловые системы или тома, которые разделяют комплекс блоков для уменьшения общего занимаемого места и уменьшения времени создания клона. Как только вносятся изменения в какой-либо клон файловой системы, для него создаются блоки новых данных, а во всех остальных клонах остаются прежние данные.
При создании клон привязывается к снимку, на основе которого он создан. Этот снимок не может быть уничтожен, пока на него ссылается хотя бы 2 клона (включая изначальное хранилище). Для удаления этой ссылки хранилище (файловую систему или том) требуется пересоздать, но это легко делается с помощью пересылки, причём можно избежать занятия лишнего места в пуле, если на время пересылки включить дедупликацию и пересылать хранилище в пределах одного пула.
Снимки позволяют получать доступ к данным, которые были в хранилище в момент создания снимка, как к такому же хранилищу только для чтения независимо от оригинального хранилища, его клонов и других снимков. Также они позволяют быстро и точно восстанавливать данные хранилища до состояния снимка.
Снимки и клоны могут создаваться рекурсивно для дерева файловых систем. Это позволяет избежать необходимости многократного повторения команд и самостоятельного управления транзакциями, так как рекурсивное создание снимков атомарно.
Создание снимков и клонов (как и новых файловых систем) может быть затруднено имеющимися ограничениями ZFS. Снимки и клоны не могут быть созданы, если имя хотя бы одного из них превысит ограничение (а полное имя снимка длиннее полного имени оригинала как минимум на 2 символа), если есть конфликт имён (существенно для рекурсивного создания снимков), если новые квоты превышены или резервы невыполнимы (квоты и резервы наследуются от оригинала).
На основе снимков реализовывается инкрементное резервное копирование хранилищ. С помощью пересылки снимков можно воссоздать в любом пуле ZFS ту же последовательность снимков. После создания новых снимков оригинала инкрементная пересылка снимков воссоздаёт в копии или клоне те же обновлённые данные, если нет конфликта обновления. С помощью снимков также можно узнать, какие файлы были изменены, созданы, удалены и переименованы между снимками.
Динамическое разделение
Динамическое всех устройств на максимальной пропускной способности означает, что дополнительные устройства включаются в zpool, более широкие каналы автоматически расширяется для включения использования всех дисков в пуле, это уравновешивает нагрузку на запись.
Различные размеры блока
ZFS использует переменный размер блоков до 1 мегабайта (с 32 версии пула, ранее было до 128 килобайт). В настоящее время администратору позволяется настраивать максимальный размер используемых блоков, но некоторые работы не будут выполняться (или будут выполняться с ошибками), если использовались слишком крупные блоки. Автоматические настройки рабочих характеристик соответствуют привилегиям.
Если сжатие включено, используются переменные размеры блока. Если блок был сжат, он может влиться в блок меньшего размера, то есть используется меньшее пространство на диске и повышается пропускная способность (Input/Output) (ценой расширенного использования процессора и оперативной памяти для операций компрессии и декомпрессии).
Пул ZFS также поддерживает различные размеры секторов устройств и автоматически выбирает наибольший размер блока из устройств, указанных при создании пула (после этого размер блока пула не может быть изменён). Стабильно поддерживаются размеры 512 байт, 4 КиБ (4K). Поддерживаются и блоки больших размеров, но ОС при этом может работать не стабильно.
Сквозной контроль целостности данных
Под сквозным контролем целостности понимается запись на диск контрольной суммы для каждого блока данных, причём контрольная сумма и данные специально разносятся максимально далеко друг от друга для снижения вероятности их совместной порчи. Если в пуле есть несколько устройств, то для данных, размещённых на одном из них, контрольная сумма будет записана на другом. Контрольные суммы вычисляются не только для данных, но и для метаданных, и получается, что в пуле всегда есть контрольная сумма для каждого блока информации.
При считывании любого блока подсчитывается его контрольная сумма и результат сравнивается с контрольной суммой, хранящейся на диске. В случае расхождения ошибка сразу обнаруживается. Разумеется, если в пуле заранее не было запланировано никакого резервирования (ни RAID-Z, ни иного), то ошибку уже не исправить, но зато испорченные данные не будут выданы за истинные.
Смысл сквозного контроля целостности данных в том, чтобы предотвратить скрытую незаметную порчу данных в результате сбоя оборудования или встроенного программного обеспечения диска или контроллера. Несмотря на то, что вероятность такого события кажется низкой, некоторые исследования показывают, что она вполне значима для организаций любого масштаба .
Программы, читающие или пишущие данные, при этом должны поддерживать эти особенности (возможность отказа считывания отдельного блока файла, возможность перехода пула в состояние ожидания восстановления хранилища с зависанием ввода-вывода на неопределённое время).
Создание легковесной файловой системы
В ZFS манипулирование с файловой системой в пуле легче, чем объёмы манипуляций в традиционных файловых системах; время и усилия, требуемые для создания или изменения файловой системы ZFS, в большей степени напоминают объёмы работ, связанные с новым каталогом, чем с манипулированием разделом в других технологиях.
Дополнительные возможности
Среди дополнительных возможностей — функция установки конкретного приоритета ввода-вывода со сроком планирования, поддержка нескольких независимых потоков с упреждением автоматического обнаружения длины и шага, интеллектуальная очистка и коррекция , загрузка и совместное использование дисков в пуле , многократное воспроизведение метаданных , поддержка механизма копирования при записи , возможность выбора загрузочной файловой системы в загрузчике ОС , установки основной загрузочной файловой системы, создания нескольких корневых файловых систем, из которых одна (со всеми дочерними) будет использоваться при загрузке ОС , возможность интеграции обновления программ и ОС с созданием снимков и клонов файловых систем, в которых хранятся программы, и использования этих снимков для лёгкого восстановления прежней версии, а клонов — для создания мультизагрузочной системы с возможностью загрузки разных конфигураций или версий ОС ( Solaris по умолчанию так и обновляется), опция для ограничения имён файлов корректным текстом в UTF-8 в выбранной нормальной форме, опция нечувствительности к регистру символов в именах файлов.
Управление кэшем
ZFS также вводит ( ARC ), новый метод управления кэшем вместо традиционных для Solaris виртуальных страниц кэша в памяти.
Адаптивный порядок байт
Массивы и настроенная на них ZFS могут быть перенесены между разными платформами, даже если те имеют другой порядок байтов. Формат блоков ZFS позволяет автоматически определять и менять порядок байтов на лету при чтении метаданных.
При этом разный порядок байтов на разных системах никак не отражается на приложениях, файлы для них так и остаются простой последовательностью байтов. Таким образом, приложения ответственны за независимый (от платформы) формат уже внутри самих файлов.
Атрибуты пула
Атрибуты пула — это способ управления возможностями и настройками пула. Они имеют специальные типы и ограничения на запись. В них указывается, доступен ли пул на запись или на чтение, включена ли дедупликация данных, ФС для загрузки ОС по умолчанию, альтернативный корень для монтирования, характеристики пула и другое.
Системные атрибуты хранилищ данных
Системные атрибуты хранилищ — это способ управления возможностями и настройками хранилищ. Они имеют специальные типы и ограничения на запись. В них указываются настройки шифрования, сжатия, контрольных сумм, дедупликации, резервного копирования, кэширования, размер блоков хранения данных конкретных хранилищ. Также через них указывается размер томов, точки монтирования ФС, доступность отдельных хранилищ на запись, принадлежность хранилищ к зонам, мандатам, резервы, квоты, настройки автоматического создания сетевых общих ресурсов (NFS, SMB), права доступа к ним и другое. В этих атрибутах указываются характеристики хранилищ. Эти атрибуты упрощают управление функциями, связанными с ФС, но прежде выполняемых вручную (например, настройка монтирования нескольких дополнительных файловых систем, создание сетевых общих ресурсов).
Часть системных атрибутов наследуется дочерними хранилищами, в результате атрибуты применяются сразу и к дочерним хранилищам. Атрибуты управления сжатием, дедупликацией, контрольными суммами данных и тому подобные применяются только к новым записанным данным. Для применения их ко всем данным данные требуется перезаписать (это легко делается пересылкой снимков в тот же пул с пересозданием хранилищ).
Пользовательские атрибуты хранилищ данных
Каждому хранилищу данных (ФС, тому, снимку и др.) могут быть назначены пользовательские атрибуты. Пользовательские атрибуты отличаются от системных по именам. Для пользовательских атрибутов можно использовать любые имена (от 1 до 2¹⁰ байт), но рекомендуется использовать имена, содержащие двоеточие (для исключения конфликтов с системными атрибутами), имя своего домена перед этим двоеточием (для исключения с другими пользователями), имя атрибута после двоеточия. Пользовательские атрибуты наследуются дочерними хранилищами.
В связи с разветвлением разработки новых возможностей в разных ОС несколько таких атрибутов используется в качестве новых системных.
Пользовательские атрибуты используются пользователями и отдельными программами (например, программой автоматического создания и резервного копирования time-slider).
Системные атрибуты файлов
Для файлов любого типа может быть указано значение нескольких системных атрибутов. Эти атрибуты позволяют управлять действиями с файлом. Такие же системные атрибуты есть у расширенных атрибутов файлов.
Помимо атрибутов, хранящих даты создания, последнего доступа, последнего изменения, последнего изменения метаданных, есть атрибуты :
Название атрибута |
Название атрибута в команде
chmod
|
Назначение | Что делает ОС с этим атрибутом |
---|---|---|---|
Скрытый |
hidden
|
Файлы с этим атрибутом не отображаются в общем списке, если эта опция включена и поддерживается в программе вывода файлов. | Ничего. |
Разреженный |
sparse
|
Файл с этим атрибутом рекомендуется обрабатывать как разреженный, то есть содержащий блоки нулевых байт, не хранимых на накопителе, а подразумеваемых. Этот атрибут рекомендательный и не связан с тем, является ли файл разреженным на самом деле. Программа обработки файлов для работы с разреженными файлами всё равно должна получать данные о разреженных блоках файла у ФС. | Ничего. |
Системный |
system
|
Файл с этим атрибутом предназначен для ОС, он не является пользовательским. Обычно не учитывается программами. | Ничего. |
Только для чтения |
readonly
|
Файл с этим атрибутом нельзя изменить (только данные, но не атрибуты). Распространяется на всех без исключений. | Блокирует доступ на запись, если атрибут установлен. |
Для архивирования |
archive
|
Файл требуется архивировать. | Ничего. |
Неудаляемый |
nounlink
|
Для каталогов: имя каталога и имена его непосредственных потомков нельзя удалить или изменить. Для остальных типов файлов: имя файла нельзя удалить или изменить. | Блокирует доступ на изменение имени и удаление, если атрибут установлен. |
Неизменяемый |
immutable
|
Файл с этим атрибутом нельзя изменить (данные, атрибуты, кроме этого самого атрибута и даты последнего доступа). Распространяется на всех без исключений. | Блокирует доступ на изменение, если атрибут установлен. |
Только для дополнения |
appendonly
|
Данные файла можно изменять, только дополняя, но нельзя перезаписывать. | Блокирует доступ на перезапись, если атрибут установлен. |
Не для дампов |
nodump
|
В Solaris не используется. Пришёл из BSD . Требует соответствующих привилегий для изменения. | В Solaris не используется. |
В карантине антивируса |
av_quarantined
|
Доступ к файлу ограничен до снятия карантина. Атрибут может быть установлен и снят только при наличии прав суперпользователя (есть у антивируса). | Блокирует доступ, если атрибут установлен. |
Модифицирован (после последней проверки антивирусом) |
av_modified
|
Сообщает, что текущая версия файла не проверена антивирусом. Устанавливается автоматически при создании файла и каждом изменении данных файла или размера файла. Может быть установлен пользователем с правами на изменение атрибутов. Может быть сброшен только при наличии прав суперпользователя (есть у антивируса). | Автоматически устанавливает атрибут при изменении данных, создании файла. |
Расширенные атрибуты
Для каждого файла любого типа можно создавать расширенные атрибуты. Расширенный атрибут представляет собой именованный массив байт, как обычный файл. Для расширенных атрибутов, как и для обычных файлов, могут быть назначены собственные права доступа и системные атрибуты. В отличие от обычного файла, для расширенных атрибутов не могут быть созданы расширенные атрибуты, жёсткие ссылки.
Для расширенных атрибутов файла доступна возможность ограниченно обращаться как к обычным файлам. Для этого для каждого файла создаётся безымянная папка (в момент создания первого расширенного атрибута), в которой доступны обычные файлы, соответствующие расширенным атрибутам этого файла. В Solaris в эту папку можно попасть с помощью утилиты
runat
.
Делегирование полномочий пользователям
Управление отдельными хранилищами может быть делегировано пользователям. Для этого в ZFS выделены полномочия, которые можно делегировать (создание хранилищ, снимков, их удаление, монтирование, сравнение, пересылка и другое). Полномочия делегируются для выбранных хранилищ аналогично назначению атрибутов и распространяются на дочерние хранилища.
Сохранность и резервирование данных
За счёт принципа «копирование при записи» ( англ. copy-on-write ) данные в ZFS всегда в консистентном состоянии, файл не может потеряться в момент перезаписи .
При использовании томов с избыточностью (тома RAIDZ) обеспечивается сохранность данных при сбое физического носителя , при этом RAIDZ эффективен для относительно длительного хранения больших файлов, особенно при задании соответствующего файлам размера блока, а при частой перезаписи и при размещении файлов маленьких размеров возникает повышенная нагрузка на процессор и дисковую подсистему .
Ограничения
- В реализации ZFS в Solaris 10 отсутствует прозрачное шифрование, как в Solaris 11 и NTFS , хотя существует его реализация в рамках проекта OpenSolaris .
- ZFS не поддерживает распределение квот для каждого пользователя или группы. Вместо этого можно быстро создавать ФС для пользователей, каждая из которых будет иметь свой размер. По сути, не существует практического решения по квотам для файловых систем, совместно используемых разными пользователями (например, проект группы разработчиков), где данные могут быть разделены на каждого пользователя, однако это может быть реализовано поверх стека ZFS.
- Расширение объёма хранения обычно достигается путём добавления группы дисков, таких как (stripe, , RAID-Z2 или зеркало ). Новые данные будут динамически использовать все доступные vdev’ы. Ещё одной возможностью увеличения дискового места является поочерёдная замена физических дисков на более вместительные, с ожиданием, после каждой такой операции, пока ZFS сама себя вылечит . Время лечения зависит от объёма сохранённой информации, а не от размера диска. Если во время лечения будет создан мгновенный снимок — это перезапустит процесс лечения. Замена дисков без потери данных возможна только в одном из режимов работы пула, это позволяющих.
- На текущий момент невозможно уменьшить количество vdev’ов, не уменьшив при этом размер пула. Однако команда разработчиков ZFS работает над этой проблемой. На момент выпуска Solaris 10 08/11 (обновление 10) это всё ещё не реализовано.
- Также невозможно добавить новый диск в массив RAID-Z или RAID-Z2 (vdev’ы). Данная функция является тяжёлой для внедрения. Однако вы можете создать RAIDZ vdev и добавить его в zpool .
- Нельзя смешивать типы vdev в zpool. Например, если у вас есть stripped ZFS пул, содержащий диски на SAN , вы не сможете добавить локальные диски как зеркалируемый vdev.
- Полная реконфигурация хранения данных требует сохранения данных на внешние носители (вне ZFS), уничтожения пулов и создания новых пулов по новым правилам. Но в большинстве случаев можно обойтись пересылкой данных из старого пула в новый средствами ZFS с сохранением всех или желаемых данных и атрибутов (без сохранения вне ZFS). Пересылка не поможет в случае включения или отключения шифрования, смены ограничения на имена файлов, отключения мандатного контроля доступа, изменения размера блока дисков и других редких операциях.
- ZFS не является изначально кластерной , распределённой или файловой системой и не предоставляет конкурирующего доступа к данным с различных хостов. ZFS — это локальная файловая система.
- В реализации ZFS в Solaris 11 нельзя менять тип vdev в zpool. Например, если у вас есть ZFS-пул, содержащий диски (блочные устройства), вы не сможете, скопировав содержимое дисков в обычные файлы, импортировать пул из этих файлов, и наоборот — перенести пул из обычных файлов на диски.
- Удаление большого количества данных является медленной блокирующей операцией (в версии пула 37 и более ранних), например, удаление фрагментированной файловой системы размером в 100 ГиБ может занять более минуты и блокирует операции получения списка файловых систем и некоторых других действий с файловыми системами в том же пуле.
- Нет возможности проконтролировать восстановление пула после восстановления доступа к разным копиям зеркалированного пула. Система сама решает, как вылечить пул, даже если в разные копии пула независимо вносились изменения (это разрешается).
- Сильно повреждённый пул не может быть вылечен и требует пересоздания. При этом, во многих случаях, пользовательские данные можно извлечь из повреждённого пула, импортировав его для чтения.
- Некоторые неизлечимые повреждения пула в системных данных не приводят ни к порче пользовательских данных, ни к блокировке изменения пула. При этих повреждениях пул внешне продолжает долгое время нормально функционировать и не предупреждает о необходимости его исправления. Но без исправления он, в конце концов, потеряет пользовательские данные и придёт в неисправимое или даже в нечитаемое состояние. Возможность обнаружения таких проблем и своевременного автоматического (по возможности) исправления не встроена в ZFS и требует отдельной настройки.
Платформы
ZFS является частью операционной системы Solaris и доступна для обеих платформ — SPARC и x86 . Поскольку код ZFS является открытым (лицензия CDDL), порты для других операционных систем и платформ могут производиться без участия Oracle.
OpenSolaris
OpenSolaris 2008.05 использует ZFS как файловую систему по умолчанию.
Nexenta OS
Nexenta OS — это операционная система с GNU -окружением, построенная поверх ядра OpenSolaris и его среды выполнения, в версии alpha1 в ядро была включена поддержка ZFS. Несколько позднее Nexenta Systems представила NexentaStor — систему для сетевого хранения с поддержкой ZFS, предоставляющую возможности NAS / SAN / iSCSI и базирующуюся на Nexenta OS. NexentaStor включает в себя графический интерфейс, который упрощает процесс использования ZFS. 2 декабря 2008 года выпущена версия NexentaStor 1.1. В ней обновлено ядро OpenSolaris, улучшена интеграция с CIFS/AD, а также добавлены несколько плагинов и исправлены некоторые ошибки. Имеется две редакции NexentaStor: коммерческая Enterprise Edition и бесплатная Community Edition с ограничением максимальной ёмкости хранилища в 18ТБ. По состоянию на август 2012 года, текущей версией ПО является 3.1.3.
Linux
Уровень ядра
Из-за лицензионных ограничений CDDL ZFS не включена в ядро, но доступна в виде модуля ядра, который ныне присутствует во многих дистрибутивах GNU/Linux .
Долгое время в Linux перенос ZFS на уровень ядра считался юридически невозможным из-за несовместимости лицензий CDDL , под юрисдикцией которой находится ZFS, и GNU GPL , под юрисдикцией которой находится Linux . Однако в мае 2010 года Брайан Белендорф представил новую версию проекта, в рамках которого ведётся работа по реализации встроенной поддержки файловой системы ZFS для Linux. Для обхода лицензионного ограничения Белендорф решил распространять свой продукт целиком под лицензией CDDL в виде отдельно загружаемого модуля, который поставляется отдельно от ядра . С марта 2013 года (версия 0.6.1) проект считается готовым к промышленному применению . Ubuntu 16.04 (64-битная версия) является первым из широко распространённых дистрибутивов Linux, готовым к использованию ZFS .
FUSE
Инициативная программа Google Summer of Code спонсирует адаптацию ZFS на Linux с использованием модуля FUSE , в котором файловая система ZFS работает в пользовательском пространстве . Считается, что это решение теоретически чревато потерями производительности . Но пример с реализацией NTFS ( NTFS-3G ) через FUSE показывает хорошую производительность по сравнению с другими системами , что даёт основания прогнозировать приемлемую производительность ZFS-FUSE.
На конец 2012 года представлена в виде версии 0.7.0, в которой включена практически полная поддержка ZFS и всех её функций — внедрена поддержка 23-й версии пула.
FreeBSD
Павел Давидек ( Pawel Jakub Dawidek ) адаптировал ZFS для FreeBSD в виде модуля для ядра системы. ZFS включена в версию FreeBSD 7.0 (вышла 27 февраля 2008) .
Код ZFSv28 протестирован в версии FreeBSD 9 и портирован в стабильную ветку разработки версии 8. Релизы FreeBSD 8.3, 8.4 и 9.0 поддерживают 28-ю версию пула ZFS. Релиз FreeBSD 9.2 и более поздние версии FreeBSD используют новые возможности «feature flags», базирующиеся на реализации Пула версии 5000 .
Во FreeBSD, начиная с 8 версии, для работы ZFS, в отличие от Linux, не требуется наличия FUSE, и, следовательно, отсутствуют проблемы производительности, с этим связанные. Подтверждением этому является то, что ZFS в FreeBSD включена в ядро и присутствует в системе сразу, в числе прочего позволяя осуществить загрузку операционной системы с томов ZFS. А модуль FUSE не входит в операционную систему, и может быть при желании установлен дополнительно из коллекции портов (что требуется например для поддержки NTFS).
Mac OS X
Apple предпринимала попытку перенести ZFS на систему Mac OS X , велась активная дискуссия в списках рассылки ZFS и предварительные срезы для следующей версии Apple Mac OS X . Несмотря на то, что Mac OS X 10.5 (9A321) поддерживает ZFS, в ней отсутствует возможность использовать ZFS на корневых разделах, а также нет возможности форматировать локальные диски под ZFS (последнее считается багом ).
В июне 2009 года Apple на своей пресс-конференции WWDC ’09 отказалась от ZFS в представленной версии Mac OS X 10.6 Snow Leopard, в документации и материалах сайта были убраны все упоминания о ZFS. Компания не раскрывает причины отказа от использования ZFS .
Хотя в сборке Mac OS X 10.6 Snow Leopard под номером 10A432, помеченной как Golden Master, поддержка ZFS была возвращена, в окончательном релизе Mac OS X 10.6 поддержка ZFS вновь убрана, уже окончательно .
В ответ на закрытие официальной поддержки ZFS появился свободный проект, который базируется на ранее созданной Apple кодовой базе, но отличающийся методом интеграции в систему. MacZFS выполняется не на уровне ядра, а на пользовательском уровне, работая с использованием MacFUSE, подготовлен бинарный пакет, собранный на основе опубликованных в Git -репозитории исходных текстов, а также инструкция по настройке.
Redox
Операционная система Redox планировала использовать ZFS как файловую систему по умолчанию, однако позже перешла на собственную реализацию сходных принципов — TFS , написанную на основном языке Redox — Rust .
Примечания
- + +
- (англ.) . GitHub . Дата обращения: 6 августа 2023.
- . Sun Microsystems (14 сентября 2004). Дата обращения: 30 апреля 2006. 4 июня 2012 года.
- Jeff Bonwick. . Jeff Bonwick's Blog (31 октября 2005). Дата обращения: 30 апреля 2006. 13 октября 2012 года.
- . Sun Microsystems (20 июня 2006). 13 октября 2012 года.
- Jeff Bonwick. . Jeff Bonwick's Blog (4 мая 2006). Дата обращения: 8 сентября 2006. 13 октября 2012 года.
- ↑ .
- . LWN.net (17 сентября 2013). Дата обращения: 1 октября 2013. 11 октября 2016 года.
- . OpenZFS (17 сентября 2013). Дата обращения: 19 сентября 2013. 2 апреля 2018 года.
- . OpenZFS. Дата обращения: 24 сентября 2013. 24 декабря 2013 года.
- Простейшая проверка показывает, что в текущей реализации более 16 ЭиБ пул не может использовать. Эту проверку легко провести самостоятельно, так как устройства по 8 ЭиБ предоставляет сама ZFS хоть сотнями на реальный гигабайт места при использовании сжатия.
- Как заявил руководитель проекта Бонвик, «заполнение 128-битных файловых систем превысит квантовые возможности хранения данных на Земле. Вы не сможете заполнить и хранить 128-битный объём, не вскипятив при этом океан.» Пример того, насколько велики эти числа: если создавать 1000 файлов каждую секунду, для достижения предела количества файлов в ZFS потребуется около 9000 лет. Расчёт показывает, что требуемое время составляет 8925,5129601298833079654997463217 лет без учёта изменения угловой скорости записи на диск и других издержек. В ответ на вопрос о заполнении ZFS без кипячения океанов, Бонвик пишет: «Хотя мы все хотели бы, чтобы Закон Мура выполнялся бесконечно долго, квантовая механика накладывает некоторые фундаментальные ограничения на скорость вычислений и информационную вместимость любого физического устройства. В частности, было показано, что 1 килограмм материи, ограниченный 1 литром пространства, может выполнять не более 10 51 операций в секунду над не более чем 10 31 бит информации [см. Seth Lloyd, „ 7 августа 2008 года. .“ Nature 406, 1047—1054 (2000)]. Целиком заполненный 128-битный объём будет содержать 2 128 блоков = 2 137 байт = 2 140 бит; поэтому минимальная масса, необходимая для хранения этого количества бит, будет (2 140 бит) / (10 31 бит/кг) = 136 млрд кг.»
- На атрибуты, используемые ОС, накладываются дополнительные ограничения, например, размер атрибута ФС для списка доступа по NFS в Solaris ограничен примерно 10⁴ байт, что соответствует от 2000 до 20 пользователей в зависимости от длин логинов и хостов.
- . Sun Microsystems, Inc.. Архивировано из 28 октября 2015 года. См. главу 2.4.
- . доклад CERN (8 апреля 2007). Дата обращения: 28 января 2008. 13 октября 2012 года.
- . Блог Jeff'a Bonwick'a (2 мая 2006). Дата обращения: 23 февраля 2007. 13 октября 2012 года.
- . Jeff Bonwick's blog (4 ноября 2006). Дата обращения: 23 февраля 2007. 13 октября 2012 года.
- . Flippin' off bits Weblog (12 мая 2006). Дата обращения: 1 марта 2007. 13 октября 2012 года.
- . Дата обращения: 13 января 2016. 24 октября 2016 года.
- . Дата обращения: 13 марта 2016. 11 октября 2016 года.
- . Дата обращения: 13 марта 2016. 25 марта 2016 года.
- . Дата обращения: 13 января 2016. 2 февраля 2017 года.
- .
- Проект OpenSolaris. Дата обращения: 11 июля 2008. 13 октября 2012 года.
- ↑ Neil McAllister. (англ.) . The Register (30 марта 2013). Дата обращения: 30 марта 2013. 4 апреля 2013 года.
- : [ 29 мая 2010 ] // OpenNET. — 2010. — 27 мая.
- Matt Ahrens, Brian Behlendorf. (англ.) . LinuxCon 2013 (17 сентября 2013). Дата обращения: 25 декабря 2013. Архивировано из 13 ноября 2013 года.
- Ben Everard . Ubuntu 16.04 It’s back — and it’s brilliant. Linux Voice, issue 27, June 2016
- Ricardo Correia. (26 мая 2006). Дата обращения: 15 июля 2006. 13 октября 2012 года.
- Реализация файловой системы на уровне задач пользовательского пространства может нести в себе дополнительные затраты, к примеру переключение контекста . Но такая реализация является основой целой теории микроядерных систем и отличается бо́льшей надёжностью по сравнению с реализацией внутри ядра.
- Szabolcs Szakacsits. (28 ноября 2007). Дата обращения: 20 января 2008. 4 января 2007 года.
- . Дата обращения: 7 ноября 2012. 20 ноября 2012 года.
- Dawidek, Pawel (6 апреля 2007). Дата обращения: 6 апреля 2007. 13 октября 2012 года.
- . FreeBSD. Дата обращения: 30 сентября 2013. 3 октября 2013 года.
- . Дата обращения: 21 апреля 2015. 19 апреля 2015 года.
- . zfs-дискуссии (27 апреля 2006). Дата обращения: 30 апреля 2006. 13 октября 2012 года.
- . InsanelyMac Forums (14 декабря 2006). Дата обращения: 14 декабря 2006. 13 октября 2012 года.
- . InsanelyMac Forums (11 июня 2009). Дата обращения: 11 июня 2009. 13 октября 2012 года.
- . Дата обращения: 2 сентября 2009. 2 сентября 2009 года.
- от 26 октября 2018 на Wayback Machine «TFS was created out of the need for a modern file system for Redox OS, as a replacement for ZFS, which proved to be slow to implement because of its monolithic design.»
- от 18 октября 2018 на Wayback Machine , от 18 октября 2018 на Wayback Machine
Ссылки
- (англ.)
- (англ.)
- Ahrens M. : [ англ. ] : [ 20 ноября 2020 ] / Matthew Ahrens // Delphix. — 2014. — 5 June.
Порты
- (англ.)
- (англ.)
Обзоры и информация
- (англ.) — обзор файловой системы ZFS.
- (рус.) на Xgu.ru
- Мельников Г. : архитектура, особенности и отличия от других файловых систем : [ 1 декабря 2020 ] / Георгий Мельников ; Mail.ru Group // Хабр. — 2020. — 1 декабря.
- 2021-12-27
- 1