В настоящее время объемы хранящейся информации на файловых серверах любого уровня и масштаба составляют колоссальные размеры, которые с каждым годом значительно прирастают. Производители накопителей информации обеспечивают технологический прогресс, увеличивают объемы накопителей информации. Однако, главным критерием любого накопителя информации, влияющим на такую характеристику информации как целостность, является надежность. Думаю, многие сталкивались с ситуацией, особенно на заре развития компьютерных технологий, когда жесткий диск выходил из строя, и в случае отсутствия резервной копии, данные могли быть утеряны. В нынешнее время для обеспечения защиты от утраты информации используются различные методы, в том числе технологии дисковых массивов (RAID). Помимо этого, хорошим способом защиты является своевременное выявления и замена "уставших" накопителей информации. Для этого была разработана технология самоконтроля, анализа и отчётности накопителей информации, более известная как S.M.A.R.T. (или короче SMART).
Все современные накопители информации (HDD, SSD и т.п.) поддерживают данную технологию, что позволяют проверять состояние данных накопителей информации. Для мониторинга параметров SMART накопителей информации имеется множество различного софта, однако я бы хотел отметить ПО с открытым исходным кодом smartmontools, которое кстати присутствует в портах FreeBSD. Программное обеспечение smartmontools включает набор утилит для контроля и изменения состояния накопителей информации через технологию SMART, которые работают на любых современных платформах. В портах FreeBSD находится по пути /usr/ports/sysutils/smartmontools.
После установки пользователю доступно две утилиты smartctl и smartd, первая из которых позволяет из командной строки получать информацию о характеристиках и состоянии накопителей информации, а вторая позволяет мониторить их состояние в реальном времени. Из полезных ключей smartctl я выделю только два, про остальные можно почитать в манах или на официальном сайте.
- -a, --all — вывести все сведения из SMART. Для ATA устройств является эквивалентом набору ключей -H -i -c -A -l error -l selftest -l selective, для SCSI устройств набору ключей -H -i -A -l error -l selftest, для устройств типа NVMe -H -i -c -A -l error.
- -x, --xall — вывести все имеющиеся об устройстве сведения из SMART и внутренней базы данных. Для ATA устройств является эквивалентом набору ключей -H -i -g all -g wcreorder -c -A -f brief -l xerror,error -l xselftest,selftest -l selective -l directory -l scttemp -l scterc -l devstat -l defects -l sataphy, для SCSI устройств набору ключей -H -i -g all -A -l error -l selftest -l background -l sasphy, для устройств типа NVMe -H -i -c -A -l error.
В большинстве случаев в SMART накопителя информации доступны следующие параметры:
- Raw Read Error Rate — частота ошибок при чтении данных с диска, связанных с работой аппаратной частью диска.
- Spin-Up Time — время, затраченное на разгон пластин диска из состояния покоя до номинальной скорости. Может увеличиваться при износе мотора диска и его частей, из-за некачественном электропитания.
- Start/Stop Count — число циклов запуск/остановка шпинделя диска.
- Reallocated Sectors Count — количество операций по переназначению секторов. Когда диск обнаруживает ошибку чтения/записи на сектор, то сектор помечается как «переназначенный», прошивка диска переносит данные в специально отведённую резервную область. Увеличение данного значения свидетельствует о значительном износе диска и возможно скором выходе из строя.
- Seek Error Rate — частота ошибок при позиционировании магнитной головки. Увеличение данного значения может свидетельствовать об ухудшении состояния механических частей жёсткого диска. На некоторых моделях на значение параметра может повлиять перегрев и внешние вибрации.
- Power-on Time Count (Power-On Hours) — время, проведенное во включенном состоянии (обычно указывается в часах, зависит от производителя). Пороговым значением может быть время наработки на отказ (MTBF).
- Spin-Up Retry Count — количество повторных попыток разгона магнитных пластин жесткого иска до номинальной скорости. Увеличение значения может свидетельствовать об износе механической части жесткого диска.
- Command Timeout — количество прерванных операций в связи с истечением времени ожидания. Ненулевое значение может свидетельствовать о плохом питании или испорченном шлейфе передачи данных.
- High Fly Writes — количество зафиксированных случаев записи при высоте полета магнитной головки выше рассчитанной (например, из-за вибрации).
- Airflow Temperature — температура воздуха внутри корпуса жёсткого диска.
- G-sense error rate (Mechanical Shock) — количество ошибок, возникающих в результате ударных нагрузок. Параметр отражает показания встроенного акселерометра, который фиксирует все удары, толчки, падения.
- Power-off retract count — количество циклов выключений или аварийных отказов (включений/выключений питания накопителя).
- Hardware ECC Recovered — число коррекций ошибок аппаратной частью диска (чтение, позиционирование, передача по внешнему интерфейсу).
- Current Pending Sector Count — количество подозрительных секторов, которые возможно являются не читаемыми (определяется прошивкой диска). В дальнейшем, если сектор не будет читаться он перейдет в разряд переназначенных. Увеличение данного значения свидетельствует о значительном износе диска и возможно скором выходе из строя.
- Uncorrectable Sector Count — число не корректируемых (средствами диска) секторов. Увеличение данного значения свидетельствует о значительном износе диска и возможно скором выходе из строя.
- UltraDMA CRC Error Count — количество ошибок, возникающих при передаче данных по внешнему интерфейсу в режиме UltraDMA. Увеличение этого параметра моет свидетельствовать о плохом питании, испорченном шлейфе передачи данных или проблем с драйверами.
- Load Cycle Count — количество циклов перемещения магнитных головок в "парковочную" область. Большое значение (более 1000) при непродолжительном времени работы диска говорит о кривом алгоритме экономии энергии. Частая парковка головок диска снижает его ресурс. Особенно часто эта проблема встречается на дисках фирмы Seagate. Лечится отключением функции Advanced Power Management.
- Power-Off Retract Cycle — количество повторов автоматической "парковки" магнитных головок в результате выключения питания.
- Head flying hours — общее время нахождения блока головок в рабочем положении в часах.
- Total LBAs Written — число записей LBA. Для SSD диска является важным параметром, поскольку отражает объем записанных в ячейки памяти диска данных. В таком случае пороговым значением может быть максимальное количество перезаписей, заявленное производителем SSD.
- Total LBAs Read — число чтений LBA.
Данный список не является исчерпывающим. Однако, исходя из приведенных данных, наиболее значимыми параметрами SMART являются Reallocated Sectors Count, Current Pending Sector Count, Uncorrectable Sector Count. Увеличение значений данных параметров позволяет судить о сильном износе жесткого диска, о возможном выходе его из строя в скором времени. Такие диски лучше незамедлительно заменять.
Пример работы утилиты:
# smartctl -a /dev/ada1
smartctl 7.0 2018-12-30 r4883 [FreeBSD 11.3-RELEASE-p3 amd64] (local build)
Copyright (C) 2002-18, Bruce Allen, Christian Franke, www.smartmontools.org
=== START OF INFORMATION SECTION ===
Model Family: Seagate Barracuda 3.5
Device Model: ST2000DM006-2DM164
Serial Number: Z4ZAGKM0
LU WWN Device Id: 5 000c50 0b00658ed
Firmware Version: CC26
User Capacity: 2 000 398 934 016 bytes [2,00 TB]
Sector Sizes: 512 bytes logical, 4096 bytes physical
Rotation Rate: 7200 rpm
Form Factor: 3.5 inches
Device is: In smartctl database [for details use: -P show]
ATA Version is: ACS-2, ACS-3 T13/2161-D revision 3b
SATA Version is: SATA 3.1, 6.0 Gb/s (current: 3.0 Gb/s)
Local Time is: Fri Sep 6 01:55:21 2019 +05
SMART support is: Available - device has SMART capability.
SMART support is: Enabled
=== START OF READ SMART DATA SECTION ===
SMART overall-health self-assessment test result: PASSED
General SMART Values:
Offline data collection status: (0x00) Offline data collection activity
was never started.
Auto Offline Data Collection: Disabled.
Self-test execution status: ( 0) The previous self-test routine completed
without error or no self-test has ever
been run.
Total time to complete Offline
data collection: ( 80) seconds.
Offline data collection
capabilities: (0x73) SMART execute Offline immediate.
Auto Offline data collection on/off support.
Suspend Offline collection upon new
command.
No Offline surface scan supported.
Self-test supported.
Conveyance Self-test supported.
Selective Self-test supported.
SMART capabilities: (0x0003) Saves SMART data before entering
power-saving mode.
Supports SMART auto save timer.
Error logging capability: (0x01) Error logging supported.
General Purpose Logging supported.
Short self-test routine
recommended polling time: ( 1) minutes.
Extended self-test routine
recommended polling time: ( 213) minutes.
Conveyance self-test routine
recommended polling time: ( 2) minutes.
SCT capabilities: (0x1085) SCT Status supported.
SMART Attributes Data Structure revision number: 10
Vendor Specific SMART Attributes with Thresholds:
ID# ATTRIBUTE_NAME FLAG VALUE WORST THRESH TYPE UPDATED WHEN_FAILED RAW_VALUE
1 Raw_Read_Error_Rate 0x000f 113 099 006 Pre-fail Always - 57310976
3 Spin_Up_Time 0x0003 097 096 000 Pre-fail Always - 0
4 Start_Stop_Count 0x0032 100 100 020 Old_age Always - 18
5 Reallocated_Sector_Ct 0x0033 100 100 010 Pre-fail Always - 0
7 Seek_Error_Rate 0x000f 064 060 030 Pre-fail Always - 3141138
9 Power_On_Hours 0x0032 088 088 000 Old_age Always - 11359
10 Spin_Retry_Count 0x0013 100 100 097 Pre-fail Always - 0
12 Power_Cycle_Count 0x0032 100 100 020 Old_age Always - 18
183 Runtime_Bad_Block 0x0032 100 100 000 Old_age Always - 0
184 End-to-End_Error 0x0032 100 100 099 Old_age Always - 0
187 Reported_Uncorrect 0x0032 100 100 000 Old_age Always - 0
188 Command_Timeout 0x0032 100 100 000 Old_age Always - 0 0 0
189 High_Fly_Writes 0x003a 100 100 000 Old_age Always - 0
190 Airflow_Temperature_Cel 0x0022 069 059 045 Old_age Always - 31 (Min/Max 22/39)
191 G-Sense_Error_Rate 0x0032 100 100 000 Old_age Always - 0
192 Power-Off_Retract_Count 0x0032 100 100 000 Old_age Always - 1
193 Load_Cycle_Count 0x0032 098 098 000 Old_age Always - 4439
194 Temperature_Celsius 0x0022 031 041 000 Old_age Always - 31 (0 22 0 0 0)
197 Current_Pending_Sector 0x0012 100 100 000 Old_age Always - 0
198 Offline_Uncorrectable 0x0010 100 100 000 Old_age Offline - 0
199 UDMA_CRC_Error_Count 0x003e 200 200 000 Old_age Always - 0
240 Head_Flying_Hours 0x0000 100 253 000 Old_age Offline - 185h+05m+29.981s
241 Total_LBAs_Written 0x0000 100 253 000 Old_age Offline - 2759093788
242 Total_LBAs_Read 0x0000 100 253 000 Old_age Offline - 4131477654
SMART Error Log Version: 1
No Errors Logged
SMART Self-test log structure revision number 1
No self-tests have been logged. [To run self-tests, use: smartctl -t]
SMART Selective self-test log data structure revision number 1
SPAN MIN_LBA MAX_LBA CURRENT_TEST_STATUS
1 0 0 Not_testing
2 0 0 Not_testing
3 0 0 Not_testing
4 0 0 Not_testing
5 0 0 Not_testing
Selective self-test flags (0x0):
After scanning selected spans, do NOT read-scan remainder of disk.
If Selective self-test is pending on power-up, resume after 0 minute delay.
С помощью утилиты smartctl можно управлять отдельными функциями диска, например отключить Advanced Power Management, которая на некоторых моделях вызывает проблему частой парковки головок диска, что приводит к снижению ресурса устройства (как видно из вывода выше, диск имеет такую проблему, обратите внимание на параметры Power_On_Hours и Load_Cycle_Count). В частности, APM можно управлять так:
# smartctl -g apm /dev/ada1
smartctl 7.0 2018-12-30 r4883 [FreeBSD 11.3-RELEASE-p3 amd64] (local build)
Copyright (C) 2002-18, Bruce Allen, Christian Franke, www.smartmontools.org
APM level is: 128 (minimum power consumption without standby)
# smartctl -s apm,off /dev/ada1
smartctl 7.0 2018-12-30 r4883 [FreeBSD 11.3-RELEASE-p3 amd64] (local build)
Copyright (C) 2002-18, Bruce Allen, Christian Franke, www.smartmontools.org
=== START OF ENABLE/DISABLE COMMANDS SECTION ===
APM disabled
# smartctl -g apm /dev/ada1
smartctl 7.0 2018-12-30 r4883 [FreeBSD 11.3-RELEASE-p3 amd64] (local build)
Copyright (C) 2002-18, Bruce Allen, Christian Franke, www.smartmontools.org
APM feature is: Disabled
Периодический контроль SMART накопителей информации позволит выявить "уставший" диск, своевременно принять соответствующие меры. В случае, если накопителей информации много или лень каждый раз запускать проверять состояние через smartctl, на помощь приходит утилита smartd, которая по сути является демоном и занимается мониторингом накопителей информации в реальном времени. В FreeBSD конфигурационный файл smartd располагается тут /usr/local/etc/smartd.conf и содержит следующее:
# smartd перечитает данный файл при получении сигнала HUP
# В данном файле определяется список устройств, состояние которых
# будет контролироваться smartd. Устройства указываются по одному
# в строку. Сроки после символа # игнорируются и могут использоваться
# в качестве комментариев. Символ '\' может использоваться для
# переноса директив на следующую строку для улучшения читаемости конфига.
# Служебные (системные) наименования накопителей информации в некоторых системах
# можно посмотреть в /proc/ide и /proc/scsi.
# Директива DEVICESCAN заставляет smartd игнорировать другие параметры,
# (касающиеся накопителей информации) в данном файле. В случае ее использования
# smartd будет самостоятельно искать подключенные накопители информации
# (ATA и SCSI). Директива DEVICESCAN может быть задана после других
# директив, которые задают параметры мониторинга для конкретных устройств.
# В большинстве случаев использование данной директивы нецелесообразно,
# лучше указывать конкретные устройства, состояние которых необходимо
# контролировать.
DEVICESCAN
# Другая форма задания директивы, которая исключает вывод в отчеты (syslog) сведений
# о температуре устройства и времени его работы.
#DEVICESCAN -I 194 -I 231 -I 9
# Другая форма задания директивы, которая делает более подробным вывод
# в отчеты (логи) сведений о температуре устройства.
#DEVICESCAN -R 194 -R 231 -I 9
# Другая форма задания директивы, которая заставляет smartd писать информацию в лог
# в случае изменения температуры устройства на 5 и более градусов и превышения
# минимального/максимального порога.
#DEVICESCAN -I 194 -I 231 -I 9 -W 5
# Контроль первого ATA/SATA или SCSI/SAS устройства. Мониторинг всех
# параметров, включение на устройстве автоматического сохранения параметров
# SMART (прим. автора - не знаю зачем, в большинстве случаев итак включено),
# запуск "короткого" самотестирования каждый день межу 2-3 ночи,
# запуск полного самотестирования по субботам межу 3-4 ночи
#/dev/sda -a -o on -S on -s (S/../.././02|L/../../6/03)
# Мониторинг состояния SMART статуса, ATA Error Log, Self-test log,
# запись в лог всех изменений, за исключением параметра под номером 194
#/dev/sdb -H -l error -l selftest -t -I 194
# Контроль всех параметров на устройстве за исключением температуры
# (номер параметра 194), но информирование через лог изменений температуры
# на 4 или более градусов, о преувеличении порога в 45 градусов,
# изменении значения в параметре Reallocated_Sector_Ct.
# Отправка письма на электронный адрес в случае превышения порога в 55 градусов.
#/dev/sdc -a -I 194 -W 4,45,55 -R 5 -m admin@example.com
# На некоторых ОС ATA диски могут определяться как SCSI устройства.
# Если имеется такое преобразование (SCSI в ATA Translation (SAT)),
# тогда для корректной работы такое устройство может быть задано
# через флаг '-d sat' option. Также, такая ситуация может возникнуть
# в случае использования дисков через какие либо переходники.
# /dev/sda -a -d sat
# Мониторинг только SMART статуса. Если он устанавливается в статус
# провален, тогда информировать на почту.
#/dev/sdc -H -C 0 -U 0 -m admin@example.com
# Мониторинг двух первых SCSI дисков. smartd будет контролировать все,
# что умеет контролировать. Запуск самотестирования дисков по средам
# между 6-7 вечера и по воскресеньям между 1-2 часов ночи.
#/dev/sda -d scsi -s L/../../3/18
#/dev/sdb -d scsi -s L/../../7/01
# Контроль состояния 4 ATA дисков, подключенных череp контроллер 3ware 6/7/8000.
# Запуск полного самотестирования дисков каждое воскресенье между 1-2, 2-3, 3-4,
# и 4-5 часов утра.
# Учтите: начиная с версии ядра Linux 2.6, устройства наименование устройств
# как /dev/sdX устарело. Вместо этого используйте /dev/tweN.
#/dev/sdc -d 3ware,0 -a -s L/../../7/01
#/dev/sdc -d 3ware,1 -a -s L/../../7/02
#/dev/sdc -d 3ware,2 -a -s L/../../7/03
#/dev/sdc -d 3ware,3 -a -s L/../../7/04
# Контроль состояния 2 ATA дисков, подключенных через контроллер 3ware 9000.
# Запуск полного самотестирования дисков каждый вторник 1-2 и 3-4 утра.
#/dev/twa0 -d 3ware,0 -a -s L/../../2/01
#/dev/twa0 -d 3ware,1 -a -s L/../../2/03
# Контроль состояния 2 ATA (на SAS) дисков, подключенных через контроллер 3ware 9000.
# Запуск полного самотестирования дисков каждый вторник 1-2 и 3-4 часов утра.
# На FreeBSD необходимо использовать /dev/tws0.
#/dev/twl0 -d 3ware,0 -a -s L/../../2/01
#/dev/twl0 -d 3ware,1 -a -s L/../../2/03
# Тоже самое, только под Windows. Параметр '-d 3ware,N' не требуется,
# адрес устройства (порт)указан в его имени.
# Учтите: На Windows DEVICESCAN работает только для контроллеров 3ware.
#/dev/hdc,0 -a -s L/../../2/01
#/dev/hdc,1 -a -s L/../../2/03
# Контроль состояния 3 ATA дисков, подключенных к HighPoint RocketRAID.
# Запуск полного самотестирования дисков каждое воскресенье между 1-2, 2-3
# 3-4 часов утра.
#/dev/sdd -d hpt,1/1 -a -s L/../../7/01
#/dev/sdd -d hpt,1/2 -a -s L/../../7/02
#/dev/sdd -d hpt,1/3 -a -s L/../../7/03
# Контроль состояния 2 ATA дисков, подключенных PMPort, к которому также
# подключен HighPoint RocketRAID. Запуск полного самотестирования дисков
# каждый вторник между 1-2 и 3-4 часов ночи.
#/dev/sdd -d hpt,1/4/1 -a -s L/../../2/01
#/dev/sdd -d hpt,1/4/2 -a -s L/../../2/03
# Список директив, которые могут использоваться в данном конфиге
# За дополнительной информацией обращайтесь в ман по smartd.conf
#
# -d TYPE тип устройства: ata, scsi, marvell, removable, 3ware,N, hpt,L/M/N
# -T TYPE указываем допуски: normal, permissive
# -o VAL Enable/disable Automatic offline tests (on/off)
# -S VAL Enable/disable attribute autosave (on/off)
# -n MODE No check. MODE is one of: never, sleep, standby, idle
# -H контроль состояния SMART Health Status, сигнализировать в случае сбоев
# -l TYPE контроль лога SMART. Тип лога: error, selftest
# -f контроль сбоев, отражающихся в параметрах 'Usage'
# -m ADD отправлять email на адрес в случае сбоев
# -M TYPE задать формат собственного сообщения email (see man page)
# -s REGE Запуск самотестирования когда выполняется регулярное выражения (see man page)
# -p сигнализировать об изменениях в 'Prefailure' Normalized Attributes
# -u сигнализировать об изменениях в 'Usage' Normalized Attributes
# -t объединяет действие параметров -p и -u
# -r ID информировать об Raw значения в Attribute ID, указывается совместно с -p, -u или -t
# -R ID контролировать изменения Raw значения в Attribute ID, указывается совместно с -p, -u или -t
# -i ID игнорировать Attribute ID при использовании параметра -f
# -I ID игнорировать Attribute ID при использовании параметров -p, -u или -t
# -C ID сигнализировать в случае если Current Pending Sector count изменилось
# -U ID сигнализировать если Offline Uncorrectable count изменилось
# -W D,I,C Контроль Температуры D)ifference, I)nformal limit, C)ritical limit
# -v N,ST Modifies labeling of Attribute N (see man page)
# -a Default: equivalent to -H -f -t -l error -l selftest -C 197 -U 198
# -F TYPE учитывать косяки в прошивке (Use firmware bug workaround. Type is one of: none, samsung)
# -P TYPE Drive-specific presets: use, ignore, show, showall
# # комментарий: текст после данного символа игнорируется
# \ используется для переноса части директивы на другую строку
# Attribute ID это цело число 1 <= ID <= 255 за исключением
# случая использования параметров -C и -U.
# Параметры -d, -m и -M реализованы только для ATA устройств
#
# Если директива DEVICESCAN в самом начале раскомментирована, тогда smartd
# будет контролировать все подключенные устройства.
Думаю дополнительных примеров настройки smartd не требуется, так как в дефолтном конфиге имеется куча примеров. Запуск демона достаточно прост.
echo 'smartd_enable="YES"' >> /etc/rc.conf
service smartd start
На этом заметка закончена, на мой взгляд получилось достаточно подробно. В случае наличия предложений прошу писать в комментарии, а если имеются вопросы, тогда на форум.
Добавить комментарий