В последнее время, в связи с массовым появлением на рынке различных серверных систем с применением Serial ATA жестких дисков, в компьютерном сообществе часто возникают споры по поводу быстродействия и надежности подобных систем по сравнению со SCSI системами. Разделим вопросы надежности и быстродействия и подробно остановимся на каждом из них. Поскольку IDE жесткие диски уходят с рынка, мы будем сравнивать SCSI с Serial ATA (SATA) системами. Несмотря на то, что SCSI диски будут в ближайшие годы покидать рынок и на смену им пришли SAS (Serial Attached SCSI) диски, большинство утверждений, относящихся к SCSI справедливы и для SAS. В тех случаях, когда это не так, будут сделаны соответствующие комментарии.
Быстродействие
Итак, на чем строятся аргументы сторонников SCSI дисков в качестве основы высокоскоростных серверных дисковых подсистем? Первый аргумент – интерфейс SCSI отличается бОльшим "интеллектом" по сравнению с SATA. Но даже обычный рядовой пользователь компьютера понимает, что сам по себе жесткий диск представляет собой некую механическую систему для записи/считывания данных и весь интеллект SCSI обеспечивается контроллером на самом жестком диске и контроллером SCSI компьютера. Именно такая пара и обладает весьма важными "интеллектуальными" способностями по обмену данными. Безусловно, пара из обычного SATA контроллера и SATA диска таким "интеллектом" не обладает. Но нас интересуют серверные системы и системы хранения данных - давайте рассмотрим применение SCSI и SATA в них.
В этих системах крайне редко применяются диски сами по себе – требования к надежности хранения данных обуславливают необходимость применения RAID контроллеров и даже для хранения операционной системы используются RAID 1, а для хранения данных применяются, как правило, отдельные RAID массивы уровня 5, 6 или TP. Поэтому логично и разумно рассматривать всю дисковую подсистему в целом, т.е. пару RAID контроллер плюс подключенные к нему диски.
Для SCSI систем RAID контроллер состоит из процессора, занимающегося обработкой данных, кэш-памяти процессора и обычного SCSI контроллера, с помощью которого данные поступают от процессора к дискам или от дисков к процессору. На одном SCSI контроллере обычно "висят" несколько SCSI дисков. Конечно, есть многоканальные (до 4-х каналов) SCSI RAID контроллеры, но и в случае их применения к каждому каналу подключают по несколько дисков. Еще раз обращаем ваше внимание на эту важную особенность – несколько SCSI дисков обслуживаются одним контроллером и всегда несколько дисков "висят" на одной физической шине. Из этого факта следует еще один важный вывод – без какого-либо "интеллекта" работа нескольких дисков на одной физической шине SCSI контроллера была бы просто очень медленной. В новой инкарнации SCSI, SAS уже применена SATA-подобная топология и контроллер общается с диском через индивидуальный порт, причем в полнодуплексном режиме в отличие от полудуплексного SATA.
Для SATA систем RAID контроллер также состоит из процессора, занимающегося обработкой данных, кэш-памяти процессора и раздельных для каждого диска SATA контроллеров, с помощью которых данные поступают от процессора к дискам и от дисков к процессору. Тем самым видна принципиальная разница между SCSI RAID контроллерами и SATA RAID контроллерами – в первом случае несколько дисков обслуживаются одним контроллером и все диски подключены на одну физическую шину, во втором – каждый диск подключен к своему контроллеру индивидуально.
или Теперь простой вопрос – что мешает возложить на процессор RAID SATA контроллера все те интеллектуальные задачи, которые решает SCSI контроллер? Ответ также прост – ничего не мешает и производители хороших RAID контроллеров, такие как 3ware, ArecaAdaptec например, так именно и делают.
Следующий аргумент в пользу SCSI дисков – они быстрее, поскольку скорость вращения шпинделя у SCSI дисков составляет минимум 10000 об/мин, а максимум 15000 об/мин. Действительно, скорость вращения у SCSI дисков больше и, если использовать SCSI диски со скоростью вращения 15000 об/мин, то почти в два раза больше. Но нельзя оценивать только скорость вращения, поскольку большую роль играет плотность записи/чтения на пластины жесткого диска. А вот тут ситуация не столь радужная для SCSI – плотность записи на SCSI дисках как минимум в два раза меньше, соответственно за один оборот диска можно считать/записать в два раза меньше с/на SCSI диск, чем с/на SATA.
Конечно, нельзя утверждать, что большая плотность записи полностью компенсирует большую скорость вращения, но для потоковых операций это практически так и есть, а для множественных операций с небольшими файлами/блоками данных большая скорость вращения предпочтительнее, но в этом случае очень многое зависит от процессора RAID контроллера – насколько он оптимально управляет дисками. Кроме этого, можно распараллелить операции с дисками, просто увеличив их количество. Грубо можно утверждать, что SCSI RAID на трех дисках при прочих равных условиях эквивалентен по производительности для множественных операций с небольшими файлами/блоками данных (random read/write) SATA RAID с 6-8 дисками. Конечно, если ради повышения производительности SATA мы вынуждены увеличивать количество SATA дисков, то и стоимость SATA RAID будет стремиться к стоимости SCSI RAID. Но - емкость SATA RAID будет в разы больше. Иными словами, если вам требуется RAID 5 на 100 гигабайт видимой емкости для random операций, то выгоднее и правильнее построить его на SCSI RAID. Если же нужно более 1 терабайт видимой емкости, то решение на 12 SATA дисках по 160 гигабайт будет заметно дешевле решения на 5 SCSI дисках по 300 гигабайт каждый при практически той же производительности.
Теперь рассмотрим специализированные внешние дисковые массивы, в которых сейчас также наблюдается массовый переход от SCSI к SATA. Даже такие гранды компьютерной индустрии как Hewlett-Packard и IBM, например, выпустили первые модели внешних дисковых массивов с SATA дисками еще в 2004 году.
Конструктивно внешние дисковые массивы (их еще называют системами хранения данных) устроены просто – для подключения к компьютеру используется либо SCSI Ultra320 или SAS (Serial Attached SCSI), либо Fibre Channel 2/4 Gb, а для управления работой массива применяется специализированный компьютер на базе специализированного же RISC процессора с оперативной памятью от 256 мегабайт и внутренней шиной (шинами) PCI-X. Понятно, что с точки зрения компьютера, к которому подключается такая система хранения данных, это обычное SCSI устройство, поддерживающее все возможности SCSI интерфейса.
Сейчас мы попробуем доказать, что производительность системы хранения данных зависит в первую очередь не от типа интерфейса жестких дисков внутри системы, а от мощности специализированного компьютера, обслуживающего жесткие диски и количества жестких дисков. Представим себе, что в систему установлен один жесткий диск. Очевидно, что достичь большей производительности, чем позволяет единственный установленный жесткий диск, нельзя. Никакой процессор не сможет ускорить работу механики жесткого диска и/или увеличить плотность хранения на нем и тем самым скорость записи/чтения данных. Но если установить 5 дисков, например, то при наличии мощного процессора в системе хранения данных можно увеличить производительность в 5 раз относительно производительности одного диска. Добавляя все больше и больше дисков, можно тем самым увеличивать производительность, но только до тех пор, пока процессор системы хранения данных будет успевать обслуживать каждый диск без малейших задержек. Как только процессор перестанет успевать, дальнейшее увеличение количества дисков не приведет к увеличению производительности. Так вот, лучшие на середину 2006 года недорогие системы хранения данных на SATA дисках с процессором Intel 80331 667 MHz достигли максимальной скорости линейного чтения по нашим тестам 270 мегабайт/сек, что близко к пропускной способности SCSI интерфейса (320 MB/s). Надо отметить, что используя технологию Multipath можно добиться и более высоких линейных скоростей записи/чтения.
Тестирование двух систем хранения на разных процессорах, но с идентичными жесткими дисками, также доказывает правоту этого утверждения. Поэтому можно со всей ответственностью утверждать, что производительность системы хранения данных зависит в большей степени от процессора системы и количества дисков, чем от интерфейса и типа жесткого диска. Надежность
Совершенно очевидно, что для серверных систем масштаба предприятия надежность во многих случаях не менее важна, чем производительность. Потеря корпоративной базы данных даже на несколько часов, необходимых для ее восстановления с резервного носителя, может обернуться для компании многомиллионными убытками. Исторически считается, что надежность весьма дорогих SCSI дисков значительно превышает надежность дешевых SATA дисков. Официальные гарантийные сроки для SCSI дисков всегда были не менее 5 лет, а на SATA диски только недавно стали устанавливать такие же сроки гарантии. К сожалению, нам неизвестны достоверные источники информации о реальной статистике отказов жестких дисков SATA по сравнению со SCSI.
Производители жестких дисков, разумеется, приводят в технических характеристиках своей продукции параметр MTBF (Mean Time Between Failure – среднее время между отказами) и для SCSI дисков этот показатель обычно равен 1 200 000 часов, а для SATA MTBF, как правило, не превышает 500 000 часов. Проблема в том, что нет сведений о корреляции MTBF с реальной статистикой отказов – понятие среднего времени между отказами напоминает среднюю температуру по больнице. Понятно, что чем MTBF больше, тем должно быть лучше, но непонятно, каким образом можно использовать значение MTBF в реальной жизни для представления о надежности используемого оборудования. Тем не менее, известная корпорация Western Digital выпустила в середине 2004 года новую серию SATA дисков RAID Edition, официально предназначенных для круглосуточной работы в RAID массивах. MTBF этих дисков объявлен в 1 000 000, что не намного меньше MTBF для SCSI дисков. MTBF второго поколения дисков RAID Edition 2 заявлено в 1 200 000 часов.
Но, даже если считать надежность SATA дисков заведомо более низкой, чем у SCSI дисков, стоимость SATA дисков позволяет добавить в RAID массив один или два диска для "горячего" резерва без заметного удорожания системы и/или использовать RAID 6/RAID TP. Для потери данных на таких RAID из стоя должны выйти одновременно 3 или 4 диска. Поэтому надежность работы RAID на SATA дисках в целом можно сделать не ниже надежности RAID на SCSI дисках. Перспективы Оборудование На наш взгляд, перспективы систем на SATA дисках с 2006 года выглядят более радужными для серверных систем, чем на SCSI дисках. Начиная с осени 2006 года классический параллельный SCSI покидает рынок и на смену ему пришел SAS (Serial Attached SCSI). Приход SAS для поклонников SCSI не сулит ничего хорошего. Дело в том, что контроллеры и корзины (enclosure) для SAS дисков совместимы с SATA дисками. Иными словами, в подавляющем большинстве случаев пользователь всегда сможет в SAS корзину, подключенную к SAS RAID контроллеру установить SATA диски и попробовать оттестировать решение с ними. Поскольку для многих задач SATA даже в небольших RAID вполне достаточно, пользователь может отказаться использовать SAS диски, так как у них цена за гигабайт хранения в разы больше.
Компания Intel, например, увеличила количество SATA портов до 6 (с 2-х) во всех новых версиях своих серверных платформ на платформе Bensley - SR1500 (1U), SR2500 (2U) и SC5400 (Desktop и 5U Rack). Практически все именитые производители серверного оборудования выпускают модели внешних дисковых массивов с SATA дисками. Что касается собственно производителей систем хранения данных, таких как Maxtronic International, Medea Corporation, Enhance Technology, Infortrend, AXUS, Silicon Graphics Inc и многих других, то они уже давно выпустили множество моделей с поддержкой SATA дисков. У ряда производителей систем хранения данных модели на SCSI дисках просто отсутствуют в списке выпускаемого оборудования. Интерфейсы -
SATA - В дисках и контроллерах с новыми версиями интерфейса SATA появилась поддержка набора инструкций Native Command Queuing (Очередь или конвейер команд). При использовании Native Command Queuing контроллер SATA выстраивает запросы ввода-вывода таким образом, чтобы минимизировать время поиска данных на диске. В 2006 году также произошел переход с SATA I на SATA II, что увеличило скорость SATA интерфейса со 150 MB/s до 300 MB/s. Правда, на таком уровне скорость интерфейса практически не имеет отношения к производительности дисковой подсистемы. -
SCSI - классический вариант параллельного SCSI интерфейса, судя по всему, реального развития уже никогда иметь не будет. Он еще долго будет использоваться для сопряжения множества уже выпущенных внешних устройств с компьютерами, но в новых системах использоваться не будет. Новые модели контроллеров SCSI не разрабатываются с 2004 года. -
SAS (Serial Attached SCSI) - безусловный шаг вперед по сравнению с классическим параллельным SCSI интерфейсом. В перспективе скорость обмена данными между контроллером SAS и диском (дисками) должна достигнуть 12 Gb/s. В отличии от параллельного SCSI, у SAS каждое устройство подключается к своему SAS порту, причем по полнодуплексному каналу, т.е. с раздельными шинами ввода и вывода. Интерфейс полностью совместим сверху вниз с SATA, т.е. SATA диски смогут работать с SAS контроллерами и в SAS корзинах (enclosure), но не наоборот. Сферы применения
Грубо можно разделить все сферы применения обсуждаемых интерфейсов на две. -
Первая сфера: работа с дисками требует в основном линейного, последовательного чтения/записи данных относительно большими блоками. К этой сфере относится работа с видео, оцифрованным кино, CAD/CAM, файловые архивы, хранение резервных копий данных и т.п. Для подобных применений SCSI диски уже давно не используются и в этой сфере безраздельно царствуют IDE/SATA диски. Здесь требуются высокие скорости линейной записи/чтения и терабайтные емкости RAID массивов. -
Вторая сфера: бизнес - применения. Множественный доступ к различным областям дисков, запись/считывание данных небольшими (4-64 KB) блоками. К этой сфере относится работа с базами данных, различные варианты файл-серверов с большим количеством пользователей. Здесь требуются высокие скорости случайной (random) записи/чтения. Пока в этой сфере в основном используются SCSI диски и массивы, но постепенно SATA начинает проникать и сюда. Сложно сказать, чем и когда закончится это проникновение. Для решения задач в этой сфере надо просто подбирать массив исходя из данных нагрузки на него. Заключение
Оно кратко - нет никаких достаточных оснований утверждать, что RAID системы с SATA дисками заметно уступают как в быстродействии, так и в надежности RAID системам на SCSI дисках для всех задач. Безусловно, есть ряд задач, которые наиболее качественно будут решены на SCSI/SAS массивах, но сфера применения SATA дисков все-таки расширяется, а SCSI/SAS уменьшается. Еще в 2003 году, например, практически ни один известный производитель серверов не предусматривал возможности установки IDE дисков с горячей заменой в свои сервера. Сейчас все наоборот - все младшие (а у некоторых производителей не только младшие) модели серверов имеют возможность использования SATA дисков с их горячей заменой. Кроме этого, RAID массивы на SATA дисках позволяют создать большие по емкости массивы – до 11 терабайт на 16-ти дисковой системе хранения данных. На SCSI дисках такой массив должен будет стоить как минимум в 3 раза выше. Поэтому, на наш взгляд, движение индустрии пойдет в сторону все большего и большего применения SATA дисков с сохранением популярности SCSI/SAS и его оптического аналога Fiber Channel в качестве интерфейса для обмена данными между компьютером и внешним RAID массивом. |