В общем беда, есть рейд массив 5, на аппаратном контроллере 3ware, сдох диск, 1 из 8, рейд деградировал но продолжил работать (со странностями). После этого был куплен новый диск такого же объема, установлен он определился как юнит, его добавили в рейд, запустился ребилд и теперь печальная картина
Вложенный файл 307084

Хз чо делать, в винде еще через раз определяется как диск а через раз как неинициализированный рав.

бекапы спасли бы отца русской демократии.
в первую очередь снимаем образа со всех дисков.
и в дальнейшем работаем только с ними!
потом с помощью по по восстановлению данных собираем из них виртуальный рейд если сильно повезет вытаскиваем данные.

что то картинка не грузится

выключаешь свою шарманку с рейдом оп очереди отцепляешь диски , подключаешь к другому компу , снимаешь образы.

капец, нет столько дисков для хранения образов, а чем образы снимать?

Эти образы на 12Тб надо еще где-то разместить. :)

Автор, а если сигейтовский диск вытащить, то массив работает?

Работал, потом люди начали жаловаться что папки перестали по сети открываться, тормоза и тд, выяснилось что рейд в статусе деградед, диск глючный снял запустил без него рейд работал но папки по прежнему то открываются то нет, а потом вообще винда написала что диск (он видится одним диском на 13 терабайт) не проинициализирован, в общем перезагрузка иногда спасала.
Потом появился диск на замену поставил включил ребилд, заодно увидел что у еще одного появились бэды, выбрал опцию ребилд, он перезагрузился и ничего не произошло, а теперь вообще пишет что некомплектный массив и подключите старый диск который был с бэдами

по поводу "куда" это хорошее начало "медленного" дублирующего сервера бэкапа)

Если сейчас новый сигейтовский диск вытащить, то рэйд работает или выдает ошибку? Остальные 7 дисков сейчас статус online?

после манипуляций с дисками заменой попыткой ребилда вот что было.
картинка первая подключил новый диск сигейт выбрал ребилд там надпись подвердите,
картинка вторая порт порт порт хз что это
картинка третья он просит старый глючный диск
хз почему так.

Вложенный файл 307116

Вложенный файл 307117

Вложенный файл 307115

Если вынуть то мне кажется он в винде будет выглядеть как непроинициализированным винда просит что то создать мбр или гпт.

После первой картинки надо было просто ждать, когда ребилд сделается. Долго ждать.
А ты что начал делать, что вторая и третья картинка появились?

вообще да "array being rebuild" .. 0% ... 1% и етц

но яп с ребилдом не спешил и по возможности продублировал инфу ...

Там на первой картинке написано что ребилд начнется после того как нажмешь подтвердить я нажал ф8 появилась 2 картинка и комп перегрузился, после появилась 3 когда я вновь вошел в меню управления

Я ее перевел Вложенный файл 307118

почитал тему - пошел и еще один винт в рейд добавил :D

в итоге то что получилось ?

Для такого количества дисков всетаки 6 рейд нужен

Сейчас сходу невспомню. В р студии была вроде как возможность

Ну при этом RAID 5 должен прекрасно ребилдиться.
Сам лично ребилдил тоже с дисками разных производителей (Hitachi и Seagate) - полет был нормальный, но ребилд ну очень долгий был

Автор, ребилд прошел полностью, точно?

Автор, а с чего ты взял что у тебя рейд того, умер - вон у тебя в Exportable Units же собранный рейд в статусе degraded. А новый винт он видит как еще один массив, который он собрать не может в силу отсутсвия нужного кол-ва дисков.
Я с 3ware не работал, LSI и Adaptec всегда были, но по идее пока ты ничего критично плохого не сделал.

Если в процессе поврежден еще один диск то стелите гроб

Вот и непонятно, почему он не собирает, в общем сейчас картина следующая, рейд деградированный, и 1 сингл диск который просто так болтается.
И все усугубляется еще тем что на еще одном винте появился 201 релокейтед сектор.
Все винты с одной серии работали без перерыва 5 лет.
Сейчас система запустилась, сливаю инфу.
В прошлый раз когда система запустилась я слил 20 гиг и диск исчез. сейчас 30гиг слил уже.

новый диск подсунь.
ну а так сливай инфу - правильный подход.

еще 1 новый? зачем? Сливаю со всей силы) 10 Терабайт долго будут сливаться

Сливай по максимум инфу, затем вытащи сигейтовский диск и смотри, что с массивом будет. Если будет работать и статус деградированный, то сигейтовский диск цепляй к обычному компьютеру и проверяй тестами его работоспособность. Если нормально все, то форматируй и добавляй в свой рэйд как hot spare, он сам его подцепит 8-мым в массив. Если ребилд нормально пройдет, то меняй следующий диск с битыми секторами.
А вообще 5 лет для дисков sata в сервере - это большой возраст, их все надо менять.

блять, потомучто плата его другим рейдом пометила.
вообщем сливай всю инфуу.
и объясни, что 5рейд для бедных и не важных даннх.
10 50 пусть собирают...

Больше дисков воткнуть в контроллер не могу, потому что он 8ми портовый, могу вытащить сигейт (похоже он там вообще без дела) вот только подключить другой 2х терабайтник немогу потому что его тупа нету и небудет.

не надо никуя пока подсовывать
если грузится и дегрейдед массив видит - бэкапим полностью
вынимаем диск который в массив не встал и она его новым массивом сделала и вдумчиво блин читаем мануал по своему контроллеру, там такой талмуд должен был быть, если что - на сайте производителя, 3ware есть, делаем все строго по нему чтобы не было вопросов "хз чо оно у меня спрашивало я нажал enter"

такие массивы... и без бэкапов .... приятных выходных!

Неправильно, вот если бы данные просто хранились на дисках то да, согласен, а так они хранятся в рейд 5, что уже подразумевает резервирование.

Дилетантство.
Массив не исключает необходимость бэкапа никак.
Примеров как можно утратить данные при полностью живом массиве, можно придумать великое множество. Начиная от простейшего человеческого фактора.

ну сейчас ты последствия своего РАЗУМЕНИЯ кушаешь... рэйд это не панацея.

п.с. тебе уже сказали что делать. вытаскивать - сливать.
дальше курить, пить, собирать

искать варианты для бэкапов такого массива
1. полный
2. добавочный

Итого: ~80т.р.

п.с. боюсь представить, что за организация использует столь большой массив? И какие ждут кары, юного натуралиста

10 рейд это не кол-во дисков в нем, а его тип.

Что то происходит интересное Вложенный файл 307136

в корне не верное утверждение.
рейд подразумевает снижение вероятности выхода оперативного хранилища из строя что не отменяет необходимости бекапов.

Это я понял, просто нет в нашей организации дисков запасных кроме одного, а в контроллере портов что бы воткнуть 9 дисков

http://2olenya.ru/uploads/posts/2010...48420_0013.jpg

автор, ты родственник кого то из топов? Кто тебе доверил в клавиатуру пальцами тыкать?

Ахаха удачи!

по мне так у тебя ещё как минимум один винт подыхает. посоны правильно советуют всё с других винтов слить

Без стеба пожалуйста, я бы рад туда не лезть.

Скорее всего

тогда отойди от клавиатуры и позвони вашему системному администратору :D

госконтора, копеечная зарплата и ты только туда пришел?)
самый правильный путь заменить все диски и залить туда образы из бекапа)

Чем вас ребилд так рассмешил?

Он не хочет принимать в этом участие по моему. А так я позвонил уже всем кому мог, остался только фарит.

у госконторы на копеечной зарплате хранилище на 12 тб?

И такое бывает в казначействе например при копеешных зарплатах стоит сервак за 80млн для просчета каких то событий.

рассмешил не ребилд, а твое фундаментальное непонимание что происходит.

Джереми, крути руководство на твое обучение.
Составь таблицу рисков (материалов полно в инете). Покажи на пальцах, что обучить тебя будет дешевле, чем потерять 12тб инфы и простой организации в 2е суток. (это вообще не в какие ворота).

С наилучшими пожеланиями и скорейшего "выздоровления"

Дело в том что работать с рейдами (и серверным железом) это совсем не мое, просто так вышло, естественно я сколько смог почитал и что то понял, а что-то нет. Мне сейчас важно понять на верном ли я пути и достигнет ли ребилд 100% и все заработает как прежде. По сути все сводится же к тому что неисправный отключаем, новый подключаем запускаем ребилд и ждем сколько то времени? Кстати а сколько ждать, до сих пор висит 1%.

как прежде уже не будет, винты по очереди сыпаться начнут

Долго ребилд такого объема будет, долго
пока ребилд не пройдет вообще не надо дергаться, только ошибок наделаешь

Сейчас у тебя что пошло? Ты винт этот сигейтовский как-то к этому массиву подсунул? или его вынул и ребилд снова пошел?

С чего бы? Вовсе не факт, может один посыпется (если начал таки), может они еще десять лет проработают.

когда ребилд 100% будет начнешь вопросы задавать.

данные таки надо вытащить.
обрабатывай руководство на резервные хранилища.

так он скопировал данные как я понял.
и перегрузился
иначе с чего ребилд-то начался

ваще странный чувак
нет чтобы перед тем как делать, почитать мануал, потом перед тем как что-то делать, сказать - пацаны, щас вот так, в таком состоянии, я собираюсь сделать то-то и вот то-то, правильно?
а вместо этого "ололо, вон что-то интересное" - а сделал бэкап, дал доребилдиться или нет - хер поймешь
зачем тогда помощь просил? как будто там за спиной начальник стоит и палкой бьет "чтобы сцуко через 2 часа сервак работал и не тормозил, делай что хочешь!"

В общем дело было так, рейд без одного диска работает но плохо рейд исчезает, скопировать не получилось. Я отстегнал все диски кроме нового, новый убрал из юнит он стал просто диском, потом пристегнул все, сделал рескан, он появился в массиве и начался ребилд, как мне показалось автоматически.

Я ж не знал что на фарите есть столько спецов.

Впредь буду писать сначала

прикольно:)

в какихто 200х лохматых после ребилда - массив забился нулями... пришлось быстро бежать :D

Уже несколько часов прошло а до сих пор 1%, а сколько по времени вообще может быть? 8 винтов по 2Тб. День, неделя, месяц?

2 тб ребилдилось, около суток (с нагрузкой).
считай дальше сам :)

скандиск я хз вобще сколько будет )))

у меня в 6 раз больше 6 суток*24 часа = 144 часа, примерно процент за час, пугает что прошло несколько часов а 1% так и висит. Жаль что там нет никаких наглядных показателей происходящего процесса.

завтра выходной у организации ?
сервер в биосе сейчас ?

Завтра рабочий день, но на сервере данные которые не понадобятся в ближайшее время, сервер сейчас в 3ware биосе

тогда езжай домой, бухай...
утром посмотришь, если так же 1% - задерживай дыхание и ребутай.

п.с. пока сегодня будешь бухать, прочитай мануал по своему рэйду... завтра будешь знать куда тыкать.

вообще ребут в такой ситуации штука опасная, но не критичная - т.е. не ссы!

Кстати, ты можешь сейчас глянуть у тебя винты то мырг-мырг делают (очень часто) ?

На этом компе нет светодиодов которые относятся к хдд, и на самом контроллере тоже, но похоже ничего не происходит потому что если зайти в информацию о дисках там температура 24 градуса, в серверной прохладно конечно но я думал винты бы при ребилде разогрелись немного)
Вложенный файл 307150

Вложенный файл 307151

не думай, иди домой.
завтра приедешь и увидишь что изминилось.

статус st покажи

Время наработки диска 41тыс. часов. Не удивительно, что дохнуть начали. Пиши служебку руководству о необходимости замены всех дисков. Даже если сейчас восстановишь рэйд, то в любой момент остальные диски начнут сыпаться.

жди до утра

и даже поболее.
у одно ребилд 3 суток шел.

повезло.
я уж подумал центральную схд грохнул.

крайне рекомендуется вытащить данные на другие носители, хоть на рабочие машины раскидай, но вытащи.

Подпишусь чтоли, интрига: "Что же будет с рэйдом в понедельник?"

Ок, спс! Мне вот интересно как по последней фото можно было понять что надо ждать.

И заранее вопросы на завтра, есть процент не изменится оставить до понедельника или сделать ребут и снова зайти в 3ware bios? или просто ребут и тогда загрузится винда... она кстати на отдельном 9ом диске он не в рейде, подключен к материнской плате.

еб..ть того админа кто это собрал.... :D
п.с. вообщем до завтра если так же 1% будет, ребутнись.... посмотри статус рэйда на стадии загруки. Если ребилд - грузись в винду и с помошью софта смотри дальше статус "ребилда".
Если во время загрузки увидишь что статус рэйда - дегрейд. Заходи в биос рэйда, убирай из рэйда свою ст... - ребутай... и ПО МАНУЛУ ДОБОВЛЯЙ стшку в РЭЙД!
так то статус у тебя все норм - ребилд идет, но хз что за плата... может и врет.

пспс. ты же писал вроде что у тебя винда не грузилась? А сейчас пишешь что винт с ОС вообще не с этого контролера грузиться

Не я написал что в винде не определялся этот диск, например было так, один раз загрузился рейд диск на месте начинаешь копировать с него он исчезает, перегружаешься диска нет но в управлении дисками он есть и имеет raw формат и винда предлагает его проинициализировать говоря что то про mbr или gpt, а иногда перегружаешь и вообще нету ничего, как будто контроллер сняли.

еще вопрос завтра перезагрузиться как? тупо нажать ресет или выйти по нормальному из biosa?:rolleyes:

ох эксперементатор.
могу за бабки данные восстановить...
дорого тока.

если совсем их не убил.

тупо нажми ресет. в винду не грузись, раз у тебя лог.диск уже не инициализируется....

это ж гос учреждение ) там денег не срубить)

легко.;)

тогда я второй в очереди, на создание резервирование ))

У меня дома раид стоит. 2 ТБ. Перед первым включением они чтото там обрабатывали около 12 часов. Это чистые винты перед первым включением. Раид 1.

Но процесс был виден? У меня тишина, я даде не слышу шелеста головок

мишка зуб давал что десять лет еще работать будут :D

Не шарю, но интересно что дальше будет. Автору удачи)

ты там еще что ли????
сказали же иди домой.
утром приедешь и смотри.
хули сидеть болваном там щас.

Пришел, так и висит 1% нажал ресет зашел в биос а там такая картина.
Вложенный файл 307201

Вложенный файл 307202
Потом загрузился в винду, рейда нет, выключил все нах.

Включил просто так, диски опять в сборе, загрузилась винда рейд виден, перегрузил в биос, вышла следующая картинка.
Вложенный файл 307203
и вновь пошел ребилд 1% подожду до понедельника.

Смысла ждать нет по моему, я бы уже кого-нибудь башковитого пригласил бы
Вон их сколько в теме тут, по фаритовски с магарычом, с пакетом вкусняшек) Пока время есть)

Ни разу. Я сказал, могут и десять лет ещё проработать, могут и завтра вылететь. У правильного сисадмина все диски, установленные в сервер, априори считаются способными подохнуть сразу после установки. Поэтому hot spare и обязательный бэкап.

Что значит в винде нет рейда? Родная утилита 3ware из под винды как диски видит? Видит ли массив?

Джереми, вот Алекса пригласи, вдруг не откажет помочь, я бы давно уже метался как веник)

Это значит что нет диска, я не могу на него зайти. Утилиты 3ware из под винды нету, попробую скачать.

Еще не все потеряно!:D

Не расстраивайся, рейд развалился полносью.
С вероятностью 90%

не факт, просто нахер не надо его ребилдить.
надо разбираться почему он его теряет.
проверять все шлейфы, контакты, питание
то есть без этого сигейта, можно подумать сейчас это основная проблема, что сигейт в массив не встает, основная - спасти данные

Судя по отсутствию паники человека, данных там нет, максимум документы типа заявлений на отпуск и фотки корпоративов)))

Кто-то хорошо живет значит, двенадцать терабайт куйни всякой.
Хер мне кто такую дисковую подсистему подпишет для куйни. :( Кризис наверное.

Грусть печаль

Да не, когда оно не надо,то и не надо...

автор замолчал.
уволился что ли?

Не, выходной же

но я же работаю.
ваще в выхи и надо этим заниматься.
проверено.

Видели бы вы мой ноут сейчас))) Сын экран оторвал, две половинки теперь, лан хоть провода целые, запихал в коробку и скотчем обмотал, теперь не складывается.
Теперь знаю что где мелкие есть, ноут нужно захлопывать, иначе когда нибудь он распахнется на всю мощь)
Народ, за ценами пару лет не слежу, почем можно ноут 15" взять, не игровой, для инета, новый? С телефона сейчас пишу)

Мне бы твои проблемы) купи на фарите, тут же полно предложений

Важную инфу то успел слить?
Если в понедельник опять увидишь 1 % ребилда, то убирай сигейтовский диск, может хоть как раньше запуститься.

Инфа сливается максимум по 20 гиг, после рейд виснет и исчезает из системы, делаю вывод что виной умирающий винт.. второй по счету, сейчас 214 переназначенных секторов. У первого было 600 и массив стал дегрейтед.

Скорее всего так и есть. И ребилд не проходит из-за того, что натыкается на бэд блоки полурабочего винчестера. Или он отключается после нагрузки и выпадает из рэйда.
По 20Гб разной информации сливается? Хотя бы так вытаскивай живые данные.

Так и делаю, времени нет бегать в серверную перегружать по 50 раз в надежде появления рейда

ОС же у тебя на отдельном диске, и при выпадении рэйда не виснет? Радмин установи и не бегай. :D

Когда рейд виснет винда не может перегрузится, тупо висит хотя все открывается на диске с например

Что бы отвис надо питание передернуть

Я конечно наверняка глупость скажу, но сдается мне у автора периодически отваливается WD с индексом Phy0. Возможно по питанию, возможно по перегреву. Был случай система теряла диск после 10 минут работы из-за перегрева чипа какого-то. Закидывал диск в холодильник и потихоньку данные сливал.
Я бы начал с того что цеплял диски по одному и пытался слить образ с него. Я кстати так и не понял-с диска который сыпется образ снят уже?

Нет образ не слит даже с одного диска по причине отсутствия свободных терабайт на предприятии. Заложники самих себя

Завтра попробую кстати слить с бэдового диска образ ну в облако что-ли... Хоть узнаю

А зачем же ты его дpoчишь тогда я понять не могу если сливать данные некуда? Один диск у тебя покойник, второй на подходе, минимум нужен еще один диск так то. И на него ты должен был попытаться слить проблемный диск и только после этого запускать ребилд. Если я не прав пусть меня поправят.

Сейчас я уже уяснил что ребилд делать было вообще глупо как сказал 1 из форумчан,

на хабре была инструкция как получить 20тб в облаке.
заяндекси

Читал что в китае можно получить 32 тб облака, не смог пройти регистрацию))

Так и есть Phy0 с бэдами, возможно из за него виснет рейд, сейчас солью сколько смогу и буду искать его в стойке.

а куда сливаешь-то?

Если файлы мелкие то распихиваю по компам, если крупные то на бекап сервер, там потерли бекапы освободив немного места

бери пока облака у яндекса мэйла итп :D

пишите еще истории

объем небольшой. поэтому слей всю инфу с архивацией. и все диски с рейда проверь состояние, хорошие нульформатни и заного рейд пересобери.

зачем сигейт к вестарнам сувать

потому что нет вентернов у автора, у него ничего нет кроме умирающего рейда :(

Как же вы без бекапов-то...

владелец датацентра ?

бэкап-сервер есть
а бэкапа нет :(

кстати хороший вопрос - а чем там до этого админ занимался, оно ж не в одночасье как я понимаю издохло, статус винтов смотреть в утилите надо хоть время от времени

Может предложите услуги по облачному хранению?

Ну он туда бы не влез, там другие бекапы хранятся.

если с китайским облаком не взлетело, то дешевле варианта купить жд с максимально дешевым гб нет в природе.:rolleyes:

Ну админ кретин значит, объем хранилища для бэкапов же не с потолка берется.
Хотя у вас как-то странно - у вас много что с потолка. Почему так? Потому что такой диск был. Почему бекапов нет? Потому что туда не влезут.

в аренду можно взять еще /кивает

сразу бы назвал свой прайс, а не кивался бы

так то ситуевниа не новая. руководство экономит на сотрудниках, на железе, а потом получают то что получают

Наверное я не первый с этой простой истиной тут, но правильные посоны обычно user's manual читают, прежде чем любые операции проводить.
Вот этот мануал вроде:
ftp://ftp.sgi.com/public/Technical%2...00UsrGuide.pdf

Вообще RAID5 на восьми дисках можно только при наличии обязательного бэкапа собирать.
Если у тя 2 диска вышло из строя, то какие-то данные ты точно потеряешь.

да ты шо.. нормальные посоны мануал читаю когда уже полный трындец

ну вроде как автору "коробка с бананами" случайно досталась

нормальные посоны мануалы не читают (с) :D

Ребята, а DFS кто нибудь у себя на предприятиях использует?

зачем такой гемор, когда NAS и SAN легче в обслуживании и дешевле в эксплуатации?

Просто интересно мнение, на предприятии много компов где диси используются только на 20 процентов, хотелось бы их как то использовать.

ага. уйдет пользователь и выключит свой комп, а у тебя как раз в это время на него запись ведется.
для таких целей можно использовать только те машины работу которых ты контролируешь от и до, да и то точек отказа в этом случае такое кол-во что потом вероятность получить геморой размером с эверест близка к 100%

тебе на бекап "сервер" нужно тыс 100 рублей.
самый не замысловатый комп с кучей сата портов и солянка из 4-5 тб винтов.
посчитай как выгоднее по деньгам за тб.
поставишь туда 2008r2 поднимешь iscsi
http://habrahabr.ru/post/200466/

я бы порекомендовал freebsd+zfs+iscsi :)

используют

пользуясь случаем
как в postfix через sql таблицу алиасов сделал копирование, при этом оставлять исходное письмо там, куда было адресовано ? Непосредственно в sql править ?

извиняй. с этим вопросом не ко мне :)
попробуй на opennet'е спросить

попробовать конечно можно )

ну чо автор собрал рейд или его уволили?

Несовсем, дело кончилось тем что причиной периодического отвала рейда стал диск на 0 порту он кстати в стойке стоял рядом с тем который вышел из строя первым, кое как удалось периодическим передергиванием слить 4 терабайта и второй винт начал "тикать", а потом стал только определяться, по остальным данным приняли решение что они нах уже не нужны. в общем данные слиты, рейд ждет новые диски которые закупят наверное на след год.

ну и слава богам.

Да, спасибо всем кто принимал участие и наставлял на путь истинный)