21 Март 2019, 02:12

Цитата дня:

UNIX не предназначен для ограждения своих пользователей от глупостей, поскольку это оградило бы их и от умных вещей. Дуг Гвин


Veeam 7.0 ошибка после обновления инфраструктуры до 6.5

Автор Призрак, 12 Март 2019, 20:25

« предыдущая тема - следующая тема »

Уваров А.С. и 1 Гость просматривают эту тему.

Вниз

Призрак

Собственно, возникла следующая проблема. Veeam старой версии, обновить пока нету никакой возможности. При попытке выполнить задания после обновления (vc1 обновил, ресканил, репозитории ресканил, авторизация везде нормальная), возникает ошибка, что на снимке. Пишут, что нужно вроде бы как включить протокол SSLv3. Пытался сделать по этой базе

https://kb.vmware.com/s/article/2121021

при вводе первой же команды esxcli system settings advanced list -o /UserVars/VMAuthdDisabledProtocols

возникает ошибка

Unable to find option VMAuthdDisabledProtocols

Ну что ещё ему надо? До белого каления ведь доводит! Как сделать так, чтобы это проклятие работало? Достал уже этот veeam, честное слово! Столько проблем с ним! То снепшоты нормально удалить не может, то резервные копии  сделать!

Уваров А.С.

Гугл советует почитать вот это: https://www.veeam.com/kb1198

Уваров А.С.

А вот это для расширения кругозора и понимания ситуации: https://blogs.vmware.com/vsphere/2017/03/vsphere-tls-1-2.html

Призрак

#3
13 Март 2019, 06:27 Последнее редактирование: 13 Март 2019, 06:42 от Призрак
Вот, я хочу дать дополнительную информацию. В виде лога одной из машин. Прошу извинить меня, если что не так, реально уже выбешивает, по полной. Одни проблемы с этим вимом. Плюс ещё ошибка при добавлении хоста по ip адресу.

Призрак

А если 9.5 community поставить? https://www.veeam.com/products-edition-comparison.html

ival

А если 9.5 community поставить? https://www.veeam.com/products-edition-comparison.html
Не пользовался бесплатным, надо ставить и смотреть хватает ли Вам того функционала который есть

Уваров А.С.

Одни проблемы с этим вимом.
Вы это https://www.veeam.com/kb1198 читали?

Призрак

Конечно читал. Всё там резолвится, права есть (по логу видно, а также видно, что вход успешен и имена резолвятся). Вот на снимке ещё любопытная вещь. Я их убрал, но хосты теперь требуют перезагрузки. Как их можно так передёрнуть? Если переменная пустая это не вызовет ошибку?

Призрак

Ну что, передёрнул я без перезагрузки сервисы, одно и то же. Ругаться, конечно, не хочется, но всё же говно этот вим. А за него ещё деньги дерут огромные. Купили лицензию, есть лицензия, новую версию нельзя скачать. Автомобиль продали, ключи не дали. Видимо, придётся идти на крайние меры, но здесь их не опишу, забанят.

Призрак

Решено было из-за жадности перейти на 9.5 community edition. Только хотелось бы ещё спросить, там есть два каталога, предлагается их при установке выбрать. Так вот, потом после установки можно поменять их и как?

Уваров А.С.

Вообще, перед тем как браться за подобные вещи, было бы неплохо вдумчиво прочесть документацию
https://helpcenter.veeam.com/docs/backup/vsphere/overview.html?ver=95u4

Призрак

RTFM, знаю, как всегда. То есть, если мне потребуется перенести вдруг эти каталоги на другой диск, то я этого сделать не смогу. Ну понял.

Призрак

Политику включил, с требованиями разобрался. Переместить папки тоже знаю как, одну через реестр, уже делал. Очень важный вопрос есть, прямо жизни и смерти. Я могу использовать старые резервные копии, ну которые остались от 7 версии? Если я подключу все диски к машине? Нужно сделать импорт? Было решено использовать Veeam 9.5 community edition.

Уваров А.С.

Такие вещи лучше спрашивать на официальном форуме, ровно за минуту на нем нашлось то, что вы хотели:

https://forums.veeam.com/vmware-vsphere-f24/new-veeam-9-5-restore-from-current-veeam-7-repository-t41074.html

Судя по этой ветке - можно, но обратно на 7-ку вы уже вернуться не сможете.

Призрак

Почти разобрался, всё поставил. Только почему он "хватает" по несколько машин? Одну копирует, у нескольких создаёт снапшоты. Как только одну копирует, берётся за другую, дальше по цепочке. Это правильно? В 7 версии было по одной машине.

Призрак

А вот такая ошибка с чем может быть связана?

ival

#16
15 Март 2019, 17:32 Последнее редактирование: 15 Март 2019, 17:40 от ival
А вот такая ошибка с чем может быть связана?
Смотрите в сторону хранилища с рк. Из того, что я вижу на скриншоте у Вас утилизация хранилища 70%. Сколько заданий одновременно запускается? График копирования постоянно просаживается , такого не должно быть. Редакция Veeam какая?

Уваров А.С.

Смотрите в сторону хранилища с рк. Из того, что я вижу на скриншоте у Вас утилизация хранилища 70%.
Я давно говорил топикстартеру, еще по другим вопросам, что у него все проблемы, по симптоматике, идут от хранилища. Однако он продолжает их искать в иных местах: в гипервизоре, в Veeam и т.д.

Призрак

#18
16 Март 2019, 17:05 Последнее редактирование: 16 Март 2019, 17:12 от Призрак
Смотрите в сторону хранилища с рк. Из того, что я вижу на скриншоте у Вас утилизация хранилища 70%. Сколько заданий одновременно запускается? График копирования постоянно просаживается , такого не должно быть. Редакция Veeam какая?
Я уже отмечал, что в хранилище сломался один блок, блок Б, остался работать блок А. Теперь машина скопировалась, но с предупреждением, совершенно справедливым - отвалился, мать его за ногу, третий гипервизор. (предупреждение было насчёт снепшота). Вот сейчас мучаю снова, он почему - то, непонятно, сделал вчера машину эту с предупреждением, сегодня её по новой почему - то, да не копирует, а читает. Я так и не понял, с какой целью veeam это делает, она ведь уже скопировалась. Стоит задание как reversed incremental, редакция veeam 9.5 community edition.


Я давно говорил топикстартеру, еще по другим вопросам, что у него все проблемы, по симптоматике, идут от хранилища. Однако он продолжает их искать в иных местах: в гипервизоре, в Veeam и т.д.
А где же ещё то, товарищ хороший? Кроме хранилища Veeam иногда отваливается консоль, с весёлым сообщением failed to start satellite process, то снапшот машины не создаётся, то гипервизор отваливается, хотя я кабели 100 раз проверял, лазал с тестером, везде смотрел. Единственный бонус, что копируется относительно быстро, а сайт этот, что ошибка снепшота, у меня уже две копии есть, так что зер гут.

И вообще, не понять мне иногда светлого творения богов сей виртуализации - гипервизор not responding, не добавляется, пинги до него идут, машины не съезжают, до машин, которые на нём не достучаться, пробуешь загрузить SSH и рестартануть оттуда, команда вроде бы принимается. но никакой реакции нет, также пробовал рестартовать сервисы, сеть, бесполезно. Пришёл сегодня на работу, он дал ввести пароль и завис, пришлось дёргать питание. Вообще, после отвала гипервизора, даже если пинги до него шли, то мне никогда не удавалось его добавить по нормальному, только рестарт помогал. Как была эта баганутая ситуация в 5.5, так и перешла в 6.5, без изменений.

Все мы когда - то учились, все с чего - то начинали. Опыта по виртуализации у меня мало, я самые азы знаю. Но попробуйте сказать это моему начальству, которое считает, что я должен знать всё.


Призрак

Короче, придётся эти две машины копировать вручную. Говно этот veeam, уже достал. Ничего адекватного нет, уже несколько дней проблема основная только с этими машинами и есть. Да, чувствую меня опять ждёт бессонная ночь. Надавать бы по морде разработчикам.

Призрак

#20
16 Март 2019, 18:04 Последнее редактирование: 16 Март 2019, 18:13 от Призрак
И вообще, когда я переносил диски, то я импортировал резервные копии, как мне подсказали, со старого veeam. Они импортировались, восстановить их теоретически можно, но он, один фиг, начал всё по новой. Разработчики, вероятно, думают, что диски у хранилища резиновые и их можно растянуть, по самое не хочу. Вообще ужас. И не понимаю, почему машина не скопировалась с 1С.

ival

Я сейчас напишу часть! У меня только у одного такое ощущение, что Вы как-будто пишите на тп  veeam или vmware претензию? Вам назвать цену за ТП годовую обоих продуктом в редакции standard? А теперь я попытаюсь Вам помочь совершенно бесплатно
Что значит сломался блок Б? Как хранилище вм подключено к хостам? Как машина veeam подключена к сети? Я в одной из прошлых тем Вам объяснял что такое обратное инкрементальное копирование и что оно делает, по-моему из того что я писал надо было понять какую нагрузку оно даёт на хранилище резервных копий. У меня ещё потом будет много вопросов наверное... но одно могу сказать Вы не туда пишите с такой агрессией, наверное стоит писать в veeam и VMware

Призрак

Хорошо, тогда скажу так. Моя не агрессия, но претензия вполне обоснована. Если я, например, попал в аварию на новом автомобиле, в котором заводской брак, значит это я виноват? У меня реально есть заболевание, в котором я не могу разобраться, оно меня мучает, кто тут виноват? Я, по тысяче раз объяснявший врачам симптомы, или врачи, которые не могут разобраться, в силу своей некомпетентности или лени, пиная меня туда и сюда? Ответ, я думаю, очевиден?

Но вернёмся к нашим баранам. Всё по порядку. Хранилище у нас DS3512. Я надеюсь, что вы сталкивались с таким.

https://www.karma-group.ru/catalog/ibm_disk_storage_retired/ibm_system_storage_ds3512/

Там написано, что есть два активных контроллера с горячей заменой. Так вот, один контроллер приказал долго жить. Так что система тянет на одном контроллере. Всё это чудо подключено к трём гипервизорам напрямую. То есть, из первого контроллера выходят три нитки, которые образуют три линка (3 сетевой интерфейс на каждом из гипервизоров), из второго тоже три нитки, которые образуют три линка (4 сетевой интерфейс на каждом гипервизоре). Также каждый из контроллеров имеет по одному линку, каждый идёт в один из свитчей (всего два). От свитчей идёт по две нитки к гипервизорам (по идиотской схеме, то есть получается, что от одного свитча идут три нитки - первые две в первый гипервизор, третья в третий гипервизор, четвёртая в третий гипервизор и пятая шестая в третий гипервизор). То есть, должна была упасть скорость, но никак не надёжность копирования.

Veeam это виртуальная машина, ей выделено достаточно ресурсов.

Кроме того, ещё есть два хранилища.

1. FreeNAS 8.9.3, ставил аутсорсинг. Подключен по iSCSI, к гипервизорам, виртуальные диски выведены в Veeam. Там есть одна особенность - аутсорсинг создал файловый экстент. Во вложении вся информация о проблемах с заданиями.

2. FreeNAS FreeNAS 11.2-U2.1, эту уже ставил я. Так же подключён по iSCSI к гипервизорам, виртуальные диски выведены в Veeam. У меня дисковый экстент. Скорость копирования очень хорошая, проблем нет, только мало места.

Оба FreeNAS созданы на базе старого железа, имеют по 5 дисков - один под систему, остальные под данные. На моём хранилище создан RAID10, на аутсорсинга RAIDZ1, каждая машина по 4 гигабайта памяти. На своей я ещё поставил свежие патчкорды.

Насчёт обратного инкрементального - про обычное я прочитал, что там требуется много места.

Все вопросы прошу писать.

ival

Хочу видеть логи агента Agent.xxxx.Index и Agent.xxxx.Target. Также интересно посмотреть логи Job.xxx.Backup. Для обоих серверов.
По серверу 1С, меня настораживают вот эти сообщения


[b][17.03.2019 03:03:46] <87> Info     Stop signal has been received
[17.03.2019 03:03:46] <87> Info     Session '3faf4450-554f-4aa9-b423-97fb7384ebc9', state 'Stopping'
[17.03.2019 03:03:55] <120> Info                   [AP] (db1c) output: --pex:43;60716744704;60596158464;0;60596158464;18700403339;6;15;98;5;15;95;131972474350390000
[17.03.2019 03:03:55] <120> Info     Stop signal has been received
[17.03.2019 03:03:55] <120> Info     Stop signal has been received
[17.03.2019 03:03:55] <120> Info     Stop signal has been received
[17.03.2019 03:03:55] <120> Info     Stop signal has been received[/b]
[17.03.2019 03:03:55] <120> Info     Terminating CBackupClient [0x3e0b770], reason is Veeam.Backup.Common.Sources.Sessions.CSessionTerminationReason
[b][17.03.2019 03:03:55] <120> Info             [AP] (56f6) command: 'breakJobWithReason\nJob aborted due to server termination\n'[/b]
[17.03.2019 03:03:55] <58> Info                   [AP] (56f6) output: >
[17.03.2019 03:03:56] <46> Info         [ReconnectableSocket][StopCondition] Stop confirmation was received on [1051905b-7b9c-4663-9ea0-7ec576af178f].
[17.03.2019 03:03:56] <46> Info         [ReconnectableSocket] Stop confirmation was sent on [1051905b-7b9c-4663-9ea0-7ec576af178f].
[17.03.2019 03:03:56] <46> Info         [ReconnectableSocket][StopCondition] Stop request was received on [1051905b-7b9c-4663-9ea0-7ec576af178f].
[17.03.2019 03:03:56] <122> Error    Job aborted due to server termination (Veeam.Backup.Common.CStopSessionException)


Журнал событий с veeam и c сервера 1с за период с 02:50 по 03:10.

По почтовику. Сразу вопрос почему не обновлены VMTools?
[16.03.2019 19:36:18] <29> Info     [VmSnapshotTracker] Closing snapshots for VM: 'server-gw-mail', host: 'vc1'
[16.03.2019 19:36:18] <29> Info     Validating guest agent availability for the VM
[16.03.2019 19:36:18] <29> Info     VMware Tools are not up to date. Please upgrade VMware Tools to avoid potential issues with VM processing


А теперь самое интересное:

[17.03.2019 03:03:45] <33> Info     Stop signal has been received
[17.03.2019 03:03:45] <33> Info     Session '3faf4450-554f-4aa9-b423-97fb7384ebc9', state 'Stopping'
[17.03.2019 03:03:51] <59> Info                   [AP] (9baa) output: --pex:13;58066993152;58066993152;0;58066993152;44729222455;14;14;93;7;15;94;131972474314040000
[17.03.2019 03:03:51] <59> Info     Stop signal has been received
[17.03.2019 03:03:51] <59> Info     Stop signal has been received
[17.03.2019 03:03:51] <59> Info     Stop signal has been received
[17.03.2019 03:03:51] <59> Info     Stop signal has been received
[17.03.2019 03:03:51] <59> Info     Terminating CBackupClient [0x930ddd], reason is Veeam.Backup.Common.Sources.Sessions.CSessionTerminationReason
[17.03.2019 03:03:51] <59> Info             [AP] (f860) command: 'breakJobWithReason\nJob aborted due to server termination\n'
[17.03.2019 03:03:52] <115> Info                   [AP] (f860) output: >
[17.03.2019 03:03:52] <103> Info         [ReconnectableSocket][StopCondition] Stop confirmation was received on [6a6f8a15-83f2-4956-aded-1a3c9b183d42].


Одно и тоже событие в одно и тоже время. Логи журнала событий за это же время. Что-то у меня подозрение что у Вас veeam машина перезагружается ночью когда идет РК.






Насчёт обратного инкрементального - про обычное я прочитал, что там требуется много места.
Точно столько же сколько и на обратное. Только на обратное инкрементальное требуется операчий ввода/вывода в 2 раза больше из-за склеивания копии

Призрак

Всё для вас, уважаемый. С какого - то перепугу сервер решил, что может сам перезагружаться, где это видано? Политика вся чистая, там таких опций нету. Кроме того, есть в главной доменной такой параметр, что не перезагружать автоматически компьютер.

STALKER_SLX

#25
18 Март 2019, 14:05 Последнее редактирование: 19 Март 2019, 19:41 от Уваров А.С.
Хорошо, тогда скажу так. Моя не агрессия, но претензия вполне обоснована.
Призрак, Вы не правы! Эмоции - это хорошо на отдыхе или во время развлечений, а в нашей работе - от них лишь вред! Здесь Вам искренне стараются помощь в решении Вашего вопроса. Но ведь здесь пока еще не сообщество экстрасенсов-телепатов, которые читают мысли других!


У меня реально есть заболевание, в котором я не могу разобраться, оно меня мучает, кто тут виноват? Я, по тысяче раз объяснявший врачам симптомы, или врачи, которые не могут разобраться, в силу своей некомпетентности или лени, пиная меня туда и сюда? Ответ, я думаю, очевиден?
Но ведь Вы пишете только о ТЕКУЩИХ симптомах болезни (и догадываюсь, что не все их тут изложили), при этом не предоставив ПОЛНОЙ карты пациента с момента его рождения! Ведь одинаковые на первый взгляд симптомы могут быть в абсолютно разных болезнях и лечение их тоже будет кардинально отличаться! Возьмём к примеру кашель. Это может быть, как обычная простуда или бронхит, а может и вирусный грипп или бактериальное заражение, ну или туберкулёз, лихорадка, аллергия (на пыль, запахи, цветения, другие лекарства, определённые ингредиенты еды) или астма и т.п.


Призываю Вас к конструктиву!

Чтобы в будущем Ваши задачи решались форумчанами более оперативно, излагайте изначально максимально достаточно вводных данных и делайте правильную постановку задачи.

Призрак, в сложившейся сейчас непростой ситуации и с целью таки устранить Вашу проблему максимально быстро, я советую Вам сделать следующее.

1. Приструнить эмоции и извиниться перед форумчанами.

2. Написать в личку понимающим тут людям с просьбой помочь Вам удалённо (например, через тот же TeamViewer). Свои умения не предлагаю, т.к. пока не имею должного уровня.

P.S.: Ваша текущая позиция со стороны мне напоминает ситуацию, когда голодный человек на улице просит что-нибудь покушать и милосердные прохожие дают ему хлеб. А он в ответ бросает этот хлеб обратно дающему с возмущением, что он хочет кушать только лобстера!

Давайте не переходить на личности. Администрация.

ival

Всё для вас, уважаемый. С какого - то перепугу сервер решил, что может сам перезагружаться, где это видано? Политика вся чистая, там таких опций нету. Кроме того, есть в главной доменной такой параметр, что не перезагружать автоматически компьютер.
Обновляйте VMTools, ждите запуска задания. Дальше если ошибки логи сюда. Вопрос с ошибками RPC посмотрим при следующем РК, если полезут ошибки будем смотреть

Призрак

Пока всё нормально, только вот эта ошибка меня немного смущает, при копировании почты. Спасибо Вам большое за помощь, более менее уже всё сдвинулось.

18.03.2019 21:49:15 :: Transaction logs backup will not be possible due to insufficient permissions to update backupset for SQL instance SQLEXPRESS:    Code = 0x80040e09
   Code meaning = IDispatch error #3081
   Source = Microsoft OLE DB Provider for SQL Server
   Description = The UPDATE permission was denied on the object 'backupset', database 'msdb', schema 'dbo'.
 
Говорят, что нужно поставить какой - то патч, но я пока не буду лезть, пока не завершится копирование. Вроде бы пока пошло.

Ещё меня смущает очень низкая скорость копирования. Как вы думаете, из-за железа это вполне может быть? Я имею в виду, не ту самую, разумеется, хранилку DS3512, она пердит ещё и ладно, а про оба FreeNAS. Они организованы на платах P5E, ещё старых, скорость копирования по 5 мегабит в секунду на диск, это очень и очень мало. Две сетевые карты там встроенные, но используется из встроенных только по одной карте, вторые DFE-520TX, они как раз и подключены к гипервизорам по iSCSI. Невозможно тут ничего сделать? Я пробовал openmediavault тестировать, там вообще iSCSI нет, да и то не смог поставить, какой - то глючный там iSCSI. Пробовал Nas4Free, он же xigmanas, там вообще засада - если добавляешь диски, то они тупо не форматируются снова, никак. То есть отформатировал их по другому, удалил, они снова отформатированные. Чудо из чудес. Вот этот товарищ, 2gusia aka mikemac, очень любит почему - то сиё поделие, задаёшь вопрос, молчит, как рыба в пироге. Весьма странно.

Как у FreeNAS организовать подключения? Может быть сделать три сетевые карты - одна пойдёт на веб интерфейс, две другие на iSCSI? Встроенные не использовать вообще? Загадка века, скорость у карт до 1000, копируют они с черепашьей скоростью. Ах да, машины то в хранилке, может из-за этого?

ival

Они организованы на платах P5E
Там же SATA 2 3.0 gB


вторые DFE-520TX
Они 100BASE-TX? Сайт D-link не врет?


Уваров А.С.

а про оба FreeNAS. Они организованы на платах P5E, ещё старых, скорость копирования по 5 мегабит в секунду на диск, это очень и очень мало
Характер доступа случайный или последовательный? При случайном это нормальная скорость для обычных дисков. К примеру широко распространенная "барракуда": https://interface31.ru/tech_it/2015/04/seagate-desktop-hdd-1-tb-po-prezhnemu-nedorogo-i-serdito.html

На запись блоками 4К дает 1,2 -1,5 МБ/С или 10-12 Мбит/с. Но это одиночный диск, добавьте сюда пенальти RAID на запись и получите что-то близкое к своим цифрам.

ival

Характер доступа случайный или последовательный? При случайном это нормальная скорость для обычных дисков. К примеру широко распространенная "барракуда": https://interface31.ru/tech_it/2015/04/seagate-desktop-hdd-1-tb-po-prezhnemu-nedorogo-i-serdito.html

На запись блоками 4К дает 1,2 -1,5 МБ/С или 10-12 Мбит/с. Но это одиночный диск, добавьте сюда пенальти RAID на запись и получите что-то близкое к своим цифрам.
Да там все вместе, сначала мы при копировании упираемся в 100 мб сетевуху, потом при склеивании мы упираемся в интерфейс SATA 2. Судя потому, что я видел задания идут одновременно. Представьте вторая машина копируется и тут Veeam начинает дербанить бекап первой машины на этих же дисках. При таких вариантах диски проживут года 1,5.

Уваров А.С.

Да там все вместе, сначала мы при копировании упираемся в 100 мб сетевуху, потом при склеивании мы упираемся в интерфейс SATA 2. Судя потому, что я видел задания идут одновременно. Представьте вторая машина копируется и тут Veeam начинает дербанить бекап первой машины на этих же дисках.
С учетом средних 70 IOPS обычного диска все упрется именно в них. После чего все станет колом с огромной дисковой очередью. Было бы интересно посмотреть iotop в это время.

А 100 Мбит/с сеть только усугубит ситуацию, так как не позволит быстро слить бекап на NAS, в итоге следующий бекап придет как раз в момент, когда хранилище судорожно скрипя винтами пытается сделать обратный инкремент того, что пришло до этого. Эта операция сама по себе носит случайный характер, а с попыткой еще что-то одновременно писать - это просто туши свет.

ival

С учетом средних 70 IOPS обычного диска все упрется именно в них. После чего все станет колом с огромной дисковой очередью. Было бы интересно посмотреть iotop в это время.

А 100 Мбит/с сеть только усугубит ситуацию, так как не позволит быстро слить бекап на NAS, в итоге следующий бекап придет как раз в момент, когда хранилище судорожно скрипя винтами пытается сделать обратный инкремент того, что пришло до этого. Эта операция сама по себе носит случайный характер, а с попыткой еще что-то одновременно писать - это просто туши свет.
Ну собственно поэтому мы на скрине выше и видели загрузку хранилища в 70%

Уваров А.С.

Возможно есть смысл отказаться от инкрементного копирования в пользу полного + дедупликация. Быстро (или не очень быстро) слили бекап - но это последовательная запись, здесь будем упираться только в сеть (ну или в диски). А потом пусть он там оставшееся время скрипит - дедуплицирует.

Уваров А.С.

Одно и тоже событие в одно и тоже время. Логи журнала событий за это же время. Что-то у меня подозрение что у Вас veeam машина перезагружается ночью когда идет РК.
В свете вышеописанного есть подозрения, что она не перезагружается, а просто подвисает из-за большой дисковой очереди.

Вверх