SCI-CD

h1. Перенос виртуальной машины на другую vg

h2. Виртуальная машина на одном узле

Данная операция является потенциально опасной, следует выполнять ее только при полном понимании описываемых операций и последствий.
Данная операция требует остановки машины на все время копирования содержимого.

h3. Подготовка

Получить информацию о машине:
<pre>
gnt-instance info ИМЯ
</pre>

Больше всего будет интересовать информация о диске:

Например:
<pre>
Disks:
- disk/0: plain, size 10.0G
access mode: rw
logical_id: xenvg/8aea288f-37ad-4cd0-8a76-1e36f4da32cb.disk0
on primary: /dev/xenvg/8aea288f-37ad-4cd0-8a76-1e36f4da32cb.disk0 (253:9)
name: None
UUID: 3c7fb626-21d2-4e99-9365-6639a13456b5
</pre>

Выключить машину

<pre>
gnt-instance shutdown ИМЯ
</pre>

На мастер узле остановить ganeti-watcher, ganeti:
<pre>
service ganeti-watcher stop
service ganeti stop
</pre>
Сделать резервную копию конфига ganeti.
<pre>
cp /var/lib/ganeti/config.data ~/
</pre>

берем имя тома из информации об инстансе, после /
<pre>
в нашем случае это 8aea288f-37ad-4cd0-8a76-1e36f4da32cb.disk0
</pre>

Копируем в буфер обмена

Также из информации об инстансе берем точный размер тома

создаем том с таким же именем на новой vg (здесь она будет называться ssd)

<pre>
lvcreate -L10G -n 8aea288f-37ad-4cd0-8a76-1e36f4da32cb.disk0 ssd
</pre>

открываем файл /var/lib/ganeti/config.data, ищем по данному имени, находим блок наподобие этого (json упакован без отступов и перевода строки, читать неудобно, так что нужно пользоваться поиском по подстроке):

<pre>
"disks": [{"logical_id": ["xenvg", "8aea288f-37ad-4cd0-8a76-1e36f4da32cb.disk0"], "uuid": "3c7fb626-21d2-4e99-9365-6639a13456b5", "dev_type": "plain", "params": {}, "mode": "rw", "iv_name": "disk/0", "size": 10240}]
</pre>

вот указание vg и имени тома:

<pre>
{"logical_id": ["xenvg", "8aea288f-37ad-4cd0-8a76-1e36f4da32cb.disk0"],
</pre>

В нем меняем vg "xenvg" на "ssd"

Сохраняем файл.

Запускаем ганети:
<pre>
service ganeti start
</pre>

Если в кластере более одного узла, то запускаем копирование конфигурации:
<pre>
gnt-cluster redist-conf
</pre>

проверяем, применились ли изменения, с помощью команды info:

<pre>
gnt-instance info ИМЯ
</pre>

Если все в порядке, то запускаем машину и ganeti-watcher
<pre>
gnt-instance startup ИМЯ
service ganeti-watcher start
</pre>

h2. Виртуальная машина на двух узлах

Возможны два варианта производства этой операции: с остановкой и без.
Вариант без остановки более сложный и трудоемкий.

h2. Перенос с остановкой

машину следует перед переносом остановить и перевести в plain (сделать ее машиной на одном узле):

<pre>
gnt-instance shutdown ИМЯ
gnt-instance modify -t plain ИМЯ
</pre>

После этого машина останется только на primary узле, дальнейшие операции проводятся так же, как для машины на одном узле, см. выше.

по завершении переноса машина переводится в drbd режим:

<pre>
gnt-instance modify -t drbd -n gnt2 ИМЯ
</pre>
где gnt2 - имя нового secondary узла

h2. Перенос без остановки

Данная операция является потенциально опасной, следует выполнять ее только при полном понимании описываемых операций и последствий.

h3. Подготовка

получаем информацию об инстансе, интересует то, на каком узле он запущен и информация о дисках:

<pre>
gnt-instance info ИМЯ
</pre>

<pre>
Disks:
- disk/0: drbd, size 10.0G
access mode: rw
nodeA: gnt2, minor=1
nodeB: gnt1, minor=1
port: 11001
on primary: /dev/drbd1 (147:1) in sync, status ok
on secondary: /dev/drbd1 (147:1) in sync, status ok
name: None
UUID: 4dd153b6-f975-4c3f-a2f7-9dddbd6a3dc2
child devices:
- child 0: plain, size 10.0G
logical_id: ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data
on primary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data (253:4)
on secondary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data (253:4)
name: None
UUID: 4a24c9fb-cd8e-4034-b908-18d3d83c246d
- child 1: plain, size 128M
logical_id: ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta
on primary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:5)
on secondary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:5)
name: None
UUID: 37dc4222-a29a-42d0-a1a5-3e2c9b0aec8a

</pre>

Итак, мы видим, что машина запущена на gnt2, устройство /dev/drbd1, lvm том /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data

Далее, нужно запустить мастер на узле, который является *SECONDARY* для виртуальной машины, заходим на него и gnt-cluster master-failover

затем останавливаем ganeti-watcher НА ОБОИХ узлах:
<pre>
service ganeti-watcher stop
</pre>

Далее, переходим на узел, где машина secondary (в нашем случае это мастер, gnt1)

Далее, нужно отцепить drbd от текущего тома старой vg:
<pre>
drbdsetup resource1 down
</pre>
где resource1 - это аналог /dev/drbd1

Переименовываем том в старой vg, а также это будет наш бэкап:
<pre>
lvrename ssd 590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data gate-disk0
</pre>

затем заново активируем drbd:
<pre>
gnt-instance activate-disks ИМЯ
</pre>

после этого проверяем, что диск проиницализировался заново и он считается Diskless, запускаем команду drbd-overview:
<pre>
1:??not-found?? Connected Secondary/Primary Diskless/UpToDate
</pre>

Также видим, что диск считается degraded, missing disk в выводе gnt-instance info:

<pre>
Disks:
- disk/0: drbd, size 10.0G
access mode: rw
nodeA: gnt2.pproduct, minor=1
nodeB: gnt1.pproduct, minor=1
port: 11001
on primary: /dev/drbd1 (147:1) in sync, status ok
on secondary: /dev/drbd1 (147:1) in sync, status *DEGRADED* *MISSING DISK*
name: None
UUID: 4dd153b6-f975-4c3f-a2f7-9dddbd6a3dc2
child devices:
- child 0: plain, size 10.0G
logical_id: ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data
on primary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data (253:4)
name: None
UUID: 4a24c9fb-cd8e-4034-b908-18d3d83c246d
- child 1: plain, size 128M
logical_id: ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta
on primary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:5)
on secondary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:5)
name: None
UUID: 37dc4222-a29a-42d0-a1a5-3e2c9b0aec8a
</pre>



h3. непосредственно перенос

Останавливаем ganeti на мастере, делаем резервную копию конфига
<pre>
service ganeti stop
cp /var/lib/ganeti/config.data ~
</pre>

открываем конфиг, находим по имени тома секцию конфига, относящуюся к диску (там json без отступов и переводов строки, так что пользуемся поиском по подстроке):
<pre>
[{"logical_id": ["8db85567-d4d7-427d-916e-382ab6d9448b", "05ddeac2-8a00-42a5-bf8c-68a440d29d49", 11001, 1, 1, "6adc50aa8fda95beb7b1565c3eb2fd688a9e8a47"], "uuid": "4dd153b6-f975-4c3f-a2f7-9dddbd6a3dc2", "dev_type": "drbd", "params": {}, "mode": "rw", "children": [{"dev_type": "plain", "logical_id": ["ssd", "590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data"], "params": {}, "uuid": "4a24c9fb-cd8e-4034-b908-18d3d83c246d", "size": 10240}, {"dev_type": "plain", "logical_id": ["ssd", "590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta"],
</pre>
нас интересует то, что относится к _data, не _meta:
<pre>
{"dev_type": "plain", "logical_id": ["ssd", "590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data"], "params": {}, "uuid": "4a24c9fb-cd8e-4034-b908-18d3d83c246d", "size": 10240}
</pre>
меняем в конфиге имя vg на новую (вместо "ssd" - "xenvg"), только для _data, не для _meta
сохраняем конфиг

затем, на узле, где машина сейчас запущена (т.е. не на том, который сейчас мастер и где мы сейчас редактировали конфиг), создаем том в новой vg.
В нашем примере это узел gnt2.
<pre>
lvcreate -L10G -n 590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data xenvg
</pre>

запускаем ganeti:
<pre>
service ganeti start
</pre>

делаем gnt-instance info, вывод:

<pre>
Disks:
- disk/0: drbd, size 10.0G
access mode: rw
nodeA: gnt2.pproduct, minor=1
nodeB: gnt1.pproduct, minor=1
port: 11001
on primary: /dev/drbd1 (147:1) in sync, status ok
on secondary: /dev/drbd1 (147:1) in sync, status *DEGRADED* *MISSING DISK*
name: None
UUID: 4dd153b6-f975-4c3f-a2f7-9dddbd6a3dc2
child devices:
- child 0: plain, size 10.0G
logical_id: xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data
on primary: /dev/xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data (253:19)
name: None
UUID: 4a24c9fb-cd8e-4034-b908-18d3d83c246d
- child 1: plain, size 128M
logical_id: ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta
on primary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:5)
on secondary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:5)
name: None
UUID: 37dc4222-a29a-42d0-a1a5-3e2c9b0aec8a

</pre>

ганети считает, что drbd собран на /dev/xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data, при этом он отсутствует на secondary. На primary том присутствует, но он пока не используется, он только для обмана ganeti.

Теперь можно запустить процедуру пересоздания томов для drbd:
<pre>
gnt-instance replace-disks -a ИМЯ
</pre>
она проверит, присутствуют ли все тома для этого диска на обоих нодах. У нас отсутствует том _data на secondary ноде, он его создаст, подцепит к drbd, отсинкает.

После завершения процедуры у нас окажется, что на узле, где крутится машина, drbd собран на старой vg, а на вторичном узле - уже на новой, и все штатно работает. смотрим:
drbd-overview:
<pre>
1:??not-found?? Connected Secondary/Primary UpToDate/UpToDate


</pre>

gnt-instance info:
<pre>
Disks:
- disk/0: drbd, size 10.0G
access mode: rw
nodeA: gnt2.pproduct, minor=1
nodeB: gnt1.pproduct, minor=1
port: 11001
on primary: /dev/drbd1 (147:1) in sync, status ok
on secondary: /dev/drbd1 (147:1) in sync, status ok
name: None
UUID: 4dd153b6-f975-4c3f-a2f7-9dddbd6a3dc2
child devices:
- child 0: plain, size 10.0G
logical_id: xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data
on primary: /dev/xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data (253:19)
on secondary: /dev/xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data (253:19)
name: None
UUID: 4a24c9fb-cd8e-4034-b908-18d3d83c246d
- child 1: plain, size 128M
logical_id: ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta
on primary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:20)
on secondary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:20)
name: None
UUID: 37dc4222-a29a-42d0-a1a5-3e2c9b0aec8a


</pre>

drbdsetup resource1 show на gnt2 (где запущена машина):
<pre>
resource resource1 {
options {
}
net {
max-buffers 8000;
cram-hmac-alg "md5";
shared-secret "";
after-sb-0pri discard-zero-changes;
after-sb-1pri consensus;
}
_remote_host {
address ipv4 10.101.200.11:11001;
}
_this_host {
address ipv4 10.101.200.12:11001;
volume 0 {
device minor 1;
disk "/dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data";
meta-disk "/dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta";
disk {
size 20971520s; # bytes
resync-rate 122880k; # bytes/second
c-plan-ahead 0; # 1/10 seconds
}
}
}
}
</pre>
см. "disk"
drbdsetup resource1 show на gnt1 (вторичный узел):
<pre>
resource resource1 {
options {
}
net {
max-buffers 8000;
cram-hmac-alg "md5";
shared-secret "";
after-sb-0pri discard-zero-changes;
after-sb-1pri consensus;
}
_remote_host {
address ipv4 10.101.200.12:11001;
}
_this_host {
address ipv4 10.101.200.11:11001;
volume 0 {
device minor 1;
disk "/dev/xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data";
meta-disk "/dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta";
disk {
size 20971520s; # bytes
resync-rate 122880k; # bytes/second
c-plan-ahead 0; # 1/10 seconds
}
}
}
}
</pre>

Таким образом, половина операции завершена.



h3. Миграция и перенос второго узла.

первым делом на узле, где крутится машина, удаляем диск, который мы создавали перед заменой vg (т.е. у нас это gnt2):
<pre>
lvremove /dev/xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data
</pre>
Если он говорит, что том занят, значит вы удаляете не то и не там.

Распространяем обновленную конфигурацию ганети по кластеру (запускается с мастера, все еще gnt1):
<pre>
gnt-cluster redist-conf
</pre>

Мигрируем машину на secondary узел:
<pre>
gnt-instance migrate ИМЯ
</pre>

После миграции машины переводим мастер на новый вторичный узел (у нас это будет gnt2, с него только что уехала машина)
<pre>
gnt-cluster master-failover
</pre>

на нем же отцепляем том в старой vg от drbd, переименовываем (еще один бэкап):
<pre>
drbdsetup resource1 down
lvrename ssd 590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data gate-disk0
</pre>

инициализируем drbd в diskless:
<pre>
gnt-instance activate-disks ИМЯ
</pre>
проверяем drbd-overview:
<pre>
1:??not-found?? Connected Secondary/Primary Diskless/UpToDate
</pre>
проверяем gnt-instance info:
<pre>
Disks:
- disk/0: drbd, size 10.0G
access mode: rw
nodeA: gnt1.pproduct, minor=1
nodeB: gnt2.pproduct, minor=1
port: 11001
on primary: /dev/drbd1 (147:1) in sync, status ok
on secondary: /dev/drbd1 (147:1) in sync, status *DEGRADED* *MISSING DISK*
name: None
UUID: 4dd153b6-f975-4c3f-a2f7-9dddbd6a3dc2
child devices:
- child 0: plain, size 10.0G
logical_id: xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data
on primary: /dev/xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data (253:19)
name: None
UUID: 4a24c9fb-cd8e-4034-b908-18d3d83c246d
- child 1: plain, size 128M
logical_id: ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta
on primary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:20)
on secondary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:5)
name: None
UUID: 37dc4222-a29a-42d0-a1a5-3e2c9b0aec8a
</pre>

запускаем создание томов и ресинк:
<pre>
gnt-instance replace-disks -a ИМЯ
</pre>

после завершения процесса проверяем, что drbd подцеплен к нужным дискам, на обоих нодах:
gnt1 drbdsetup resource1 show:
<pre>
resource resource1 {
options {
}
net {
max-buffers 8000;
cram-hmac-alg "md5";
shared-secret "";
after-sb-0pri discard-zero-changes;
after-sb-1pri consensus;
}
_remote_host {
address ipv4 10.101.200.12:11001;
}
_this_host {
address ipv4 10.101.200.11:11001;
volume 0 {
device minor 1;
disk "/dev/xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data";
meta-disk "/dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta";
disk {
size 20971520s; # bytes
resync-rate 122880k; # bytes/second
c-plan-ahead 0; # 1/10 seconds
}
}
}
}
</pre>
gnt2 drbdsetup resource1 show
<pre>
resource resource1 {
options {
}
net {
max-buffers 8000;
cram-hmac-alg "md5";
shared-secret "";
after-sb-0pri discard-zero-changes;
after-sb-1pri consensus;
}
_remote_host {
address ipv4 10.101.200.11:11001;
}
_this_host {
address ipv4 10.101.200.12:11001;
volume 0 {
device minor 1;
disk "/dev/xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data";
meta-disk "/dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta";
disk {
size 20971520s; # bytes
resync-rate 66560k; # bytes/second
c-plan-ahead 0; # 1/10 seconds
}
}
}
}
</pre>

gnt-instance info:
<pre>
Disks:
- disk/0: drbd, size 10.0G
access mode: rw
nodeA: gnt1.pproduct, minor=1
nodeB: gnt2.pproduct, minor=1
port: 11001
on primary: /dev/drbd1 (147:1) in sync, status ok
on secondary: /dev/drbd1 (147:1) in sync, status ok
name: None
UUID: 4dd153b6-f975-4c3f-a2f7-9dddbd6a3dc2
child devices:
- child 0: plain, size 10.0G
logical_id: xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data
on primary: /dev/xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data (253:19)
on secondary: /dev/xenvg/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_data (253:19)
name: None
UUID: 4a24c9fb-cd8e-4034-b908-18d3d83c246d
- child 1: plain, size 128M
logical_id: ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta
on primary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:20)
on secondary: /dev/ssd/590d122d-57bb-4a3d-a6d4-95542d42cf26.disk0_meta (253:20)
name: None
UUID: 37dc4222-a29a-42d0-a1a5-3e2c9b0aec8a
</pre>

если все хорошо, запускаем watcher НА ОБОИХ нодах:
<pre>
sudo service ganeti-watcher start
</pre>

через некоторое время тома в старой vg можно удалить.