Проект

Общее

Профиль

FAILOVER-процедуры » История » Версия 30

Владимир Ипатов, 21.02.2018 20:15

1 27 Dmitry Chernyak
h1. FAILOVER-процедуры
2 1 Dmitry Chernyak
3 27 Dmitry Chernyak
{{toc}}
4 27 Dmitry Chernyak
5 27 Dmitry Chernyak
[[OVERVIEW]] | [[INSTALL]] | [[SETUP]] | [[OPERATIONS]] | [[LICENSE]]
6 27 Dmitry Chernyak
[[ОБЗОР]] | [[УСТАНОВКА]] | [[НАСТРОЙКА]] | [[ОПЕРАЦИИ]] | [[ЛИЦЕНЗИЯ]]
7 1 Dmitry Chernyak
8 1 Dmitry Chernyak
h1. FAILOVER-процедуры
9 1 Dmitry Chernyak
10 1 Dmitry Chernyak
Обозначения:
11 1 Dmitry Chernyak
<pre>
12 1 Dmitry Chernyak
gnt# - запуск команды на мастер-узле
13 1 Dmitry Chernyak
gntX# - запуск команды на обычном узле
14 1 Dmitry Chernyak
gntY# - запуск команды на другом узле
15 1 Dmitry Chernyak
# - запуск команды на любом узле
16 1 Dmitry Chernyak
</pre>
17 1 Dmitry Chernyak
18 12 Dmitry Chernyak
h2. Запуск на одном действующем мастер-узле
19 1 Dmitry Chernyak
20 1 Dmitry Chernyak
При запуске на одном узле, управление кластером ganeti-masterd не стартует автоматически, даже на master-узле.
21 1 Dmitry Chernyak
Это связано с тем, что невозможно отличить крах второго узла от потери связи, когда на втором узле продолжают работать запущенные виртуалки.
22 1 Dmitry Chernyak
23 12 Dmitry Chernyak
h3. Запуск управляющего демона:
24 12 Dmitry Chernyak
25 1 Dmitry Chernyak
<pre>
26 1 Dmitry Chernyak
gnt# ganeti-masterd --no-voting
27 11 Dmitry Chernyak
</pre>
28 24 Владимир Ипатов
для ganeti 2.10:
29 24 Владимир Ипатов
<pre>
30 25 Владимир Ипатов
gnt-cluster master-failover --no-voting
31 25 Владимир Ипатов
</pre>
32 25 Владимир Ипатов
<pre>
33 24 Владимир Ипатов
su - gnt-masterd -s /bin/bash -c "/usr/sbin/ganeti-masterd --no-voting"
34 24 Владимир Ипатов
</pre>
35 30 Владимир Ипатов
для sci-3.0:
36 30 Владимир Ипатов
<pre>
37 30 Владимир Ипатов
su - gnt-masterd -s /bin/bash -c "/usr/sbin/ganeti-wconfd --no-voting --yes-do-it"
38 30 Владимир Ипатов
su - gnt-masterd -s /bin/bash -c "/usr/sbin/ganeti-luxid --no-voting --yes-do-it"
39 30 Владимир Ипатов
</pre>
40 11 Dmitry Chernyak
h3. Перенос виртуальных машин с аварийного узла
41 11 Dmitry Chernyak
42 13 Dmitry Chernyak
Эта операция выполняется один раз. Она поменяет узел запуска для виртуальной машины.
43 13 Dmitry Chernyak
Перенесенные машины автоматически запустятся, если таково их состояние по-умолчанию.
44 13 Dmitry Chernyak
45 13 Dmitry Chernyak
Лучше мигрировать или перезапустить виртуальные машины в штатном режиме, до того, как их узел будет отключен.
46 13 Dmitry Chernyak
Однако, если это случилось внезапно, тогда необходимо дать команду:
47 13 Dmitry Chernyak
48 11 Dmitry Chernyak
<pre>
49 11 Dmitry Chernyak
gnt# gnt-node failover --ignore-consistency gntX
50 11 Dmitry Chernyak
</pre>
51 11 Dmitry Chernyak
52 11 Dmitry Chernyak
53 11 Dmitry Chernyak
h3. Запуск всех виртуальных машин
54 11 Dmitry Chernyak
55 11 Dmitry Chernyak
<pre>
56 11 Dmitry Chernyak
gnt# gnt-instance startup --force --all
57 11 Dmitry Chernyak
</pre>
58 11 Dmitry Chernyak
59 1 Dmitry Chernyak
h2. Штатное переключение master-узла
60 1 Dmitry Chernyak
61 1 Dmitry Chernyak
Оба узла запущены, смена master-узла производится в штатном режиме.
62 1 Dmitry Chernyak
На master-candidate (gntX):
63 1 Dmitry Chernyak
<pre>
64 1 Dmitry Chernyak
gntX# gnt-cluster master-failover
65 1 Dmitry Chernyak
</pre>
66 1 Dmitry Chernyak
67 28 Николай Алексеев
h2. Перевод виртуалки слейва дрбд на другую ноду
68 28 Николай Алексеев
69 28 Николай Алексеев
Переносим слейв дрбд виртуалки на другую ноду gntX
70 28 Николай Алексеев
71 28 Николай Алексеев
<pre>
72 29 Николай Алексеев
 gnt-instance replace-disks --new-secondary gntX instance_name
73 28 Николай Алексеев
</pre>
74 28 Николай Алексеев
75 1 Dmitry Chernyak
h2. Выход из строя master-узла
76 1 Dmitry Chernyak
77 1 Dmitry Chernyak
Основной узел (в примере - gnt1) оказывается выключен в результате аппаратной аварии.
78 1 Dmitry Chernyak
79 1 Dmitry Chernyak
Запустить управляющий демон на узле master-candidate (gntX):
80 1 Dmitry Chernyak
<pre>
81 1 Dmitry Chernyak
gntX# ganeti-masterd --no-voting
82 1 Dmitry Chernyak
</pre>
83 1 Dmitry Chernyak
84 1 Dmitry Chernyak
Активировать новый master-узел:
85 1 Dmitry Chernyak
<pre>
86 1 Dmitry Chernyak
gntX# gnt-cluster master-failover --no-voting
87 1 Dmitry Chernyak
</pre>
88 9 Dmitry Chernyak
89 26 Dmitry Chernyak
</pre>
90 26 Dmitry Chernyak
для ganeti 2.10:
91 26 Dmitry Chernyak
<pre>
92 26 Dmitry Chernyak
su - gnt-masterd -s /bin/bash -c "/usr/sbin/ganeti-masterd --no-voting"
93 26 Dmitry Chernyak
</pre>
94 26 Dmitry Chernyak
<pre>
95 26 Dmitry Chernyak
gnt-cluster master-failover --no-voting
96 26 Dmitry Chernyak
</pre>
97 26 Dmitry Chernyak
98 9 Dmitry Chernyak
Пометить отключенный узел offline, чтобы master в него не долбился
99 9 Dmitry Chernyak
-С = master-candidate
100 9 Dmitry Chernyak
-O = offline
101 9 Dmitry Chernyak
<pre>
102 9 Dmitry Chernyak
gnt# gnt-node modify -C no -O yes gntY
103 9 Dmitry Chernyak
</pre>
104 10 Dmitry Chernyak
105 9 Dmitry Chernyak
Запустить все виртуалки отключенного узла на резервном:
106 9 Dmitry Chernyak
<pre>
107 9 Dmitry Chernyak
gnt# gnt-node failover --ignore-consistency gnt1
108 9 Dmitry Chernyak
</pre>
109 9 Dmitry Chernyak
110 1 Dmitry Chernyak
h2. Возврат основного узла в строй
111 1 Dmitry Chernyak
112 1 Dmitry Chernyak
Старый основной узел не будет автоматически запускать управляющего демона.
113 1 Dmitry Chernyak
* если не найдет парного узла,
114 1 Dmitry Chernyak
* если найдет парный узел и узнает, что он стал новым master-ом.
115 1 Dmitry Chernyak
116 15 Dmitry Chernyak
Если при отключении узла он помечался как offline (см. выше), то надо вернуть его в строй:
117 15 Dmitry Chernyak
<pre>
118 15 Dmitry Chernyak
gnt# gnt-node modify -C yes -O no gntX
119 15 Dmitry Chernyak
</pre>
120 15 Dmitry Chernyak
121 1 Dmitry Chernyak
Если на узле сохранились данные, то для включения его обратно в кластер:
122 1 Dmitry Chernyak
123 1 Dmitry Chernyak
Скопировать на него свежую конфигурацию с нового master-а
124 1 Dmitry Chernyak
<pre>
125 1 Dmitry Chernyak
gnt# gnt-cluster redist-conf
126 1 Dmitry Chernyak
</pre>
127 1 Dmitry Chernyak
128 1 Dmitry Chernyak
Запустить на нем ganeti-демоны
129 1 Dmitry Chernyak
<pre>
130 1 Dmitry Chernyak
gntX# /etc/init.d/ganeti restart
131 1 Dmitry Chernyak
</pre>
132 1 Dmitry Chernyak
133 2 Владимир Ипатов
h2. Плановый вывод узла из эксплуатации
134 3 Владимир Ипатов
135 2 Владимир Ипатов
Мигрируем виртуальные машины:
136 2 Владимир Ипатов
<pre>
137 8 Dmitry Chernyak
gnt# gnt-instance migrate имя_машины
138 2 Владимир Ипатов
</pre>
139 2 Владимир Ипатов
140 8 Dmitry Chernyak
Если выводимый узел - мастер, то нужно назначить нового мастера(см. выше *Штатное переключение master узла*).
141 1 Dmitry Chernyak
142 8 Dmitry Chernyak
Вывести узел из списка кандидатов на мастера и перевести его в режим offline (это предотвратит появление сообщений об "аварии"):
143 2 Владимир Ипатов
<pre>
144 8 Dmitry Chernyak
gnt# gnt-node modify -C no -O yes УЗЕЛ
145 2 Владимир Ипатов
</pre>
146 2 Владимир Ипатов
147 2 Владимир Ипатов
Далее узел можно просто выключить.
148 1 Dmitry Chernyak
149 1 Dmitry Chernyak
h3. Возврат узла в кластер
150 1 Dmitry Chernyak
151 8 Dmitry Chernyak
После включения узла нужно сообщить кластеру, что узел вернулся в строй:
152 1 Dmitry Chernyak
<pre>
153 8 Dmitry Chernyak
gnt# gnt-node modify -C yes -O no УЗЕЛ
154 8 Dmitry Chernyak
</pre>
155 8 Dmitry Chernyak
156 8 Dmitry Chernyak
Однако, если у вас имеются сомнения в том, что узел остался в рабочем состоянии, то лучше выполнить:
157 8 Dmitry Chernyak
<pre>
158 2 Владимир Ипатов
gnt# gnt-node add --readd УЗЕЛ
159 8 Dmitry Chernyak
</pre> 
160 8 Dmitry Chernyak
161 7 Dmitry Chernyak
В любом случае, после этого нужно подождать около 5 минут, чтобы демон watcher поднял drbd, либо инициировать процесс вручную:
162 8 Dmitry Chernyak
<pre>
163 5 Владимир Ипатов
gnt# gnt-cluster verify-disks
164 8 Dmitry Chernyak
</pre>
165 1 Dmitry Chernyak
166 1 Dmitry Chernyak
h2. Замена узла на новый
167 17 Dmitry Chernyak
168 1 Dmitry Chernyak
Удалить старый узел из /root/.ssh/known_hosts
169 1 Dmitry Chernyak
170 1 Dmitry Chernyak
Добавить узел в кластер
171 1 Dmitry Chernyak
<pre>
172 1 Dmitry Chernyak
gnt# gnt-node add --readd gntX
173 1 Dmitry Chernyak
</pre>
174 26 Dmitry Chernyak
<pre>
175 26 Dmitry Chernyak
gnt# gnt-cluster redist-conf
176 26 Dmitry Chernyak
</pre>
177 5 Владимир Ипатов
Для всех виртуалок, которые имеют secondary на подключенном узле:
178 1 Dmitry Chernyak
<pre>
179 26 Dmitry Chernyak
gnt# gnt-instance replace-disks --auto INSTANCE
180 18 Dmitry Chernyak
</pre>
181 18 Dmitry Chernyak
182 1 Dmitry Chernyak
Перерегистрировать узел в puppet
183 1 Dmitry Chernyak
<pre>
184 1 Dmitry Chernyak
gnt# gnt-instance console sci
185 17 Dmitry Chernyak
sci# puppetca --clean gntX.fqdn
186 1 Dmitry Chernyak
</pre>
187 1 Dmitry Chernyak
188 1 Dmitry Chernyak
<pre>
189 17 Dmitry Chernyak
gntX# rm -r /var/lib/puppet/ssl/*
190 1 Dmitry Chernyak
gntX# /etc/init.d/puppet restart
191 1 Dmitry Chernyak
</pre>
192 1 Dmitry Chernyak
193 1 Dmitry Chernyak
h2. Замена жесткого диска
194 1 Dmitry Chernyak
195 1 Dmitry Chernyak
Скопировать разметку с существующего (только для дисков одной модели!)
196 1 Dmitry Chernyak
<pre>
197 1 Dmitry Chernyak
# sfdisk -d /dev/sda|sfdisk /dev/sdX
198 1 Dmitry Chernyak
</pre>
199 1 Dmitry Chernyak
Проверить
200 1 Dmitry Chernyak
<pre>
201 1 Dmitry Chernyak
# fdisk -l
202 1 Dmitry Chernyak
</pre>
203 1 Dmitry Chernyak
Добавить в RAID
204 1 Dmitry Chernyak
<pre>
205 1 Dmitry Chernyak
# mdadm --manage /dev/md0 --add /dev/sdX1
206 1 Dmitry Chernyak
# mdadm --manage /dev/md1 --add /dev/sdX2
207 1 Dmitry Chernyak
# mdadm --manage /dev/md2 --add /dev/sdX3
208 1 Dmitry Chernyak
</pre>
209 1 Dmitry Chernyak
Проверить
210 1 Dmitry Chernyak
<pre>
211 1 Dmitry Chernyak
cat /proc/mdstat
212 1 Dmitry Chernyak
</pre>
213 21 Владимир Ипатов
214 21 Владимир Ипатов
h2. Восстановление при split-brain:
215 21 Владимир Ипатов
216 21 Владимир Ипатов
Если при activate-disks или при команде запуска/фейловера drbd ругается следующим образом в dmesg:
217 21 Владимир Ипатов
<pre>
218 21 Владимир Ипатов
[10893282.055705] block drbd21: Handshake successful: Agreed network protocol version 96
219 21 Владимир Ипатов
[10893282.056003] block drbd21: Peer authenticated using 16 bytes of 'md5' HMAC
220 21 Владимир Ипатов
[10893282.056008] block drbd21: conn( WFConnection -> WFReportParams ) 
221 21 Владимир Ипатов
[10893282.056031] block drbd21: Starting asender thread (from drbd21_receiver [20355])
222 21 Владимир Ипатов
[10893282.056303] block drbd21: data-integrity-alg: <not-used>
223 21 Владимир Ипатов
[10893282.056319] block drbd21: drbd_sync_handshake:
224 21 Владимир Ипатов
[10893282.056322] block drbd21: self 5323ED521900E1F9:FCBCCB0FBF14BA04:480CD30FE2A601EA:480BD30FE2A601EB bits:46 flags:0
225 21 Владимир Ипатов
[10893282.056324] block drbd21: peer F3B949426796C7F8:FCBCCB0FBF14BA05:480CD30FE2A601EB:480BD30FE2A601EB bits:12288 flags:2
226 21 Владимир Ипатов
[10893282.056326] block drbd21: uuid_compare()=100 by rule 90
227 21 Владимир Ипатов
[10893282.056329] block drbd21: helper command: /bin/true initial-split-brain minor-21
228 21 Владимир Ипатов
[10893282.073918] block drbd21: meta connection shut down by peer.
229 21 Владимир Ипатов
[10893282.073976] block drbd21: conn( WFReportParams -> NetworkFailure ) 
230 21 Владимир Ипатов
[10893282.073981] block drbd21: asender terminated
231 21 Владимир Ипатов
[10893282.073983] block drbd21: Terminating drbd21_asender
232 21 Владимир Ипатов
[10893282.080752] block drbd21: helper command: /bin/true initial-split-brain minor-21 exit code 0 (0x0)
233 21 Владимир Ипатов
[10893282.080754] block drbd21: Split-Brain detected but unresolved, dropping connection!
234 21 Владимир Ипатов
[10893282.080844] block drbd21: helper command: /bin/true split-brain minor-21
235 21 Владимир Ипатов
[10893282.081481] block drbd21: helper command: /bin/true split-brain minor-21 exit code 0 (0x0)
236 21 Владимир Ипатов
[10893282.081484] block drbd21: conn( NetworkFailure -> Disconnecting ) 
237 21 Владимир Ипатов
[10893282.081487] block drbd21: error receiving ReportState, l: 4!
238 21 Владимир Ипатов
[10893282.081577] block drbd21: Connection closed
239 21 Владимир Ипатов
[10893282.081582] block drbd21: conn( Disconnecting -> StandAlone ) 
240 21 Владимир Ипатов
[10893282.081603] block drbd21: receiver terminated
241 21 Владимир Ипатов
[10893282.081604] block drbd21: Terminating drbd21_receiver
242 21 Владимир Ипатов
[10893282.711704] block drbd22: Handshake successful: Agreed network protocol version 96
243 21 Владимир Ипатов
[10893282.712019] block drbd22: Peer authenticated using 16 bytes of 'md5' HMAC
244 21 Владимир Ипатов
[10893282.712024] block drbd22: conn( WFConnection -> WFReportParams ) 
245 21 Владимир Ипатов
[10893282.712047] block drbd22: Starting asender thread (from drbd22_receiver [23709])
246 21 Владимир Ипатов
[10893282.712301] block drbd22: data-integrity-alg: <not-used>
247 21 Владимир Ипатов
[10893282.712332] block drbd22: drbd_sync_handshake:
248 21 Владимир Ипатов
[10893282.712334] block drbd22: self CD794FB0989E2B95:DD71B308E6D3FE88:AD335B3ED83CE576:AD325B3ED83CE577 bits:7 flags:0
249 21 Владимир Ипатов
[10893282.712336] block drbd22: peer 17B47E98FD204408:DD71B308E6D3FE89:AD335B3ED83CE577:AD325B3ED83CE577 bits:3072 flags:2
250 21 Владимир Ипатов
[10893282.712338] block drbd22: uuid_compare()=100 by rule 90
251 21 Владимир Ипатов
[10893282.712341] block drbd22: helper command: /bin/true initial-split-brain minor-22
252 21 Владимир Ипатов
[10893282.713155] block drbd22: helper command: /bin/true initial-split-brain minor-22 exit code 0 (0x0)
253 21 Владимир Ипатов
[10893282.713157] block drbd22: Split-Brain detected but unresolved, dropping connection!
254 21 Владимир Ипатов
[10893282.713251] block drbd22: helper command: /bin/true split-brain minor-22
255 21 Владимир Ипатов
[10893282.713820] block drbd22: meta connection shut down by peer.
256 21 Владимир Ипатов
[10893282.713889] block drbd22: conn( WFReportParams -> NetworkFailure ) 
257 21 Владимир Ипатов
[10893282.713895] block drbd22: asender terminated
258 21 Владимир Ипатов
[10893282.713897] block drbd22: Terminating drbd22_asender
259 21 Владимир Ипатов
[10893282.713945] block drbd22: helper command: /bin/true split-brain minor-22 exit code 0 (0x0)
260 21 Владимир Ипатов
[10893282.713948] block drbd22: conn( NetworkFailure -> Disconnecting ) 
261 21 Владимир Ипатов
[10893282.713952] block drbd22: error receiving ReportState, l: 4!
262 21 Владимир Ипатов
[10893282.714046] block drbd22: Connection closed
263 21 Владимир Ипатов
[10893282.714050] block drbd22: conn( Disconnecting -> StandAlone ) 
264 21 Владимир Ипатов
[10893282.714070] block drbd22: receiver terminated
265 21 Владимир Ипатов
[10893282.714072] block drbd22: Terminating drbd22_receiver
266 21 Владимир Ипатов
[10893283.140310] block drbd21: conn( StandAlone -> Unconnected ) 
267 21 Владимир Ипатов
[10893283.140323] block drbd21: Starting receiver thread (from drbd21_worker [23682])
268 21 Владимир Ипатов
[10893283.140363] block drbd21: receiver (re)started
269 21 Владимир Ипатов
[10893283.140366] block drbd21: conn( Unconnected -> WFConnection ) 
270 21 Владимир Ипатов
[10893283.498632] block drbd22: conn( StandAlone -> Unconnected ) 
271 21 Владимир Ипатов
[10893283.498646] block drbd22: Starting receiver thread (from drbd22_worker [23702])
272 21 Владимир Ипатов
[10893283.498705] block drbd22: receiver (re)started
273 21 Владимир Ипатов
[10893283.498710] block drbd22: conn( Unconnected -> WFConnection ) 
274 21 Владимир Ипатов
</pre>
275 21 Владимир Ипатов
Здесь мы видим:
276 21 Владимир Ипатов
<pre>
277 21 Владимир Ипатов
[10893282.713155] block drbd22: helper command: /bin/true initial-split-brain minor-22 exit code 0 (0x0)
278 21 Владимир Ипатов
[10893282.713157] block drbd22: Split-Brain detected but unresolved, dropping connection!
279 21 Владимир Ипатов
</pre>
280 21 Владимир Ипатов
281 21 Владимир Ипатов
то, во-первых, нужно установить, где находятся актуальные данные.
282 21 Владимир Ипатов
Когда когда точно установлено, где актуальные данные, мы идем на ноду, где данные *битые*, и там даем команду:
283 21 Владимир Ипатов
<pre>
284 21 Владимир Ипатов
drbdsetup /dev/drbd23 invalidate
285 21 Владимир Ипатов
</pre>
286 21 Владимир Ипатов
Затем на мастере дать activate-disks для этого инстанса, и проследить, что все drbd ресурсы отсинкались.
287 22 Dmitry Chernyak
288 22 Dmitry Chernyak
h2. Восстановление outdated диска
289 22 Dmitry Chernyak
290 22 Dmitry Chernyak
Ситуация: primary узел умер, диск на secondary узле считает себя outdated.
291 22 Dmitry Chernyak
Watcher пишет письма, содержащие в логе такую строку:
292 22 Dmitry Chernyak
<pre>
293 23 Dmitry Chernyak
Error while assembling disk: drbd7: can't make drbd device primary:
294 23 Dmitry Chernyak
 /dev/drbd7: State change failed: (-2) Need access to UpToDate data\n
295 22 Dmitry Chernyak
</pre>
296 22 Dmitry Chernyak
297 22 Dmitry Chernyak
Виртуалка не поднимается, диски не собираются (точнее собираются и отключаются обратно).
298 22 Dmitry Chernyak
Требуется собрать диск вручную и сказать ему что он primary
299 22 Dmitry Chernyak
300 22 Dmitry Chernyak
<pre>
301 22 Dmitry Chernyak
root@gnt1:~# gnt-instance info ИНСТАНС
302 22 Dmitry Chernyak
[skip]
303 22 Dmitry Chernyak
    - disk/0: drbd8, size 117.2G
304 22 Dmitry Chernyak
      access mode: rw
305 22 Dmitry Chernyak
      nodeA:       gnt2.XXXX.ru, minor=2
306 22 Dmitry Chernyak
      nodeB:       gnt3.XXXX.ru, minor=0
307 22 Dmitry Chernyak
      port:        11012
308 22 Dmitry Chernyak
      auth key:    06ca8046f1323d0b154c500f41c0d625cbd796c3
309 22 Dmitry Chernyak
      on primary:  /dev/drbd2 (147:2) in sync, status *DEGRADED*
310 22 Dmitry Chernyak
      child devices:
311 22 Dmitry Chernyak
        - child 0: lvm, size 117.2G
312 22 Dmitry Chernyak
          logical_id: xenvg/813feab3-f7a5-41bb-8a34-5b053ad1c8a6.disk0_data
313 22 Dmitry Chernyak
          on primary: /dev/xenvg/813feab3-f7a5-41bb-8a34-5b053ad1c8a6.disk0_data (253:11)
314 22 Dmitry Chernyak
        - child 1: lvm, size 128M
315 22 Dmitry Chernyak
          logical_id: xenvg/813feab3-f7a5-41bb-8a34-5b053ad1c8a6.disk0_meta
316 22 Dmitry Chernyak
          on primary: /dev/xenvg/813feab3-f7a5-41bb-8a34-5b053ad1c8a6.disk0_meta (253:12)
317 22 Dmitry Chernyak
318 22 Dmitry Chernyak
</pre>
319 1 Dmitry Chernyak
320 1 Dmitry Chernyak
<pre>
321 23 Dmitry Chernyak
root@gnt2:~# drbdsetup /dev/drbd8 disk /dev/xenvg/813feab3-f7a5-41bb-8a34-5b053ad1c8a6.disk0_data \
322 23 Dmitry Chernyak
 /dev/xenvg/813feab3-f7a5-41bb-8a34-5b053ad1c8a6.disk0_meta 0
323 22 Dmitry Chernyak
</pre>
324 22 Dmitry Chernyak
325 22 Dmitry Chernyak
<pre>
326 22 Dmitry Chernyak
root@gnt2:~# drbd-overview 
327 22 Dmitry Chernyak
  0:??not-found??  Connected  Secondary/Primary UpToDate/UpToDate C      r----- 
328 22 Dmitry Chernyak
  8:??not-found??  StandAlone Secondary/Unknown Outdated/DUnknown r-----
329 22 Dmitry Chernyak
</pre> 
330 22 Dmitry Chernyak
331 22 Dmitry Chernyak
root@gnt2:~# drbdsetup /dev/drbd8 primary -f
332 22 Dmitry Chernyak
333 22 Dmitry Chernyak
<pre>
334 22 Dmitry Chernyak
root@gnt2:~# drbd-overview 
335 22 Dmitry Chernyak
  0:??not-found??  Connected  Secondary/Primary UpToDate/UpToDate C      r----- 
336 22 Dmitry Chernyak
  8:??not-found??  StandAlone Primary/Unknown   UpToDate/DUnknown r-----
337 22 Dmitry Chernyak
</pre> 
338 22 Dmitry Chernyak
339 22 Dmitry Chernyak
<pre>
340 22 Dmitry Chernyak
root@gnt2:~# drbdsetup /dev/drbd8 down
341 22 Dmitry Chernyak
</pre>