<html><head><style type='text/css'>p { margin: 0; }</style></head><body><div style='font-family: Times New Roman; font-size: 10pt; color: #000000'>Hi,<br><br>DRBD is running directly on md0. &nbsp;/dev/drbd1 is then exported via iSCSI.<br><br>The logs show:<br><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.332010] drbd: initialized. Version: 8.3.7 (api:88/proto:86-91)</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.332012] drbd: GIT-hash: ea9e28dbff98e331a62bcbcc63a6135808fe2917 build by root@filer-1, 2011-03-05 08:29:38</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.332014] drbd: registered as block device major 147</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.332015] drbd: minor_table @ 0xffff88021dbaf300</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.334144] block drbd1: Starting worker thread (from cqueue [1489])</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif; background-color: rgb(248, 250, 51);">Oct 21 15:34:53 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.334177] block drbd1: ==&gt; truncating very big lower level device to currently maximum possible 8587575296 sectors &lt;==</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif; background-color: rgb(248, 250, 51);"><span style="font-family: courier new,courier,monaco,monospace,sans-serif; background-color: rgb(248, 250, 51);">Oct 21 15:34:53 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.334179] block drbd1: ==&gt;&gt; using internal or flexible meta data may help &lt;&lt;==</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif; background-color: rgb(248, 250, 51);"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.334188] block drbd1: disk( Diskless -&gt; Attaching ) </span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.353306] Loading iSCSI transport class v2.0-870.</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.360582] skge eth0: disabling interface</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 iscsid: iSCSI logger with pid=1515 started!</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.381956] iscsi: registered transport (iser)</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 init: ssh main process (1162) terminated with status 255</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:53 iscsi-filer-1 postfix/master[1411]: reload -- version 2.7.0, configuration /etc/postfix</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:54 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.584678] block drbd1: Found 57 transactions (3507 active extents) in activity log. &nbsp; </span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:54 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.584684] block drbd1: Method to ensure write ordering: barrier</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:54 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.584691] block drbd1: Backing device's merge_bvec_fn() = ffffffffa00c0100</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:54 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.584694] block drbd1: max_segment_size ( = BIO size ) = 4096</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:54 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.584698] block drbd1: Adjusting my ra_pages to backing device's (32 -&gt; 96) </span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:54 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.584704] block drbd1: drbd_bm_resize called with capacity == 8587575296</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:54 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.603470] block drbd1: resync bitmap: bits=1073446912 words=16772608</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><span style="font-family: courier new,courier,monaco,monospace,sans-serif;">Oct 21 15:34:54 iscsi-filer-1 kernel: [ &nbsp; &nbsp;7.603474] block drbd1: size = 4095 GB (4293787648 KB)</span><br style="font-family: courier new,courier,monaco,monospace,sans-serif;"><br><span style="font-family: times new roman,new york,times,serif;">The lines in yellow bug me.&nbsp; I don't recall see them before.<br><br>I had a 4 disk RAID-6 md0 (4x2TB = 4 TB RAID-6).&nbsp; I added a single drive (5x2TB = 6 TB array).<br><br>Any ideas?<br><br>Gerald<br><br></span><br><hr id="zwchr"><br><blockquote> From: "Andreas Kurz" &lt;andreas@hastexo.com&gt;<br>&nbsp;To: drbd-user@lists.linbit.com<br>&nbsp;Sent: Friday, October 21, 2011 2:55:06 PM<br>&nbsp;Subject: Re: [DRBD-user] Increasing a DRBD array<br>&nbsp;<br>&nbsp;On 10/21/2011 09:30 PM, Gerald Brandt wrote:<br>&nbsp;&gt; Hi,<br>&nbsp;&gt; <br>&nbsp;&gt; I've successfully resize the lower level RAID-6 array, and grown<br>&nbsp;&gt; it. &nbsp;I'm now attempting to resize drbd, and nothing seems to<br>&nbsp;&gt; happen.<br>&nbsp;&gt; <br>&nbsp;&gt; /dev/md0 is definitely bigger.<br>&nbsp;&gt; <br>&nbsp;&gt; What should I see during a drbd resize?<br>&nbsp;<br>&nbsp;You should see a DRBD resync of the newly added space.<br>&nbsp;<br>&nbsp;What is the lower level device of your DRBD resource? The whole md0,<br>&nbsp;a<br>&nbsp;partition on md0, a lv on a vg on a pv on md0?<br>&nbsp;<br>&nbsp;... so if the lower level device has been resized on both nodes, DRBD<br>&nbsp;should definitely grow on a "drbdadm resize".<br>&nbsp;<br>&nbsp;Did I mention that on starting DRBD it is resized automatically if a<br>&nbsp;bigger lower level device is detected? ... have a look at the kernel<br>&nbsp;logs...<br>&nbsp;<br>&nbsp;Regards,<br>&nbsp;Andreas<br>&nbsp;<br>&nbsp;--<br>&nbsp;Need help with DRBD?<br>&nbsp;http://www.hastexo.com/now<br>&nbsp;<br>&nbsp;&gt; <br>&nbsp;&gt; Gerald<br>&nbsp;&gt; <br>&nbsp;&gt; <br>&nbsp;&gt; ----- Original Message -----<br>&nbsp;&gt;&gt; From: "Gerald Brandt" &lt;gbr@majentis.com&gt;<br>&nbsp;&gt;&gt; To: drbd-user@lists.linbit.com<br>&nbsp;&gt;&gt; Sent: Tuesday, October 18, 2011 7:08:55 AM<br>&nbsp;&gt;&gt; Subject: Re: [DRBD-user] Increasing a DRBD array<br>&nbsp;&gt;&gt;<br>&nbsp;&gt;&gt; Hi,<br>&nbsp;&gt;&gt;<br>&nbsp;&gt;&gt; Okay, this is my list of what to do, and in what order:<br>&nbsp;&gt;&gt;<br>&nbsp;&gt;&gt; 1. remove the primary from DRBD<br>&nbsp;&gt;&gt; 2. add the physical disk to the primary<br>&nbsp;&gt;&gt; 3. add the primary back to DRBD and allow resync.<br>&nbsp;&gt;&gt; 4. remove the secondary from DRBD<br>&nbsp;&gt;&gt; 5. add the physical disk to the secondary<br>&nbsp;&gt;&gt; 6. add the secondary back to DRBD and allow resync.<br>&nbsp;&gt;&gt; 7. fdisk and add the disk to the RAID array on primary and<br>&nbsp;&gt;&gt; secondary<br>&nbsp;&gt;&gt; 8. grow the RAID array on the primary and secondary (while mounted<br>&nbsp;&gt;&gt; or<br>&nbsp;&gt;&gt; not mounted?)<br>&nbsp;&gt;&gt; 9. drbdadm resize on the primary (can this be done while drbd is<br>&nbsp;&gt;&gt; in<br>&nbsp;&gt;&gt; use?)<br>&nbsp;&gt;&gt; 10. expand the file system on the primary only (via Citrix<br>&nbsp;&gt;&gt; XenServer<br>&nbsp;&gt;&gt; (iSCSI))<br>&nbsp;&gt;&gt;<br>&nbsp;&gt;&gt; That sounds about right. &nbsp;As long as I don't lose data. (yeah,<br>&nbsp;&gt;&gt; backups. &nbsp;That's left up to my client, but becomes my problem if<br>&nbsp;&gt;&gt; they failed.)<br>&nbsp;&gt;&gt;<br>&nbsp;&gt;&gt; Gerald<br>&nbsp;&gt;&gt;<br>&nbsp;&gt;&gt;<br>&nbsp;&gt;&gt;<br>&nbsp;&gt;&gt; ----- Original Message -----<br>&nbsp;&gt;&gt;&gt; From: "Florian Haas" &lt;florian@hastexo.com&gt;<br>&nbsp;&gt;&gt;&gt; To: drbd-user@lists.linbit.com<br>&nbsp;&gt;&gt;&gt; Sent: Tuesday, October 18, 2011 3:53:11 AM<br>&nbsp;&gt;&gt;&gt; Subject: Re: [DRBD-user] Increasing a DRBD array<br>&nbsp;&gt;&gt;&gt;<br>&nbsp;&gt;&gt;&gt; On 2011-10-17 22:19, Matt Graham wrote:<br>&nbsp;&gt;&gt;&gt;&gt;&gt;&gt; Your DRBD uses the MD RAID as its backing device, doesn't it?<br>&nbsp;&gt;&gt;&gt;&gt;&gt;&gt; That means you'll have add the drive and resize your RAID<br>&nbsp;&gt;&gt;&gt;&gt;&gt;&gt; first,<br>&nbsp;&gt;&gt;&gt;&gt;&gt;&gt; then<br>&nbsp;&gt;&gt;&gt;&gt;&gt;&gt; you can resize your DRBD, and then expand the file system.<br>&nbsp;&gt;&gt;&gt;&gt;&gt; Definitely built on top of the RAID. &nbsp;I'm a bit confused by<br>&nbsp;&gt;&gt;&gt;&gt;&gt; your<br>&nbsp;&gt;&gt;&gt;&gt;&gt; answer though. &nbsp;Step 8 grows the RAID array, and I don't have a<br>&nbsp;&gt;&gt;&gt;&gt;&gt; step<br>&nbsp;&gt;&gt;&gt;&gt;&gt; to grow DRBD. &nbsp;Does that mean I'm missing something?<br>&nbsp;&gt;&gt;&gt;&gt;<br>&nbsp;&gt;&gt;&gt;&gt; 8. mdadm --grow /dev/md0 (other mdadm options)<br>&nbsp;&gt;&gt;&gt;&gt; &nbsp; &nbsp;Do that on both machines.<br>&nbsp;&gt;&gt;&gt;&gt; 8.1 (on secondary) drbdsetup /dev/drbd0 resize<br>&nbsp;&gt;&gt;&gt;&gt; 8.2 (on primary) drbdsetup /dev/drbd0 resize<br>&nbsp;&gt;&gt;&gt;<br>&nbsp;&gt;&gt;&gt; There's a "resize" subcommand for drbdadm too; no need to use<br>&nbsp;&gt;&gt;&gt; drbdsetup.<br>&nbsp;&gt;&gt;&gt; And it needs to be done on one node only. Just do "drbdadm resize<br>&nbsp;&gt;&gt;&gt; &lt;resourcename&gt;" on the primary while the two nodes are connected,<br>&nbsp;&gt;&gt;&gt; and<br>&nbsp;&gt;&gt;&gt; you're good to go.<br>&nbsp;&gt;&gt;&gt;<br>&nbsp;&gt;&gt;&gt;&gt; &nbsp; &nbsp;The softRAID is below the DRBD device. &nbsp;Once the softRAID is<br>&nbsp;&gt;&gt;&gt;&gt; &nbsp; &nbsp;larger, the DRBD device needs to be informed of this fact.<br>&nbsp;&gt;&gt;&gt;&gt; &nbsp; &nbsp;When making arrays/devices larger, you go bottom-up; you make<br>&nbsp;&gt;&gt;&gt;&gt; &nbsp; &nbsp;the hardware changes first, then softRAID changes, then DRBD<br>&nbsp;&gt;&gt;&gt;&gt; &nbsp; &nbsp;changes, then filesystem changes.<br>&nbsp;&gt;&gt;&gt;&gt; 9. (on primary) resize2fs /dev/drbd0<br>&nbsp;&gt;&gt;&gt;<br>&nbsp;&gt;&gt;&gt; If it's ext3 and if it supports on-line resizing, of course. But<br>&nbsp;&gt;&gt;&gt; that<br>&nbsp;&gt;&gt;&gt; should be obvious.<br>&nbsp;&gt;&gt;&gt;<br>&nbsp;&gt;&gt;&gt; Cheers,<br>&nbsp;&gt;&gt;&gt; Florian<br>&nbsp;&gt;&gt;&gt;<br>&nbsp;&gt;&gt;&gt; --<br>&nbsp;&gt;&gt;&gt; Need help with DRBD?<br>&nbsp;&gt;&gt;&gt; http://www.hastexo.com/knowledge/drbd<br>&nbsp;&gt;&gt;&gt; _______________________________________________<br>&nbsp;&gt;&gt;&gt; drbd-user mailing list<br>&nbsp;&gt;&gt;&gt; drbd-user@lists.linbit.com<br>&nbsp;&gt;&gt;&gt; http://lists.linbit.com/mailman/listinfo/drbd-user<br>&nbsp;&gt;&gt;&gt;<br>&nbsp;&gt;&gt; _______________________________________________<br>&nbsp;&gt;&gt; drbd-user mailing list<br>&nbsp;&gt;&gt; drbd-user@lists.linbit.com<br>&nbsp;&gt;&gt; http://lists.linbit.com/mailman/listinfo/drbd-user<br>&nbsp;&gt;&gt;<br>&nbsp;&gt; _______________________________________________<br>&nbsp;&gt; drbd-user mailing list<br>&nbsp;&gt; drbd-user@lists.linbit.com<br>&nbsp;&gt; http://lists.linbit.com/mailman/listinfo/drbd-user<br>&nbsp;<br>&nbsp;<br>&nbsp;<br>&nbsp;<br>&nbsp;<br>&nbsp;_______________________________________________<br>&nbsp;drbd-user mailing list<br>&nbsp;drbd-user@lists.linbit.com<br>&nbsp;http://lists.linbit.com/mailman/listinfo/drbd-user<br>&nbsp;<br><br></blockquote></div></body></html>