<html><body style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space; ">My Apologies. The actual config looks like this:<div><br class="webkit-block-placeholder"></div><div><blockquote type="cite"><span class="Apple-style-span" style="font-size: 10px; ">global {<br>&nbsp;&nbsp;&nbsp;&nbsp; usage-count no;<br>}<br><br>common {<br><br>&nbsp;&nbsp; syncer {rate 20M;}<br><br>&nbsp;&nbsp; handlers {<br>&nbsp;&nbsp;&nbsp;&nbsp; local-io-error "echo o &gt; /proc/sysrq-trigger ; halt -f";<br>&nbsp;&nbsp;&nbsp;&nbsp; outdate-peer "/sbin/drbd-peer-outdater";<br>&nbsp;&nbsp; }<br><br>&nbsp;&nbsp; startup {<br>&nbsp;&nbsp;&nbsp;&nbsp; wfc-timeout&nbsp; 120;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; # s<br>&nbsp;&nbsp;&nbsp;&nbsp; degr-wfc-timeout 120;&nbsp;&nbsp;&nbsp; # 2 minutes.<br>&nbsp;&nbsp; }<br><br>&nbsp;&nbsp; disk {<br>&nbsp;&nbsp;&nbsp;&nbsp; on-io-error&nbsp;&nbsp; detach;<br>&nbsp;&nbsp; }<br><br>&nbsp;&nbsp; net {<br>&nbsp;&nbsp;&nbsp;&nbsp; sndbuf-size 512k;<br>&nbsp;&nbsp;&nbsp;&nbsp; max-buffers&nbsp;&nbsp;&nbsp;&nbsp; 2048;<br>&nbsp;&nbsp;&nbsp;&nbsp; unplug-watermark&nbsp;&nbsp; 128;<br>&nbsp;&nbsp;&nbsp;&nbsp; cram-hmac-alg "xxx";<br>&nbsp;&nbsp;&nbsp;&nbsp; shared-secret "xxx";<br>&nbsp;&nbsp;&nbsp;&nbsp; after-sb-0pri disconnect;<br>&nbsp;&nbsp;&nbsp;&nbsp; after-sb-1pri disconnect;<br>&nbsp;&nbsp;&nbsp;&nbsp; after-sb-2pri disconnect;<br>&nbsp;&nbsp;&nbsp;&nbsp; rr-conflict disconnect;<br>&nbsp;&nbsp; }<br><br>}<br><br>resource drbd_sdb1 {<br>&nbsp;&nbsp; protocol C;<br><br>&nbsp;&nbsp; syncer {<br>&nbsp;&nbsp;&nbsp;&nbsp; al-extents 1031;<br>&nbsp;&nbsp; }<br><br>&nbsp;&nbsp; on nfs2.imprev.net {<br>&nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp;&nbsp; /dev/drbd0;<br>&nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb1;<br>&nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp;&nbsp; 216.145.23.104:7788;<br>&nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk&nbsp; /dev/sdb2;<br>&nbsp;&nbsp; }<br><br>&nbsp;&nbsp; on nfs1.imprev.net {<br>&nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp; /dev/drbd0;<br>&nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb1;<br>&nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp; 216.145.23.103:7788;<br>&nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk /dev/sdb3;<br>&nbsp;&nbsp; }<br>}<br><br>resource drbd_sdb3 {<br>&nbsp;&nbsp; protocol C;<br><br>&nbsp;&nbsp; syncer {<br>&nbsp;&nbsp;&nbsp;&nbsp; al-extents 1031;<br>&nbsp;&nbsp; }<br><br>&nbsp;&nbsp; on nfs2.imprev.net {<br>&nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp;&nbsp; /dev/drbd1;<br>&nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb3;<br>&nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp;&nbsp; 216.145.23.104:7789;<br>&nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk&nbsp; /dev/sdb4;<br><br>&nbsp;&nbsp; on nfs1.imprev.net {<br>&nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp; /dev/drbd1;<br>&nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb2;<br>&nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp; 216.145.23.103:7789;<br>&nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk /dev/sdb4;<br>&nbsp;&nbsp; }<br>}<br><br>resource drbd_sdb5 {<br>&nbsp;&nbsp; protocol C;<br><br>&nbsp;&nbsp; syncer {<br>&nbsp;&nbsp;&nbsp;&nbsp; al-extents 1031;<br>&nbsp;&nbsp; }<br><br>&nbsp;&nbsp; on nfs2.imprev.net {<br>&nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp;&nbsp; /dev/drbd2;<br>&nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb5;<br>&nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp;&nbsp; 216.145.23.104:7790;<br>&nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk&nbsp; /dev/sdb6;<br>&nbsp;&nbsp; }<br><br>&nbsp;&nbsp; on nfs1.imprev.net {<br>&nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp; /dev/drbd2;<br>&nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb6;<br>&nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp; 216.145.23.103:7790;<br>&nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk /dev/sdb5;<br>&nbsp;&nbsp; }<br>}</span></blockquote></div><div><br><div><div>On Mar 5, 2008, at 7:12 PM, Ross S. W. Walker wrote:</div><br class="Apple-interchange-newline"><blockquote type="cite"> <div> <!-- Converted from text/plain format --><p><font size="2">&gt; NOTE: the SDB devices on nfs2 are numbered differently.<br> <br> Yet in your config they match up.<br> <br> May be a case of putting 2.0TB into a 1.5TB bag.<br> <br> -Ross<br> <br> <br> ----- Original Message -----<br> From: <a href="mailto:drbd-user-bounces@lists.linbit.com">drbd-user-bounces@lists.linbit.com</a> &lt;<a href="mailto:drbd-user-bounces@lists.linbit.com">drbd-user-bounces@lists.linbit.com</a>&gt;<br> To: <a href="mailto:drbd-user@lists.linbit.com">drbd-user@lists.linbit.com</a> &lt;<a href="mailto:drbd-user@lists.linbit.com">drbd-user@lists.linbit.com</a>&gt;<br> Sent: Wed Mar 05 20:52:31 2008<br> Subject: [DRBD-user] DRBD LVM2 Trouble<br> <br> Hey Guys,<br> <br> I have a pretty bad situation on my hands.<br> <br> We had a node configured running DRBD 8.0.6. The goal was to keep this&nbsp;<br> running in standalone mode until we provisioned a matching machine. We&nbsp;<br> purchased the matching machine and finally had it fully configured&nbsp;<br> today. I kicked off the initial sync, and had hoped that we would have&nbsp;<br> both machines in sync within a day or two.<br> <br> This was unfortunately not the case. When I kicked off the sync all&nbsp;<br> seemed well however our application quickly began throwing error's as&nbsp;<br> the primary node became read only. I quickly shut off drbd on the&nbsp;<br> secondary node and attempted to return the original configuration to&nbsp;<br> the primary server. Sadly no amount of back peddling has helped us. We&nbsp;<br> are currently dead in the water.<br> <br> DRBD was configured on the primary node with LVM. We have/had 3&nbsp;<br> resources configured the first 2 being 2TB in size and the 3rd being&nbsp;<br> 1.4-5TB in size. Since stopping the initial sync I have not been able&nbsp;<br> to mount LVM Volume Group that sits above the three resources. NOTE:&nbsp;<br> the SDB devices on nfs2 are numbered differently.<br> <br> /var/log/messages was giving the following messages:<br> <br> Mar&nbsp; 5 14:38:35 nfs2 kernel: drbd2: rw=0, want=3434534208,&nbsp;<br> limit=3421310910<br> Mar&nbsp; 5 14:38:35 nfs2 kernel: attempt to access beyond end of device<br> Mar&nbsp; 5 14:38:35 nfs2 kernel: drbd2: rw=0, want=3434534216,&nbsp;<br> limit=3421310910<br> Mar&nbsp; 5 14:38:35 nfs2 kernel: attempt to access beyond end of device<br> Mar&nbsp; 5 14:38:35 nfs2 kernel: drbd2: rw=0, want=3434534224,&nbsp;<br> limit=3421310910<br> Mar&nbsp; 5 14:38:35 nfs2 kernel: attempt to access beyond end of device<br> <br> <br> Here is my conf:<br> <br> global {<br> &nbsp;&nbsp;&nbsp;&nbsp; usage-count no;<br> }<br> <br> common {<br> <br> &nbsp;&nbsp; syncer {rate 20M;}<br> <br> &nbsp;&nbsp; handlers {<br> &nbsp;&nbsp;&nbsp;&nbsp; local-io-error "echo o &gt; /proc/sysrq-trigger ; halt -f";<br> &nbsp;&nbsp;&nbsp;&nbsp; outdate-peer "/sbin/drbd-peer-outdater";<br> &nbsp;&nbsp; }<br> <br> &nbsp;&nbsp; startup {<br> &nbsp;&nbsp;&nbsp;&nbsp; wfc-timeout&nbsp; 120;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; # s<br> &nbsp;&nbsp;&nbsp;&nbsp; degr-wfc-timeout 120;&nbsp;&nbsp;&nbsp; # 2 minutes.<br> &nbsp;&nbsp; }<br> <br> &nbsp;&nbsp; disk {<br> &nbsp;&nbsp;&nbsp;&nbsp; on-io-error&nbsp;&nbsp; detach;<br> &nbsp;&nbsp; }<br> <br> &nbsp;&nbsp; net {<br> &nbsp;&nbsp;&nbsp;&nbsp; sndbuf-size 512k;<br> &nbsp;&nbsp;&nbsp;&nbsp; max-buffers&nbsp;&nbsp;&nbsp;&nbsp; 2048;<br> &nbsp;&nbsp;&nbsp;&nbsp; unplug-watermark&nbsp;&nbsp; 128;<br> &nbsp;&nbsp;&nbsp;&nbsp; cram-hmac-alg "xxx";<br> &nbsp;&nbsp;&nbsp;&nbsp; shared-secret "xxx";<br> &nbsp;&nbsp;&nbsp;&nbsp; after-sb-0pri disconnect;<br> &nbsp;&nbsp;&nbsp;&nbsp; after-sb-1pri disconnect;<br> &nbsp;&nbsp;&nbsp;&nbsp; after-sb-2pri disconnect;<br> &nbsp;&nbsp;&nbsp;&nbsp; rr-conflict disconnect;<br> &nbsp;&nbsp; }<br> <br> }<br> <br> resource drbd_sdb1 {<br> &nbsp;&nbsp; protocol C;<br> <br> &nbsp;&nbsp; syncer {<br> &nbsp;&nbsp;&nbsp;&nbsp; al-extents 1031;<br> &nbsp;&nbsp; }<br> <br> &nbsp;&nbsp; on nfs2.imprev.net {<br> &nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp;&nbsp; /dev/drbd0;<br> &nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb1;<br> &nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp;&nbsp; 216.145.23.104:7788;<br> &nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk&nbsp; /dev/sdb2;<br> &nbsp;&nbsp; }<br> <br> &nbsp;&nbsp; on nfs1.imprev.net {<br> &nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp; /dev/drbd0;<br> &nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb1;<br> &nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp; 216.145.23.103:7788;<br> &nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk /dev/sdb2;<br> &nbsp;&nbsp; }<br> }<br> <br> resource drbd_sdb3 {<br> &nbsp;&nbsp; protocol C;<br> <br> &nbsp;&nbsp; syncer {<br> &nbsp;&nbsp;&nbsp;&nbsp; al-extents 1031;<br> &nbsp;&nbsp; }<br> <br> &nbsp;&nbsp; on nfs2.imprev.net {<br> &nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp;&nbsp; /dev/drbd1;<br> &nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb3;<br> &nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp;&nbsp; 216.145.23.104:7789;<br> &nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk&nbsp; /dev/sdb4;<br> <br> &nbsp;&nbsp; on nfs1.imprev.net {<br> &nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp; /dev/drbd1;<br> &nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb3;<br> &nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp; 216.145.23.103:7789;<br> &nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk /dev/sdb4;<br> &nbsp;&nbsp; }<br> }<br> <br> resource drbd_sdb5 {<br> &nbsp;&nbsp; protocol C;<br> <br> &nbsp;&nbsp; syncer {<br> &nbsp;&nbsp;&nbsp;&nbsp; al-extents 1031;<br> &nbsp;&nbsp; }<br> <br> &nbsp;&nbsp; on nfs2.imprev.net {<br> &nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp;&nbsp; /dev/drbd2;<br> &nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb5;<br> &nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp;&nbsp; 216.145.23.104:7790;<br> &nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk&nbsp; /dev/sdb6;<br> &nbsp;&nbsp; }<br> <br> &nbsp;&nbsp; on nfs1.imprev.net {<br> &nbsp;&nbsp;&nbsp;&nbsp; device&nbsp;&nbsp;&nbsp; /dev/drbd2;<br> &nbsp;&nbsp;&nbsp;&nbsp; disk&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; /dev/sdb5;<br> &nbsp;&nbsp;&nbsp;&nbsp; address&nbsp;&nbsp; 216.145.23.103:7790;<br> &nbsp;&nbsp;&nbsp;&nbsp; flexible-meta-disk /dev/sdb6;<br> &nbsp;&nbsp; }<br> }<br> <br> <br> &nbsp;<br> &nbsp;<br> _______________________________________________<br> drbd-user mailing list<br> <a href="mailto:drbd-user@lists.linbit.com">drbd-user@lists.linbit.com</a><br> <a href="http://lists.linbit.com/mailman/listinfo/drbd-user">http://lists.linbit.com/mailman/listinfo/drbd-user</a><br> </font> </p><div><br class="webkit-block-placeholder"></div> <hr width="100%"> This e-mail, and any attachments thereto, is intended only for use by the addressee(s) named herein and may contain legally privileged and/or confidential information. If you are not the intended recipient of this e-mail, you are hereby notified that any dissemination, distribution or copying of this e-mail, and any attachments thereto, is strictly prohibited. If you have received this e-mail in error, please immediately notify the sender and permanently delete the original and any copy or printout thereof. </div> </blockquote></div><br></div></body></html>