<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">

<head>
<META HTTP-EQUIV="Content-Type" CONTENT="text/html; charset=us-ascii">
<meta name=Generator content="Microsoft Word 12 (filtered medium)">
<style>
<!--
 /* Font Definitions */
 @font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
 /* Style Definitions */
 p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri","sans-serif";}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Calibri","sans-serif";
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;}
@page Section1
        {size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.Section1
        {page:Section1;}
-->
</style>
<!--[if gte mso 9]><xml>
 <o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
 <o:shapelayout v:ext="edit">
  <o:idmap v:ext="edit" data="1" />
 </o:shapelayout></xml><![endif]-->
</head>

<body lang=EN-US link=blue vlink=purple>

<div class=Section1>

<p class=MsoNormal>We took our nodes down for data center maintenance yesterday,
and the drbd sync would not start again.<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>I have the following:<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>[root@filer1 ~]# cat /proc/drbd<o:p></o:p></p>

<p class=MsoNormal>version: 8.2.6 (api:88/proto:86-88)<o:p></o:p></p>

<p class=MsoNormal>GIT-hash: 3e69822d3bb4920a8c1bfdf7d647169eba7d2eb4 build by
buildsvn@c5-x8664-build, 2008-10-03 11:30:17<o:p></o:p></p>

<p class=MsoNormal>&nbsp;0: cs:StandAlone st:Primary/Unknown ds:UpToDate/DUnknown&nbsp;&nbsp;
r---<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; ns:0 nr:0 dw:33864840 dr:13317628 al:116131 bm:114960
lo:0 pe:0 ua:0 ap:0 oos:29856900<o:p></o:p></p>

<p class=MsoNormal>&nbsp;1: cs:StandAlone st:Primary/Unknown ds:UpToDate/DUnknown&nbsp;&nbsp;
r---<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; ns:0 nr:0 dw:16813116 dr:6283432 al:50485 bm:49835 lo:0
pe:0 ua:0 ap:0 oos:23711044<o:p></o:p></p>

<p class=MsoNormal>&nbsp;2: cs:StandAlone st:Primary/Unknown ds:UpToDate/DUnknown&nbsp;&nbsp;
r---<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; ns:0 nr:0 dw:63376768 dr:19776836 al:35919 bm:34879 lo:0
pe:0 ua:0 ap:0 oos:74418524<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>[root@filer2 ~]# cat /proc/drbd<o:p></o:p></p>

<p class=MsoNormal>version: 8.2.6 (api:88/proto:86-88)<o:p></o:p></p>

<p class=MsoNormal>GIT-hash: 3e69822d3bb4920a8c1bfdf7d647169eba7d2eb4 build by
buildsvn@c5-x8664-build, 2008-10-03 11:30:17<o:p></o:p></p>

<p class=MsoNormal>&nbsp;0: cs:WFConnection st:Secondary/Unknown
ds:Inconsistent/DUnknown B r---<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; ns:0 nr:0 dw:0 dr:0 al:0 bm:0 lo:0 pe:0 ua:0 ap:0
oos:4294836188<o:p></o:p></p>

<p class=MsoNormal>&nbsp;1: cs:WFConnection st:Secondary/Unknown
ds:Inconsistent/DUnknown B r---<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; ns:0 nr:0 dw:0 dr:0 al:0 bm:0 lo:0 pe:0 ua:0 ap:0
oos:4294836188<o:p></o:p></p>

<p class=MsoNormal>&nbsp;2: cs:WFConnection st:Secondary/Unknown
ds:Inconsistent/DUnknown B r---<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; ns:0 nr:0 dw:0 dr:0 al:0 bm:0 lo:0 pe:0 ua:0 ap:0
oos:3669903964<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>I have done the following:<o:p></o:p></p>

<p class=MsoNormal>(after all else failed, I tried a full sync)<o:p></o:p></p>

<p class=MsoNormal>On secondary:<o:p></o:p></p>

<p class=MsoNormal>dd if=/dev/zero of=/dev/Storage/Volume1 bs=1M count=128<o:p></o:p></p>

<p class=MsoNormal>dd if=/dev/zero of=/dev/Storage/Volume2 bs=1M count=128<o:p></o:p></p>

<p class=MsoNormal>dd if=/dev/zero of=/dev/Storage/Volume3 bs=1M count=128<o:p></o:p></p>

<p class=MsoNormal>drbdadm create-md all<o:p></o:p></p>

<p class=MsoNormal>drbdadm attach all<o:p></o:p></p>

<p class=MsoNormal>drbdadm connect all<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>Primary:<o:p></o:p></p>

<p class=MsoNormal>drbdadm -- --overwrite-data-of-peer primary all<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>drbd.conf:<o:p></o:p></p>

<p class=MsoNormal>[root@filer1 ~]# cat /etc/drbd.conf<o:p></o:p></p>

<p class=MsoNormal>#<o:p></o:p></p>

<p class=MsoNormal># please have a a look at the example configuration file in<o:p></o:p></p>

<p class=MsoNormal># /usr/share/doc/drbd82/drbd.conf<o:p></o:p></p>

<p class=MsoNormal>#<o:p></o:p></p>

<p class=MsoNormal>global { usage-count no; }<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>resource Volume1-DRBD {<o:p></o:p></p>

<p class=MsoNormal>&nbsp; protocol B;<o:p></o:p></p>

<p class=MsoNormal>&nbsp; startup { wfc-timeout 0; degr-wfc-timeout 120; }<o:p></o:p></p>

<p class=MsoNormal>&nbsp; disk { on-io-error detach; } # or panic, ...<o:p></o:p></p>

<p class=MsoNormal>&nbsp; net { cram-hmac-alg &quot;sha1&quot;; shared-secret
&quot;Z792CK5W&quot;; after-sb-0pri discard-older-primary; after-sb-1pri
discard-secondary; sndbuf-size 256k; unplug-watermark 20480; max-epoch-size
4096; } # don't forget to choose a secret for auth !<o:p></o:p></p>

<p class=MsoNormal>&nbsp; syncer { rate 100M; verify-alg md5; al-extents 3833; }<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>&nbsp; on filer1.example.com {<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; address 172.245.245.2:7788;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; device /dev/drbd0;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; disk /dev/Storage/Volume1;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; meta-disk internal;<o:p></o:p></p>

<p class=MsoNormal>&nbsp; }<o:p></o:p></p>

<p class=MsoNormal>&nbsp; on filer2.example.com {<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; address 172.245.245.3:7788;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; device /dev/drbd0;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; disk /dev/Storage/Volume1;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; meta-disk internal;<o:p></o:p></p>

<p class=MsoNormal>&nbsp; }<o:p></o:p></p>

<p class=MsoNormal>}<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>resource Volume2-DRBD {<o:p></o:p></p>

<p class=MsoNormal>&nbsp; protocol B;<o:p></o:p></p>

<p class=MsoNormal>&nbsp; startup { wfc-timeout 0; degr-wfc-timeout 120; }<o:p></o:p></p>

<p class=MsoNormal>&nbsp; disk { on-io-error detach; } # or panic, ...<o:p></o:p></p>

<p class=MsoNormal>&nbsp; net { cram-hmac-alg &quot;sha1&quot;; shared-secret
&quot;Z792CK5W&quot;; after-sb-0pri discard-older-primary; after-sb-1pri
discard-secondary; sndbuf-size 256k; unplug-watermark 20480; max-epoch-size
4096; } # don't forget to choose a secret for auth !<o:p></o:p></p>

<p class=MsoNormal>&nbsp; syncer { rate 100M; verify-alg md5; al-extents 3833; }<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>&nbsp; on filer1.example.com {<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; address 172.245.245.2:7789;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; device /dev/drbd1;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; disk /dev/Storage/Volume2;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; meta-disk internal;<o:p></o:p></p>

<p class=MsoNormal>&nbsp; }<o:p></o:p></p>

<p class=MsoNormal>&nbsp; on filer2.example.com {<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; address 172.245.245.3:7789;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; device /dev/drbd1;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; disk /dev/Storage/Volume2;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; meta-disk internal;<o:p></o:p></p>

<p class=MsoNormal>&nbsp; }<o:p></o:p></p>

<p class=MsoNormal>}<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>resource Volume3-DRBD {<o:p></o:p></p>

<p class=MsoNormal>&nbsp; protocol B;<o:p></o:p></p>

<p class=MsoNormal>&nbsp; startup { wfc-timeout 0; degr-wfc-timeout 120; }<o:p></o:p></p>

<p class=MsoNormal>&nbsp; disk { on-io-error detach; } # or panic, ...<o:p></o:p></p>

<p class=MsoNormal>&nbsp; net { cram-hmac-alg &quot;sha1&quot;; shared-secret
&quot;Z792CK5W&quot;; after-sb-0pri discard-older-primary; after-sb-1pri discard-secondary;
sndbuf-size 256k; unplug-watermark 20480; max-epoch-size 4096; } # don't forget
to choose a secret for auth !<o:p></o:p></p>

<p class=MsoNormal>&nbsp; syncer { rate 100M; verify-alg md5; al-extents 3833; }<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>&nbsp; on filer1.example.com {<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; address 172.245.245.2:7790;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; device /dev/drbd2;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; disk /dev/Storage/Volume3;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; meta-disk internal;<o:p></o:p></p>

<p class=MsoNormal>&nbsp; }<o:p></o:p></p>

<p class=MsoNormal>&nbsp; on filer2.example.com {<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; address 172.245.245.3:7790;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; device /dev/drbd2;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; disk /dev/Storage/Volume3;<o:p></o:p></p>

<p class=MsoNormal>&nbsp;&nbsp;&nbsp; meta-disk internal;<o:p></o:p></p>

<p class=MsoNormal>&nbsp; }<o:p></o:p></p>

<p class=MsoNormal>}<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>Please help.<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>Michael<o:p></o:p></p>

</div>

</body>

</html>