<html><head></head><body style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space; ">Yes very strange<div><br></div><div>the network is up and running</div><div><br></div><div><div>[root@kvmstorage1 ~]# ping kvmstorage2</div><div>PING kvmstorage2.localdomain (192.168.123.212) 56(84) bytes of data.</div><div>64 bytes from kvmstorage2.localdomain (192.168.123.212): icmp_seq=1 ttl=64 time=0.631 ms</div><div>64 bytes from kvmstorage2.localdomain (192.168.123.212): icmp_seq=2 ttl=64 time=0.574 ms</div><div>64 bytes from kvmstorage2.localdomain (192.168.123.212): icmp_seq=3 ttl=64 time=0.709 ms</div></div><div><br></div><div><div>telnet kvmstorage2 7788</div><div>Trying 192.168.123.212...</div><div>Connected to kvmstorage2.</div><div>Escape character is '^]'.</div><div><br></div><div><br></div><div><br></div><div><div>[root@kvmstorage2 ~]# ping kvmstorage1</div><div>PING kvmstorage1.localdomain (192.168.123.211) 56(84) bytes of data.</div><div>64 bytes from kvmstorage1.localdomain (192.168.123.211): icmp_seq=1 ttl=64 time=0.868 ms</div><div>64 bytes from kvmstorage1.localdomain (192.168.123.211): icmp_seq=2 ttl=64 time=0.756 ms</div><div>64 bytes from kvmstorage1.localdomain (192.168.123.211): icmp_seq=3 ttl=64 time=0.783 ms</div><div>64 bytes from kvmstorage1.localdomain (192.168.123.211): icmp_seq=4 ttl=64 time=0.771 ms</div><div>^X64 bytes from kvmstorage1.localdomain (192.168.123.211): icmp_seq=5 ttl=64 time=0.831 ms</div><div>^C</div><div>--- kvmstorage1.localdomain ping statistics ---</div><div>5 packets transmitted, 5 received, 0% packet loss, time 4118ms</div><div>rtt min/avg/max/mdev = 0.756/0.801/0.868/0.054 ms</div><div><br></div><div><b><font class="Apple-style-span" color="#b31d0f">[root@kvmstorage2 ~]# telnet &nbsp;kvmstorage1 7788</font></b></div><div><b><font class="Apple-style-span" color="#b31d0f">Trying 192.168.123.211...</font></b></div><div><b><font class="Apple-style-span" color="#b31d0f">telnet: connect to address 192.168.123.211: Connection refused</font></b></div></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><div>On 13 mei 2012, at 12:36, Marcelo Pereira wrote:</div><br class="Apple-interchange-newline"><blockquote type="cite"><div bgcolor="#FFFFFF"><div>Make sure the network is up.&nbsp;</div><div><br></div><div>Can you ping each other ?</div><div><br></div><div>Once you establish the network, it's supposed to reconnect automatically.&nbsp;<br><br>--Marcelo</div><div><br>On May 13, 2012, at 5:22 AM, Marcel Kraan &lt;<a href="mailto:marcel@kraan.net">marcel@kraan.net</a>&gt; wrote:<br><br></div><div></div><blockquote type="cite"><div>And after power-faillure this is happening.<div>everything is working but i have a&nbsp;DUnknown&nbsp; state ?</div><div><br><div><div>[root@kvmstorage1 ~]# cat /proc/drbd&nbsp;</div><div>version: 8.3.12 (api:88/proto:86-96)</div><div>GIT-hash: e2a8ef4656be026bbae540305fcb998a5991090f build by phil@Build64R6, 2012-04-08 09:36:52</div><div>&nbsp;0: cs:WFConnection ro:Primary/Unknown ds:UpToDate/DUnknown C r-----</div><div>&nbsp; &nbsp; ns:0 nr:0 dw:684 dr:9946 al:0 bm:4 lo:0 pe:0 ua:0 ap:0 ep:1 wo:b oos:224</div><div><br></div><div><br></div><div><div>[root@kvmstorage2 ~]# cat /proc/drbd&nbsp;</div><div>version: 8.3.12 (api:88/proto:86-96)</div><div>GIT-hash: e2a8ef4656be026bbae540305fcb998a5991090f build by phil@Build64R6, 2012-04-08 09:36:52</div><div>&nbsp;0: cs:StandAlone ro:Secondary/Unknown ds:UpToDate/DUnknown &nbsp; r-----</div><div>&nbsp; &nbsp; ns:244 nr:484 dw:1456 dr:15139 al:1 bm:9 lo:0 pe:0 ua:0 ap:0 ep:1 wo:b oos:264</div></div><div><br></div><div>drbdadm connect main</div><div><br></div><div>not helping because it's connected.</div><div><br></div><div>drbdadm disconnect main</div><div><span class="Apple-style-span" style="font-family: monospace; white-space: pre; ">drbdadm detach main</span></div><div><span class="Apple-style-span" style="font-family: monospace; white-space: pre; ">drbdadm attach main</span></div><div><span class="Apple-style-span" style="font-family: monospace; white-space: pre; ">drbdadm connect main</span></div><div><div><br></div></div><div>it still works perfect bit only state worries me :-)</div><div><br></div><div><br></div><div><br></div><div><div>[root@kvmstorage2 ~]# drbdsetup 0 net ipv4:192.168.123.212:7788 ipv4:192.168.123.211:7788 C --set-defaults --create-deviceMay 13 11:20:25 kvmstorage2 kernel: block drbd0: Handshake successful: Agreed network protocol version 96</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: conn( WFConnection -&gt; WFReportParams )&nbsp;</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: Starting asender thread (from drbd0_receiver [5135])</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: data-integrity-alg: &lt;not-used&gt;</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: drbd_sync_handshake:</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: self C12A485E56F51104:9555562D91EACAC2:A615ADBD6A39BD99:A614ADBD6A39BD99 bits:66 flags:0</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: peer E33CEADD1FF28EE1:9555562D91EACAC3:A615ADBD6A39BD98:A614ADBD6A39BD99 bits:64 flags:0</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: uuid_compare()=100 by rule 90</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: helper command: /sbin/drbdadm initial-split-brain minor-0</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: helper command: /sbin/drbdadm initial-split-brain minor-0 exit code 0 (0x0)</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: Split-Brain detected but unresolved, dropping connection!</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: helper command: /sbin/drbdadm split-brain minor-0</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: meta connection shut down by peer.</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: helper command: /sbin/drbdadm split-brain minor-0 exit code 0 (0x0)</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: conn( WFReportParams -&gt; Disconnecting )&nbsp;</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: error receiving ReportState, l: 4!</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: asender terminated</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: Terminating asender thread</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: Connection closed</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: conn( Disconnecting -&gt; StandAlone )&nbsp;</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: receiver terminated</div><div>May 13 11:20:25 kvmstorage2 kernel: block drbd0: Terminating receiver thread</div></div><div><br></div><div><br></div><div><br></div><div><div>[root@kvmstorage1 ~]# drbdadm connect &nbsp;all</div><div>May 13 11:20:24 kvmstorage1 kernel: block drbd0: conn( StandAlone -&gt; Unconnected )&nbsp;</div><div>May 13 11:20:24 kvmstorage1 kernel: block drbd0: Starting receiver thread (from drbd0_worker [1467])</div><div>May 13 11:20:24 kvmstorage1 kernel: block drbd0: receiver (re)started</div><div>May 13 11:20:24 kvmstorage1 kernel: block drbd0: conn( Unconnected -&gt; WFConnection )&nbsp;</div><div>[root@kvmstorage1 ~]# May 13 11:20:25 kvmstorage1 kernel: block drbd0: Handshake successful: Agreed network protocol version 96</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: conn( WFConnection -&gt; WFReportParams )&nbsp;</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: Starting asender thread (from drbd0_receiver [5991])</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: data-integrity-alg: &lt;not-used&gt;</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: drbd_sync_handshake:</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: self E33CEADD1FF28EE1:9555562D91EACAC3:A615ADBD6A39BD98:A614ADBD6A39BD99 bits:64 flags:0</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: peer C12A485E56F51104:9555562D91EACAC2:A615ADBD6A39BD99:A614ADBD6A39BD99 bits:66 flags:0</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: uuid_compare()=100 by rule 90</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: helper command: /sbin/drbdadm initial-split-brain minor-0</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: helper command: /sbin/drbdadm initial-split-brain minor-0 exit code 0 (0x0)</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: Split-Brain detected but unresolved, dropping connection!</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: helper command: /sbin/drbdadm split-brain minor-0</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: helper command: /sbin/drbdadm split-brain minor-0 exit code 0 (0x0)</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: conn( WFReportParams -&gt; Disconnecting )&nbsp;</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: error receiving ReportState, l: 4!</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: asender terminated</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: Terminating asender thread</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: Connection closed</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: conn( Disconnecting -&gt; StandAlone )&nbsp;</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: receiver terminated</div><div>May 13 11:20:25 kvmstorage1 kernel: block drbd0: Terminating receiver thread</div><div>May 13 11:21:18 kvmstorage1 ntpd[1447]: synchronized to 88.159.164.16, stratum 2</div></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><div>On 11 mei 2012, at 17:57, Marcelo Pereira wrote:</div><br class="Apple-interchange-newline"><blockquote type="cite">You can test it now, and check if the amount decreases or stays!!<div><br><br><div class="gmail_quote">On Fri, May 11, 2012 at 11:55 AM,  <span dir="ltr">&lt;<a href="mailto:marcel@kraan.net" target="_blank">marcel@kraan.net</a>&gt;</span> wrote:<br>

<blockquote class="gmail_quote" style="margin-top: 0px; margin-right: 0px; margin-bottom: 0px; margin-left: 0.8ex; border-left-width: 1px; border-left-color: rgb(204, 204, 204); border-left-style: solid; padding-left: 1ex; position: static; z-index: auto; ">I wait. But i waited 2 days ago and then it started again. I let you know when it happens again.<br>
<div class="im"><br>
--<br>
The ultimate is landing in Waist deep champagne powder..<br>
But I guess the BigAirBAG would be the best man made option.<br>
<br>
BigAirBAG BV<br>
<br>
Office:<br>
Amsterdamseweg 68 &nbsp;1981LH &nbsp;Velsen Zuid &nbsp;The Netherlands<br>
<br>
Factory:<br>
Jupiter 2 &nbsp;8448CD &nbsp;Heerenveen The Netherlands<br>
<br>
VAT/BTW &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; : NL8065.67.831.B01<br>
Chamber of Commerce : 08076232 Amsterdam<br>
IBAN &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;: NL82RABO0109278585<br>
Phone &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; : <a href="tel:%2B31%20654378837" value="+31654378837">+31 654378837</a><br>
Fax &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; : <a href="tel:%2B31%20235513420" value="+31235513420">+31 235513420</a><br>
Website &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;: <a href="http://www.bigairbag.com/" target="_blank">http://www.bigairbag.com</a><br>
<br>
<br>
</div><div class="im">On 11 mei 2012, at 17:31, Marcelo Pereira &lt;<a href="mailto:marcelops@gmail.com">marcelops@gmail.com</a>&gt; wrote:<br>
<br>
&gt; It seems to be ok!!<br>
&gt;<br>
&gt; Let it sync!! It will take 35 hours, but just wait!!<br>
&gt;<br>
&gt; If you want to check if it's sync'ing, then pay attention to this info:<br>
&gt;<br>
</div>&gt; [&gt;....................] sync'ed: &nbsp;0.6% (3354164/*3373748*)M<br>
<div class="HOEnZb"><div class="h5">&gt;<br>
&gt; This is the amount of data that the server is actually sync'ing. You can<br>
&gt; stop the DRBD and restart it again (not the physical server, only the<br>
&gt; service). Then check if the amount stays on the same amount (3373748) or if<br>
&gt; it decreases.<br>
&gt;<br>
&gt; If it decreases, than go grab a coffee (or a dozen of coffees) and let it<br>
&gt; sync. You should be all set after that.<br>
&gt;<br>
&gt; Regards,<br>
&gt; Marcelo<br>
&gt;<br>
&gt; On Fri, May 11, 2012 at 11:11 AM, Marcel Kraan &lt;<a href="mailto:marcel@kraan.net">marcel@kraan.net</a>&gt; wrote:<br>
&gt;<br>
&gt;&gt; This is node 1 and 2<br>
&gt;&gt;<br>
&gt;&gt; root@kvmstorage1 ~]# cat /proc/drbd<br>
&gt;&gt; version: 8.3.12 (api:88/proto:86-96)<br>
&gt;&gt; GIT-hash: e2a8ef4656be026bbae540305fcb998a5991090f build by phil@Build64R6,<br>
&gt;&gt; 2012-04-08 09:36:52<br>
&gt;&gt; 0: cs:SyncTarget ro:Secondary/Secondary ds:Inconsistent/UpToDate C r-----<br>
&gt;&gt; &nbsp; &nbsp;ns:72 nr:25543460 dw:25543136 dr:8978 al:1 bm:1559 lo:1 pe:7420 ua:0<br>
&gt;&gt; ap:0 ep:1 wo:b oos:<a href="tel:3434666332" value="+13434666332">3434666332</a><br>
&gt;&gt; [&gt;....................] sync'ed: &nbsp;0.6% (3354164/3373748)M<br>
&gt;&gt; finish: 34:56:00 speed: 27,304 (20,504) want: 51,200 K/sec<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; [root@kvmstorage2 drbd.d]# cat /proc/drbd<br>
&gt;&gt; version: 8.3.12 (api:88/proto:86-96)<br>
&gt;&gt; GIT-hash: e2a8ef4656be026bbae540305fcb998a5991090f build by phil@Build64R6,<br>
&gt;&gt; 2012-04-08 09:36:52<br>
&gt;&gt; 0: cs:SyncSource ro:Secondary/Primary ds:UpToDate/Inconsistent C r-----<br>
&gt;&gt; &nbsp; &nbsp;ns:19677536 nr:60 dw:132 dr:19695382 al:1 bm:1201 lo:1 pe:2 ua:64 ap:0<br>
&gt;&gt; ep:1 wo:b oos:<a href="tel:3435043932" value="+13435043932">3435043932</a><br>
&gt;&gt; [&gt;....................] sync'ed: &nbsp;0.6% (3354532/3373748)M<br>
&gt;&gt; finish: 33:28:00 speed: 28,492 (20,408) K/sec<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; On 11 mei 2012, at 17:09, Marcelo Pereira wrote:<br>
&gt;&gt;<br>
&gt;&gt; what about the /proc/drbd on the other node?<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; On Fri, May 11, 2012 at 11:01 AM, Marcel Kraan &lt;<a href="mailto:marcel@kraan.net">marcel@kraan.net</a>&gt; wrote:<br>
&gt;&gt;<br>
&gt;&gt;&gt; I have removed the partition and now i have make a new one<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; i synced forced with 100M<br>
&gt;&gt;&gt; drbdsetup /dev/drbd0 syncer -r 100M<br>
&gt;&gt;&gt; (getting only 25M)<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; root@kvmstorage2 ~]# cat /proc/drbd<br>
&gt;&gt;&gt; version: 8.3.12 (api:88/proto:86-96)<br>
&gt;&gt;&gt; GIT-hash: e2a8ef4656be026bbae540305fcb998a5991090f build by phil@Build64R6,<br>
&gt;&gt;&gt; 2012-04-08 09:36:52<br>
&gt;&gt;&gt; 0: cs:SyncSource ro:Primary/Secondary ds:UpToDate/Inconsistent C r-----<br>
&gt;&gt;&gt; &nbsp; &nbsp;ns:3424212 nr:48 dw:112 dr:3442010 al:1 bm:209 lo:1 pe:2 ua:64 ap:0<br>
&gt;&gt;&gt; ep:1 wo:b oos:3451297116<br>
&gt;&gt;&gt; [&gt;....................] sync'ed: &nbsp;0.1% (3370404/3373748)M<br>
&gt;&gt;&gt; finish: 35:04:59 speed: 27,324 (9,508) K/sec<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; [root@kvmstorage2 ~]# drbdsetup /dev/drbd0 primary<br>
&gt;&gt;&gt; [root@kvmstorage2 ~]# mount /dev/drbd0 /datastore/<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; [root@kvmstorage2 ~]# ls -al /datastore/<br>
&gt;&gt;&gt; total 871628916<br>
&gt;&gt;&gt; drwxr-xr-x &nbsp; 4 root root &nbsp; &nbsp; &nbsp; &nbsp; 4096 May 10 16:36 .<br>
&gt;&gt;&gt; dr-xr-xr-x. 25 root root &nbsp; &nbsp; &nbsp; &nbsp; 4096 May 11 16:54 ..<br>
&gt;&gt;&gt; -rw-r--r-- &nbsp; 1 root root 838860800000 May 11 12:08 BigAirBag.com-data.img<br>
&gt;&gt;&gt; -rw-r--r-- &nbsp; 1 root root &nbsp;53687091200 May 11 13:54 BigAirBag.com.img<br>
&gt;&gt;&gt; drwx------ &nbsp; 2 qemu qemu &nbsp; &nbsp; &nbsp; &nbsp;16384 May &nbsp;9 22:46 lost+found<br>
&gt;&gt;&gt; drwxr-xr-x. &nbsp;3 root root &nbsp; &nbsp; &nbsp; &nbsp; 4096 May 11 14:16 nfs<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; [root@kvmstorage2 ~]# mount<br>
&gt;&gt;&gt; /dev/mapper/vg_storage1-lv_root on / type ext4 (rw)<br>
&gt;&gt;&gt; proc on /proc type proc (rw)<br>
&gt;&gt;&gt; sysfs on /sys type sysfs (rw)<br>
&gt;&gt;&gt; devpts on /dev/pts type devpts (rw,gid=5,mode=620)<br>
&gt;&gt;&gt; tmpfs on /dev/shm type tmpfs (rw)<br>
&gt;&gt;&gt; /dev/sda1 on /boot type ext4 (rw)<br>
&gt;&gt;&gt; none on /proc/sys/fs/binfmt_misc type binfmt_misc (rw)<br>
&gt;&gt;&gt; nfsd on /proc/fs/nfsd type nfsd (rw)<br>
&gt;&gt;&gt; /dev/drbd0 on /datastore type ext4 (rw)<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; On 11 mei 2012, at 15:38, Marcelo Pereira wrote:<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; Dear Marcel,<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; I don't want to keep the conversation until you give us the info that we<br>
&gt;&gt;&gt; need to "hunt the issue".<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; If it's taking long to sync, or if it's "resync'ing" after a reboot, so<br>
&gt;&gt;&gt; something might be wrong, but we can't figure it out without the<br>
&gt;&gt;&gt; information.<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; If you happen to have the /proc/drbd, I can try something, otherwise<br>
&gt;&gt;&gt; leave me alone!!<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; Have a good day!<br>
&gt;&gt;&gt; Marcelo<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; On Fri, May 11, 2012 at 9:26 AM, &lt;<a href="mailto:marcel@kraan.net">marcel@kraan.net</a>&gt; wrote:<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; The /dev/drdb was syncing with a speed of 29000 kbps<br>
&gt;&gt;&gt;&gt; But the partition was 3.4TB it takes 2 days. Its the syncing time that<br>
&gt;&gt;&gt;&gt; is my problem.<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; --<br>
&gt;&gt;&gt;&gt; The ultimate is landing in Waist deep champagne powder..<br>
&gt;&gt;&gt;&gt; But I guess the BigAirBAG would be the best man made option.<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; BigAirBAG BV<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Office:<br>
&gt;&gt;&gt;&gt; Amsterdamseweg 68 &nbsp;1981LH &nbsp;Velsen Zuid &nbsp;The Netherlands<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Factory:<br>
&gt;&gt;&gt;&gt; Jupiter 2 &nbsp;8448CD &nbsp;Heerenveen The Netherlands<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; VAT/BTW &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; : NL8065.67.831.B01<br>
&gt;&gt;&gt;&gt; Chamber of Commerce : 08076232 Amsterdam<br>
&gt;&gt;&gt;&gt; IBAN &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;: NL82RABO0109278585<br>
&gt;&gt;&gt;&gt; Phone &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; : <a href="tel:%2B31%20654378837" value="+31654378837">+31 654378837</a><br>
&gt;&gt;&gt;&gt; Fax &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; : <a href="tel:%2B31%20235513420" value="+31235513420">+31 235513420</a><br>
&gt;&gt;&gt;&gt; Website &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;: <a href="http://www.bigairbag.com/" target="_blank">http://www.bigairbag.com</a><br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; On 11 mei 2012, at 15:09, Marcelo Pereira &lt;<a href="mailto:marcelops@gmail.com">marcelops@gmail.com</a>&gt; wrote:<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Ok, come back when you manage to put it back online, and with the<br>
&gt;&gt;&gt;&gt; output of that file.<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Have a good weekend. And good luck.<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; --Marcelo<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; On May 11, 2012, at 9:01 AM, <a href="mailto:marcel@kraan.net">marcel@kraan.net</a> wrote:<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; I have removed the setup so the partition also<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; --<br>
&gt;&gt;&gt;&gt;&gt;&gt; The ultimate is landing in Waist deep champagne powder..<br>
&gt;&gt;&gt;&gt;&gt;&gt; But I guess the BigAirBAG would be the best man made option.<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; BigAirBAG BV<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; Office:<br>
&gt;&gt;&gt;&gt;&gt;&gt; Amsterdamseweg 68 &nbsp;1981LH &nbsp;Velsen Zuid &nbsp;The Netherlands<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; Factory:<br>
&gt;&gt;&gt;&gt;&gt;&gt; Jupiter 2 &nbsp;8448CD &nbsp;Heerenveen The Netherlands<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; VAT/BTW &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; : NL8065.67.831.B01<br>
&gt;&gt;&gt;&gt;&gt;&gt; Chamber of Commerce : 08076232 Amsterdam<br>
&gt;&gt;&gt;&gt;&gt;&gt; IBAN &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;: NL82RABO0109278585<br>
&gt;&gt;&gt;&gt;&gt;&gt; Phone &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; : <a href="tel:%2B31%20654378837" value="+31654378837">+31 654378837</a><br>
&gt;&gt;&gt;&gt;&gt;&gt; Fax &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; : <a href="tel:%2B31%20235513420" value="+31235513420">+31 235513420</a><br>
&gt;&gt;&gt;&gt;&gt;&gt; Website &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;: <a href="http://www.bigairbag.com/" target="_blank">http://www.bigairbag.com</a><br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; On 11 mei 2012, at 14:59, Marcelo Pereira &lt;<a href="mailto:marcelops@gmail.com">marcelops@gmail.com</a>&gt;<br>
&gt;&gt;&gt;&gt; wrote:<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt; Where is the /proc/drbd ??<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt; --Marcelo<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt; On May 11, 2012, at 8:38 AM, Marcel Kraan &lt;<a href="mailto:marcel@kraan.net">marcel@kraan.net</a>&gt; wrote:<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; i just deleted the whole setup it drives me crazy.<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; i format de disks and i go with the normal NFS mount and<br>
&gt;&gt;&gt;&gt; RAID5/hotspare<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; root@kvmstorage2 drbd.d]# cat main.res<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; resource main {<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; protocol C;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; startup { wfc-timeout 0; degr-wfc-timeout 120; }<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; disk { on-io-error detach; }<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; on kvmstorage1.localdomain {<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;device /dev/drbd0;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;disk /dev/sdb1;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;meta-disk internal;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;address <a href="http://192.168.123.211:7788/" target="_blank">192.168.123.211:7788</a>;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; }<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; on kvmstorage2.localdomain {<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;device /dev/drbd0;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;disk /dev/sdb1;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;meta-disk internal;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;address <a href="http://192.168.123.212:7788/" target="_blank">192.168.123.212:7788</a>;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; }<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; }<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; ###################################################################<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; [root@kvmstorage2 drbd.d]# cat global_common.conf<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; global {<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; usage-count no;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; }<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; common {<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; protocol C;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; }<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; resource drbd {<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;handlers {<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;pri-on-incon-degr<br>
&gt;&gt;&gt;&gt; "/usr/lib/drbd/notify-pri-on-incon-degr.sh;<br>
&gt;&gt;&gt;&gt; /usr/lib/drbd/notify-emergency-reboot.sh; echo b &gt; /proc/sysrq-trigger ;<br>
&gt;&gt;&gt;&gt; reboot -f";<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;pri-lost-after-sb<br>
&gt;&gt;&gt;&gt; "/usr/lib/drbd/notify-pri-lost-after-sb.sh;<br>
&gt;&gt;&gt;&gt; /usr/lib/drbd/notify-emergency-reboot.sh; echo b &gt; /proc/sysrq-trigger ;<br>
&gt;&gt;&gt;&gt; reboot -f";<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;local-io-error "/usr/lib/drbd/notify-io-error.sh;<br>
&gt;&gt;&gt;&gt; /usr/lib/drbd/notify-emergency-shutdown.sh; echo o &gt; /proc/sysrq-trigger ;<br>
&gt;&gt;&gt;&gt; halt -f";<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# fence-peer "/usr/lib/drbd/crm-fence-peer.sh";<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# split-brain "/usr/lib/drbd/notify-split-brain.sh<br>
&gt;&gt;&gt;&gt; root";<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# out-of-sync "/usr/lib/drbd/notify-out-of-sync.sh<br>
&gt;&gt;&gt;&gt; root";<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# before-resync-target<br>
&gt;&gt;&gt;&gt; "/usr/lib/drbd/snapshot-resync-target-lvm.sh -p 15 -- -c 16k";<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# after-resync-target<br>
&gt;&gt;&gt;&gt; /usr/lib/drbd/unsnapshot-resync-target-lvm.sh;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;}<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;startup {<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# wfc-timeout degr-wfc-timeout outdated-wfc-timeout<br>
&gt;&gt;&gt;&gt; wait-after-sb<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;# become-primary-on both;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;}<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;disk {<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# on-io-error fencing use-bmbv no-disk-barrier<br>
&gt;&gt;&gt;&gt; no-disk-flushes<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# no-disk-drain no-md-flushes max-bio-bvecs<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;# c-plan-ahead 200;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# c-max-rate 10M;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# c-fill-target 15M;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;}<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;net {<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# sndbuf-size rcvbuf-size timeout connect-int ping-int<br>
&gt;&gt;&gt;&gt; ping-timeout max-buffers<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# max-epoch-size ko-count allow-two-primaries<br>
&gt;&gt;&gt;&gt; cram-hmac-alg shared-secret<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# after-sb-0pri after-sb-1pri after-sb-2pri<br>
&gt;&gt;&gt;&gt; data-integrity-alg no-tcp-cork<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;# allow-two-primaries;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;}<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;syncer {<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;# rate after al-extents use-rle cpu-mask verify-alg<br>
&gt;&gt;&gt;&gt; csums-alg<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;rate 110M;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; &nbsp; &nbsp;}<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; }<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; On 11 mei 2012, at 14:32, Marcelo Pereira wrote:<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; Hey Marcel,<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; Could you send your /etc/drbd.conf and the output from the<br>
&gt;&gt;&gt;&gt; /proc/drbd ??<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; If your reboot the servers properly, you shouldn't need to do a<br>
&gt;&gt;&gt;&gt; full sync, it'll sync only what changed instead.<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; Get back with the files, and someone will probably help you out.<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; []s<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; --Marcelo<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; On May 11, 2012, at 8:21 AM, Marcel Kraan &lt;<a href="mailto:marcel@kraan.net">marcel@kraan.net</a>&gt;<br>
&gt;&gt;&gt;&gt; wrote:<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; I have a 3TB disk shared for drbd0<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; the syncing is with 30MB/sec and it takes 2 days to complete<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; While syncing heartbeat is not working (is this correct?)<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; when i put both servers offline the disks need to resync again..<br>
&gt;&gt;&gt;&gt; (2 days)<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; Is this normal?<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; Is there a new way for clustering?<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; _______________________________________________<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; drbd-user mailing list<br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; <a href="mailto:drbd-user@lists.linbit.com">drbd-user@lists.linbit.com</a><br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt; <a href="http://lists.linbit.com/mailman/listinfo/drbd-user" target="_blank">http://lists.linbit.com/mailman/listinfo/drbd-user</a><br>
&gt;&gt;&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;<br>
<br>
</div></div></blockquote></div><br></div>
</blockquote></div><br></div></div></div></blockquote></div></blockquote></div><br></div></body></html>