<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=us-ascii">
<meta name="Generator" content="Microsoft Word 12 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri","sans-serif";}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal;
        font-family:"Calibri","sans-serif";
        color:windowtext;}
span.EmailStyle18
        {mso-style-type:personal-reply;
        font-family:"Calibri","sans-serif";
        color:#1F497D;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-size:10.0pt;}
@page WordSection1
        {size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-US" link="blue" vlink="purple">
<div class="WordSection1">
<p class="MsoNormal"><span style="color:#1F497D"><o:p>&nbsp;</o:p></span></p>
<p class="MsoNormal"><span style="color:#1F497D"><o:p>&nbsp;</o:p></span></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">I have a real sticky problem and would appreciate if anyone has insight.<o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">We currently have the following physical configuration<o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">2) Dell PowerEdge R710 (dual 6-core with hyperthreading enabled)<o:p></o:p></p>
<p class="MsoNormal">&nbsp;&nbsp;&nbsp;&nbsp; 120Gbytes of memory each<o:p></o:p></p>
<p class="MsoNormal">&nbsp;&nbsp;&nbsp;&nbsp; 4x 10GE Nics&nbsp; (2-bonded for NFS and 2-bonded for Replication)
<span style="color:#1F497D">&nbsp;&nbsp;&nbsp;Broadcom 57711.</span><o:p></o:p></p>
<p class="MsoNormal">&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;4x 8Gbit FC HBAs&nbsp; which are tied to a dual controller NEXSAN E60 array (controllers in non-redundant mode), each controller has 4Gbytes of memory.<o:p></o:p></p>
<p class="MsoNormal">&nbsp;&nbsp;&nbsp;&nbsp; &nbsp;Raw throughput is around 340Mbytes/sec per volume. <o:p>
</o:p></p>
<p class="MsoNormal">&nbsp;&nbsp;&nbsp;&nbsp;<o:p></o:p></p>
<p class="MsoNormal">&nbsp;Each system is running RHEL 6.3 with heartbeat and now with DRBD-8.4.2,&nbsp; problem was there with 8.4.0 (could not get 8.4.1 to work).<o:p></o:p></p>
<p class="MsoNormal">System configured as Active/Passive pair with EXT4 and the filesystem, barriers off. &nbsp;&nbsp;Filesystems exported via NFS to vSphere &nbsp;4.1 clients.<o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">&nbsp;Main problem is that everything works for most of the time but every now and then a resource stall (high load average and no I/O) occurs which<o:p></o:p></p>
<p class="MsoNormal">Is not good for running VMs.&nbsp;&nbsp; Has anyone seen this?&nbsp;&nbsp;&nbsp; No errors recorded just no I/O and high load for a few minutes (3-4).&nbsp;&nbsp;&nbsp; This has been driving<o:p></o:p></p>
<p class="MsoNormal">me crazy.&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; One more thing,&nbsp;&nbsp; these events do not occur with &#8220;replication disabled&#8221; &nbsp;i.e. drbdadm down all (on the peer member).&nbsp;&nbsp;
<span style="color:#1F497D">&nbsp;&nbsp;I have adjusted<o:p></o:p></span></p>
<p class="MsoNormal"><span style="color:#1F497D">many sysctl parameters (up memory buffers , etc) ,&nbsp; changed I/O schedulers and turned on and off hyperthreading and still have the issue.<o:p></o:p></span></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">Thanks in advance.<o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">James<o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
</body>
</html>