<html><body>
<p><font size="3" face="Times New Roman">With help from our local Linux kernel experts we've tracked down the inexplicable Private_Clean emergence in our processes' smaps file to a kernel bug, </font><a href="https://git.kernel.org/cgit/linux/kernel/git/torvalds/linux.git/commit/fs/proc/task_mmu.c?id=1c2499ae87f828eabddf6483b0dfc11da1100c07"><font size="3" color="#0000FF" face="Times New Roman"><u>https://git.kernel.org/cgit/linux/kernel/git/torvalds/linux.git/commit/fs/proc/task_mmu.c?id=1c2499ae87f828eabddf6483b0dfc11da1100c07</u></font></a><font size="3" face="Times New Roman">, which, according to GIT, was first committed in v2.6.36-rc6~63.  When we manually applied the aforementioned patched to our kernel there were no memory segments in smaps showing large Private_Clean regions during our test.  Unfortunately the fix seems to have been merely an accounting change.  Everything previously reported as Private_Clean is now correctly showing up as Private_Dirty, so we are still digging to find out why our RSS, specifically Private_Dirty, continues to grow while jemalloc's active reports much lower numbers.</font>
<ul style="padding-left: 0pt"><br>
<font size="2" face="sans-serif">Thanks,</font><br>
<br>
<font size="2" face="sans-serif">Tom</font></ul>
<br>
<img width="16" height="16" src="cid:1__=08BBF106DFDBB6238f9e8a93df938@us.ibm.com" border="0" alt="Inactive hide details for Jason Evans ---06/06/2013 01:34:42 AM---On Jun 5, 2013, at 9:17 PM, Thomas R Gissel < gissel@us.ibm.c"><font size="2" color="#424282" face="sans-serif">Jason Evans ---06/06/2013 01:34:42 AM---On Jun 5, 2013, at 9:17 PM, Thomas R Gissel < gissel@us.ibm.com</font><br>
<br>

<table width="100%" border="0" cellspacing="0" cellpadding="0">
<tr valign="top"><td width="1%"><img width="96" height="1" src="cid:2__=08BBF106DFDBB6238f9e8a93df938@us.ibm.com" border="0" alt=""><br>

<ul style="padding-left: 4pt"><font size="1" color="#5F5F5F" face="sans-serif">From:</font></ul>
</td><td width="100%"><img width="1" height="1" src="cid:2__=08BBF106DFDBB6238f9e8a93df938@us.ibm.com" border="0" alt=""><br>
<font size="1" face="sans-serif">Jason Evans <jasone@canonware.com></font></td></tr>

<tr valign="top"><td width="1%"><img width="96" height="1" src="cid:2__=08BBF106DFDBB6238f9e8a93df938@us.ibm.com" border="0" alt=""><br>

<ul style="padding-left: 4pt"><font size="1" color="#5F5F5F" face="sans-serif">To:</font></ul>
</td><td width="100%"><img width="1" height="1" src="cid:2__=08BBF106DFDBB6238f9e8a93df938@us.ibm.com" border="0" alt=""><br>
<font size="1" face="sans-serif">Thomas R Gissel/Rochester/IBM@IBMUS, </font></td></tr>

<tr valign="top"><td width="1%"><img width="96" height="1" src="cid:2__=08BBF106DFDBB6238f9e8a93df938@us.ibm.com" border="0" alt=""><br>

<ul style="padding-left: 4pt"><font size="1" color="#5F5F5F" face="sans-serif">Cc:</font></ul>
</td><td width="100%" valign="middle"><img width="1" height="1" src="cid:2__=08BBF106DFDBB6238f9e8a93df938@us.ibm.com" border="0" alt=""><br>
<font size="1" face="sans-serif">jemalloc-discuss@canonware.com</font></td></tr>

<tr valign="top"><td width="1%"><img width="96" height="1" src="cid:2__=08BBF106DFDBB6238f9e8a93df938@us.ibm.com" border="0" alt=""><br>

<ul style="padding-left: 4pt"><font size="1" color="#5F5F5F" face="sans-serif">Date:</font></ul>
</td><td width="100%"><img width="1" height="1" src="cid:2__=08BBF106DFDBB6238f9e8a93df938@us.ibm.com" border="0" alt=""><br>
<font size="1" face="sans-serif">06/06/2013 01:34 AM</font></td></tr>

<tr valign="top"><td width="1%"><img width="96" height="1" src="cid:2__=08BBF106DFDBB6238f9e8a93df938@us.ibm.com" border="0" alt=""><br>

<ul style="padding-left: 4pt"><font size="1" color="#5F5F5F" face="sans-serif">Subject:</font></ul>
</td><td width="100%"><img width="1" height="1" src="cid:2__=08BBF106DFDBB6238f9e8a93df938@us.ibm.com" border="0" alt=""><br>
<font size="1" face="sans-serif">Re: High amount of private clean data in smaps</font></td></tr>
</table>
<hr width="100%" size="2" align="left" noshade style="color:#8091A5; "><br>
<br>
<br>
<font size="3" face="serif">On Jun 5, 2013, at 9:17 PM, Thomas R Gissel <</font><a href="mailto:gissel@us.ibm.com"><font size="3" color="#0000FF" face="serif"><u>gissel@us.ibm.com</u></font></a><font size="3" face="serif">> wrote:</font>
<ul style="padding-left: 36pt"><br>
<font size="3" face="Tahoma">I too have been trying to reproduce the existence of Private_Clean memory segments in smaps via a simple test case with jemalloc and was unable to on my laptop, a 2 core machine running a 3.8.0-23 kernel .  I then moved my test to our production box: 96GB memory, 24 hardware threads and 2.6 kernel (detailed information below), and within a few minutes of execution, with a few minor adjustments, I was able duplicate the results, smaps showing the jemalloc segment with Private_Clean memory usage, of our larger test. Note that I'm using the same jemalloc library whose information Kurtis posted earlier (96 arenas etc...). </font></ul>
<br>
<font size="3" face="serif">Interesting!  I don't see anything unusual about the test program, so I'm guessing this is kernel-specific.  I'll run it on some 8- and 16-core machines tomorrow with a couple of kernel versions and see what happens.</font><br>
<br>
<font size="3" face="serif">Thanks,</font><br>
<font size="3" face="serif">Jason</font><br>
</body></html>