<div dir="ltr"><div>Regarding NFS shares and Python, and plenty of other packages too,</div><div>pay attention to where the NFS server is located on your network.</div><div>The NFS server should be part of your cluster, or at least have a network interface on your cluster fabric.</div><div><br></div><div>If you perhaps have a home directory server which is a campus NFS server and you are NATting via your head node,</div><div>then every time a parallel multimode job starts up you will pull in libraries multiple times and this will be a real</div><div>performance bottleneck.</div><div><br></div><div>You do have to have a home directory mounted on the nodes - either the users real home directory or something</div><div>which loosk like a home directory.  Ooodles of software packages depend on dor files int eh home directory,</div><div>and you won't get far without one.</div><div><br></div><div>Eric, my advice would be to definitely learn the Modules system and implement modules for your users.</div><div>Also if you could give us some idea of your storage layout this would be good.</div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div></div><div class="gmail_extra"><br><div class="gmail_quote">On 11 May 2018 at 08:55, Miguel Gutiérrez Páez <span dir="ltr"><<a href="mailto:mgutierrez@gmail.com" target="_blank">mgutierrez@gmail.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div><div>Hi,<br><br></div>I install all my apps in a shared storage, and change environment variables (path, vars, etc.) with lmod. It's very useful.<br><br></div>Regards.<br></div><div class="HOEnZb"><div class="h5"><br><div class="gmail_quote"><div dir="ltr">El vie., 11 may. 2018 a las 6:19, Eric F. Alemany (<<a href="mailto:ealemany@stanford.edu" target="_blank">ealemany@stanford.edu</a>>) escribió:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">



<div style="word-wrap:break-word">
Hi Lachlan,
<div><br>
</div>
<div>Thank you for sharing your environment. Everyone has their own set of rules and i appreciate everyone’s input.</div>
<div>It seems as if the NFS share is a great place to start.</div>
<div><br>
</div>
<div>Best,</div>
<div>Eric</div>
<div></div></div><div style="word-wrap:break-word"><div>
<div>
<div style="color:rgb(0,0,0);letter-spacing:normal;text-align:start;text-indent:0px;text-transform:none;white-space:normal;word-spacing:0px;word-wrap:break-word">
<div style="color:rgb(0,0,0);letter-spacing:normal;text-align:start;text-indent:0px;text-transform:none;white-space:normal;word-spacing:0px;word-wrap:break-word">
<div style="text-align:-webkit-auto;word-wrap:break-word">
<div><span style="text-align:-webkit-auto;background-color:rgba(255,255,255,0)">______________________________<wbr>______________________________<wbr>______________________________<wbr>___________</span></div>
<div><span style="background-color:rgba(255,255,255,0)"><br>
</span></div>
<span style="background-color:rgba(255,255,255,0)"><b>
<div><b style="text-align:-webkit-auto">Eric F.  Alemany</b></div>
</b>
<div><i style="text-align:-webkit-auto">System Administrator for Research</i></div>
</span>
<div><span style="background-color:rgba(255,255,255,0)"><br>
</span></div>
<div><span style="text-align:-webkit-auto;background-color:rgba(255,255,255,0)">Division of Radiation & Cancer  Biology</span></div>
<div><span style="text-align:-webkit-auto;background-color:rgba(255,255,255,0)">Department of Radiation Oncology</span></div>
<div><span style="background-color:rgba(255,255,255,0)"><br>
</span></div>
<div><span style="text-align:-webkit-auto;background-color:rgba(255,255,255,0)">Stanford University School of Medicine</span></div>
<div><span style="text-align:-webkit-auto;background-color:rgba(255,255,255,0)">Stanford, California 94305</span></div>
<div><span style="background-color:rgba(255,255,255,0)"><br>
</span></div>
<div><span style="background-color:rgba(255,255,255,0)"><font style="text-align:-webkit-auto">Tel:</font><a style="text-align:-webkit-auto" href="tel:1-650-498-7969" target="_blank">1-650-498-7969</a><font style="text-align:-webkit-auto"> 
 No Texting</font></span></div>
<div><span style="background-color:rgba(255,255,255,0)"><font style="text-align:-webkit-auto">Fax:</font><a style="text-align:-webkit-auto" href="tel:1-650-723-7382" target="_blank">1-650-723-7382</a></span></div>
<div><br>
</div>
</div>
<div style="word-wrap:break-word">
<font style="background-color:rgba(255,255,255,0)"></font></div>
</div>
</div>
<br class="m_7121086110896900777m_7148566682384290610Apple-interchange-newline">
</div>
<br>
</div></div><div style="word-wrap:break-word"><div><div>
<blockquote type="cite">
<div>On May 10, 2018, at 4:23 PM, Lachlan Musicman <<a href="mailto:datakid@gmail.com" target="_blank">datakid@gmail.com</a>> wrote:</div>
<br class="m_7121086110896900777m_7148566682384290610Apple-interchange-newline">
<div>
<div dir="ltr">
<div class="gmail_extra">
<div class="gmail_quote">On 11 May 2018 at 01:35, Eric F. Alemany <span dir="ltr">
<<a href="mailto:ealemany@stanford.edu" target="_blank">ealemany@stanford.edu</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<div dir="auto">
<div>Hi All,</div>
<div id="m_7121086110896900777m_7148566682384290610m_6404797890502024991AppleMailSignature"><br>
</div>
<div id="m_7121086110896900777m_7148566682384290610m_6404797890502024991AppleMailSignature">I know this might sounds as a very basic question: where in the cluster should I install Python and R?</div>
<div id="m_7121086110896900777m_7148566682384290610m_6404797890502024991AppleMailSignature">Headnode?</div>
<div id="m_7121086110896900777m_7148566682384290610m_6404797890502024991AppleMailSignature">Execute nodes ?</div>
<div id="m_7121086110896900777m_7148566682384290610m_6404797890502024991AppleMailSignature"><br>
</div>
<div id="m_7121086110896900777m_7148566682384290610m_6404797890502024991AppleMailSignature">And is there a particular directory (path) I need to install Python and R.<br>
<br>
Background:</div>
<div id="m_7121086110896900777m_7148566682384290610m_6404797890502024991AppleMailSignature">SLURM on Ubuntu 18.04</div>
<div id="m_7121086110896900777m_7148566682384290610m_6404797890502024991AppleMailSignature">1 headnode </div>
<div id="m_7121086110896900777m_7148566682384290610m_6404797890502024991AppleMailSignature">4 execute nodes</div>
<div id="m_7121086110896900777m_7148566682384290610m_6404797890502024991AppleMailSignature">NFS shared drive among all nodes.</div>
</div>
</blockquote>
</div>
<br>
<br>
</div>
<div class="gmail_extra">Eric,<br>
<br>
</div>
<div class="gmail_extra">To echo the others: we have a /binaries nfs share that utilises the standard Environment Modules software so that researchers can manipulate their $PATH on the fly with module load/module unload. That share is mounted on all the nodes.<br>
<br>
</div>
<div class="gmail_extra">For Python, I use virtualenv's but instead of activating, the path is changed by the Module file. Personally, I find conda doesn't work very well in a shared environment. It's fine on a personal level/<br>
<br>
</div>
<div class="gmail_extra">For R, we have resorted to only installing the main point release because we have >700 libraries installed within R and I don't want to reinstall them every time. We do also have packrat installed so researchers can install their own
 libraries locally as well. <br>
</div>
<div class="gmail_extra"><br>
</div>
<div class="gmail_extra"></div>
<div class="gmail_extra"><br>
</div>
<div class="gmail_extra">Cheers<br>
</div>
<div class="gmail_extra">L.<br>
</div>
<div class="gmail_extra"><br>
</div>
<div class="gmail_extra"><br>
<br>
</div>
</div>
</div>
</blockquote>
</div>
<br>
</div></div></blockquote></div>
</div></div></blockquote></div><br></div>