<div dir="ltr"><div dir="ltr"><br></div>Hi,<div><br></div><div>Thanks, your advice worked. I used sacctmgr to create a QOS called 'nogpu' and set MaxTRES=gres/gpu=0, then attached it to the cpu partition in slurm.conf as </div><div><br></div><div>PartitionName=CPU Nodes=ALL Default=Yes QOS=nogpu MaxTime=INFINITE  State=UP<br></div><div><br></div><div>And it works! Trying to run gpu jobs in the cpu partition now fails. Qos'es are nice!</div><div><br></div><div>Only thing is that the nogpu qos has a priority of 0. Should it be higher?</div><div><br></div><div><a href="https://pastebin.com/VVsQAz6P">https://pastebin.com/VVsQAz6P<br></a></div><div><br></div><div>AR</div><div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, 3 Feb 2023 at 13:37, Markus Kötter <<a href="mailto:koetter@cispa.de">koetter@cispa.de</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Hi,<br>
<br>
<br>
limits ain't easy.<br>
<br>
> <a href="https://support.ceci-hpc.be/doc/_contents/SubmittingJobs/SlurmLimits.html#precedence" rel="noreferrer" target="_blank">https://support.ceci-hpc.be/doc/_contents/SubmittingJobs/SlurmLimits.html#precedence</a><br>
<br>
<br>
I think there is multiple options, starting with not having GPU <br>
resources in the CPU partition.<br>
<br>
Or creating qos the partition and have<br>
MaxTRES=gres/gpu:A100=0,gres/gpu:K80=0,gres/gpu=0<br>
attaching it to the CPU partition.<br>
<br>
And the configuration will require some values as well,<br>
<br>
# slurm.conf<br>
AccountingStorageEnforce=associations,limits,qos,safe<br>
AccountingStorageTRES=gres/gpu,gres/gpu:A100,gres/gpu:K80<br>
<br>
# cgroups.conf<br>
ConstrainDevices=yes<br>
<br>
most likely some others I miss.<br>
<br>
<br>
MfG<br>
-- <br>
Markus Kötter, +49 681 870832434<br>
30159 Hannover, Lange Laube 6<br>
Helmholtz Center for Information Security<br>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr" class="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div>Analabha Roy<br></div><div>Assistant Professor</div><div><a href="http://www.buruniv.ac.in/academics/department/physics" target="_blank">Department of Physics</a></div><div><a href="http://www.buruniv.ac.in/" target="_blank">The University of Burdwan</a></div><div>Golapbag Campus, Barddhaman 713104</div><div>West Bengal, India</div><div>Emails: <a href="mailto:daneel@utexas.edu" target="_blank">daneel@utexas.edu</a>, <a href="mailto:aroy@phys.buruniv.ac.in" target="_blank">aroy@phys.buruniv.ac.in</a>, <a href="mailto:hariseldon99@gmail.com" target="_blank">hariseldon99@gmail.com</a><br><div><font face="tahoma, sans-serif">Webpage: <a href="http://www.ph.utexas.edu/~daneel/" target="_blank">http://www.ph.utexas.edu/~daneel/</a></font></div></div></div></div></div></div></div></div>