<div dir="ltr"><div>Oh, sure, sorry.</div><div>We are using slurm 18.08.8, with a backfill scheduler. The jobs are being assigned to the same partition, which limits gpus and cpus to 1 via QOS. Here some of the main flags:</div><div><br></div><div><span style="font-family:monospace">SallocDefaultCommand="srun -n1 -N1 --mem-per-cpu=0 --gres=gpu:0 --pty --preserve-env --mpi=none $SHELL"<br>TaskPlugin=task/affinity,task/cgroup<br>TaskPluginParam=Sched<br>MinJobAge=300<br>FastSchedule=1<br>SchedulerType=sched/backfill<br>SelectType=select/cons_res<br>SelectTypeParameters=CR_CPU_Memory<br>PreemptType=preempt/qos<br>PreemptMode=requeue<br>PriorityType=priority/multifactor<br>PriorityFlags=FAIR_TREE<br>PriorityFavorSmall=YES<br>FairShareDampeningFactor=5<br>PriorityWeightAge=1000<br>PriorityWeightFairshare=5000<br>PriorityWeightJobSize=1000<br>PriorityWeightPartition=1000<br>PriorityWeightQOS=5000<br>PriorityWeightTRES=gres/gpu=1000<br>AccountingStorageEnforce=limits,qos,nosteps<br>AccountingStorageTRES=gres/gpu<br>AccountingStorageHost=localhost<br>AccountingStorageType=accounting_storage/slurmdbd<br>JobCompType=jobcomp/none<br>JobAcctGatherFrequency=30<br></span></div><div><span style="font-family:monospace">JobAcctGatherType=jobacct_gather/cgroup</span></div><div><br></div><div>Any ideas?</div><div><br></div><div>Cheers,<br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">El mié., 21 oct. 2020 a las 15:17, Riebs, Andy (<<a href="mailto:andy.riebs@hpe.com" target="_blank">andy.riebs@hpe.com</a>>) escribió:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">





<div lang="EN-GB">
<div>
<p class="MsoNormal"><span style="font-size:11pt;font-family:"Calibri",sans-serif;color:rgb(31,73,125)">Also, of course, any of the information that you can provide about how the system is configured: scheduler choices, QOS options, and
 the like, would also help in answering your question.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt;font-family:"Calibri",sans-serif;color:rgb(31,73,125)"><u></u> <u></u></span></p>
<div>
<div style="border-color:rgb(225,225,225) currentcolor currentcolor;border-style:solid none none;border-width:1pt medium medium;padding:3pt 0in 0in">
<p class="MsoNormal"><b><span style="font-size:11pt;font-family:"Calibri",sans-serif" lang="EN-US">From:</span></b><span style="font-size:11pt;font-family:"Calibri",sans-serif" lang="EN-US"> slurm-users [mailto:<a href="mailto:slurm-users-bounces@lists.schedmd.com" target="_blank">slurm-users-bounces@lists.schedmd.com</a>]
<b>On Behalf Of </b>Riebs, Andy<br>
<b>Sent:</b> Wednesday, October 21, 2020 9:02 AM<br>
<b>To:</b> Slurm User Community List <<a href="mailto:slurm-users@lists.schedmd.com" target="_blank">slurm-users@lists.schedmd.com</a>><br>
<b>Subject:</b> Re: [slurm-users] Array jobs vs Fairshare<u></u><u></u></span></p>
</div>
</div>
<p class="MsoNormal"><u></u> <u></u></p>
<p class="MsoNormal"><span style="font-size:11pt;font-family:"Calibri",sans-serif;color:rgb(31,73,125)">Stephan (et al.),<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt;font-family:"Calibri",sans-serif;color:rgb(31,73,125)"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt;font-family:"Calibri",sans-serif;color:rgb(31,73,125)">There are probably 6 versions of Slurm in common use today, across multiple versions each of Debian/Ubuntu, SuSE/SLES, and RedHat/CentOS/Fedora.
 You are more likely to get a good answer if you offer some hints about what you are running!<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt;font-family:"Calibri",sans-serif;color:rgb(31,73,125)"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt;font-family:"Calibri",sans-serif;color:rgb(31,73,125)">Regards,<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt;font-family:"Calibri",sans-serif;color:rgb(31,73,125)">Andy<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11pt;font-family:"Calibri",sans-serif;color:rgb(31,73,125)"><u></u> <u></u></span></p>
<p class="MsoNormal"><b><span style="font-size:11pt;font-family:"Calibri",sans-serif" lang="EN-US">From:</span></b><span style="font-size:11pt;font-family:"Calibri",sans-serif" lang="EN-US"> slurm-users [<a href="mailto:slurm-users-bounces@lists.schedmd.com" target="_blank">mailto:slurm-users-bounces@lists.schedmd.com</a>]
<b>On Behalf Of </b>Stephan Schott<br>
<b>Sent:</b> Wednesday, October 21, 2020 8:37 AM<br>
<b>To:</b> Slurm User Community List <<a href="mailto:slurm-users@lists.schedmd.com" target="_blank">slurm-users@lists.schedmd.com</a>><br>
<b>Subject:</b> [slurm-users] Array jobs vs Fairshare<u></u><u></u></span></p>
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<div>
<p class="MsoNormal">Hi everyone,<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">I am having doubts regarding array jobs. To me it seems that the JobArrayTaskLimit has precedence over the Fairshare, as users with a way lower priority seem to get constant allocations for their array jobs, compared to users with "normal"
 jobs. Can someone confirm this?<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">Cheers,<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><br>
-- <u></u><u></u></p>
<div>
<div>
<div>
<p class="MsoNormal"><span style="font-size:9.5pt">Stephan Schott Verdugo<u></u><u></u></span></p>
</div>
<p class="MsoNormal"><span style="font-size:9.5pt">Biochemist</span><u></u><u></u></p>
<div>
<p class="MsoNormal"><span style="font-size:9.5pt"><br>
Heinrich-Heine-Universitaet Duesseldorf<br>
Institut fuer Pharm. und Med. Chemie<br>
Universitaetsstr. 1<br>
40225 Duesseldorf<br>
Germany<u></u><u></u></span></p>
</div>
</div>
</div>
</div>
</div>
</div>
</div>

</blockquote></div><br clear="all"><br>-- <br><div dir="ltr"><div dir="ltr"><div style="font-size:12.8px">Stephan Schott Verdugo<br></div><span style="font-size:12.8px">Biochemist</span><br style="font-size:12.8px"><div style="font-size:12.8px"><br>Heinrich-Heine-Universitaet Duesseldorf<br>Institut fuer Pharm. und Med. Chemie<br>Universitaetsstr. 1<br>40225 Duesseldorf<br>Germany</div></div></div>