<div dir="ltr">OK when restarting slurmd on the nodes I get these errors:<div><br>Apr 07 16:52:33 node001 systemd[1]: Starting Slurm node daemon...<br>Apr 07 16:52:33 node001 slurmd[299181]: Message aggregation disabled<br>Apr 07 16:52:33 node001 slurmd[299181]: WARNING: A line in gres.conf for GRES mps has 400 more configured than expected in slurm.conf. Ignoring extra GRES.<br>Apr 07 16:52:33 node001 slurmd[299181]: fatal: We were configured to autodetect nvml functionality, but we weren't able to find that lib when Slurm was configured.<br>Apr 07 16:52:33 node001 systemd[1]: slurmd.service: control process exited, code=exited status=1<br>Apr 07 16:52:33 node001 systemd[1]: Failed to start Slurm node daemon.<br>Apr 07 16:52:33 node001 systemd[1]: Unit slurmd.service entered failed state.<br>Apr 07 16:52:33 node001 systemd[1]: slurmd.service failed.<br></div><div><br></div><div>Apr 07 16:43:27 node002 slurmd[273406]: error: GresPlugins changed from gpu,mic to gpu,mic,mps ignored<br>Apr 07 16:43:27 node002 slurmd[273406]: error: Restart the slurmctld daemon to change GresPlugins<br>Apr 07 16:43:27 node002 slurmd[273406]: error: Ignoring gres.conf record, invalid name: mps<br>Apr 07 16:44:06 node002 slurmd[273406]: error: select_g_select_jobinfo_unpack: select plugin cons_tres not found<br>Apr 07 16:44:06 node002 slurmd[273406]: error: select_g_select_jobinfo_unpack: unpack error<br>Apr 07 16:44:06 node002 slurmd[273406]: error: Malformed RPC of type REQUEST_TERMINATE_JOB(6011) received<br>Apr 07 16:44:06 node002 slurmd[273406]: error: slurm_receive_msg_and_forward: Header lengths are longer than data received<br>Apr 07 16:44:06 node002 slurmd[273406]: error: service_connection: slurm_receive_msg: Header lengths are longer than dat...ceived<br></div><div><br></div><div>so that "

WARNING: A line in gres.conf for GRES mps has 400" must come from this entry in gres.conf:</div><div>NodeName=node[001-003] Name=gpu Type=v100 File=/dev/nvidia0<br># END AUTOGENERATED SECTION   -- DO NOT REMOVE<br>Name=mps Count=400<br>AutoDetect=nvml<br></div><div><br></div><div>Perhaps I'm misunderstanding the Count option?</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Apr 7, 2020 at 4:34 PM Davide Vanzo <<a href="mailto:Davide.Vanzo@utsouthwestern.edu">Davide.Vanzo@utsouthwestern.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">





<div lang="EN-US">
<div class="gmail-m_-1590899665953702013WordSection1">
<p class="MsoNormal">Robert,<u></u><u></u></p>
<p class="MsoNormal"><u></u> <u></u></p>
<p class="MsoNormal">That error is typically due to slurmd/slurmctld version mismatch or different configuration. I would not be surprised if you need to restart slurmd too after changing the SelectType configuration.<u></u><u></u></p>
<p class="MsoNormal">Also, do not forget this warning from the documentation when it comes to modifying SelectType:<u></u><u></u></p>
<p class="MsoNormal"><u></u> <u></u></p>
<p class="MsoNormal" style="margin-left:36pt"><i>Changing this value can only be done by restarting the slurmctld daemon and will result in the loss of all job information (running and pending) since the job state save format used by each plugin is different.<u></u><u></u></i></p>
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<p class="MsoNormal">-- <u></u><u></u></p>
<p class="MsoNormal"><b>Davide Vanzo, PhD<u></u><u></u></b></p>
<p class="MsoNormal"><i>Computer Scientist<u></u><u></u></i></p>
<p class="MsoNormal">BioHPC – Lyda Hill Dept. of Bioinformatics<u></u><u></u></p>
<p class="MsoNormal">UT Southwestern Medical Center<u></u><u></u></p>
</div>
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<div style="border-right:none;border-bottom:none;border-left:none;border-top:1pt solid rgb(225,225,225);padding:3pt 0cm 0cm">
<p class="MsoNormal"><b>From:</b> slurm-users <<a href="mailto:slurm-users-bounces@lists.schedmd.com" target="_blank">slurm-users-bounces@lists.schedmd.com</a>>
<b>On Behalf Of </b>Robert Kudyba<br>
<b>Sent:</b> Tuesday, April 7, 2020 3:26 PM<br>
<b>To:</b> Slurm User Community List <<a href="mailto:slurm-users@lists.schedmd.com" target="_blank">slurm-users@lists.schedmd.com</a>><br>
<b>Subject:</b> [slurm-users] Header lengths are longer than data received after changing SelectType & GresTypes to use MPS<u></u><u></u></p>
</div>
</div>
<p class="MsoNormal"><u></u> <u></u></p>
<p class="MsoNormal" style="line-height:12pt;background:rgb(189,214,238)">
<b><span style="font-size:12pt;color:black">EXTERNAL MAIL</span></b><u></u><u></u></p>
<div>
<div>
<p class="MsoNormal">Using Slurm 20.02 on CentIOS 7.7 with Bright Cluster. We changed the following options to enable MPS:<br>
SelectType=select/cons_tres<br>
GresTypes=gpu,mic,mps<br>
<br>
I restarted slurmctld and ran scontrol reconfigure, however all jobs get the below error:<br>
[2020-04-07T15:29:00.741] debug:  backfill: no jobs to backfill<br>
[2020-04-07T15:29:03.051] Resending TERMINATE_JOB request JobId=3056 Nodelist=node[001-002]<br>
[2020-04-07T15:29:03.051] Resending TERMINATE_JOB request JobId=3061 Nodelist=node003<br>
[2020-04-07T15:29:03.051] debug:  sched: Running job scheduler<br>
[2020-04-07T15:29:03.063] agent/is_node_resp: node:node003 RPC:REQUEST_TERMINATE_JOB : Header lengths are longer than data received<br>
[2020-04-07T15:29:03.071] agent/is_node_resp: node:node002 RPC:REQUEST_TERMINATE_JOB : Header lengths are longer than data received<br>
[2020-04-07T15:29:03.071] agent/is_node_resp: node:node001 RPC:REQUEST_TERMINATE_JOB : Header lengths are longer than data received<br>
<br>
Do any other options need changing? What causes these header length errors? <u></u><u></u></p>
</div>
</div>
<p class="MsoNormal" style="line-height:12pt;background:rgb(189,214,238)">
<b><span style="font-size:12pt;color:black">CAUTION: </span></b><span style="font-size:12pt;color:black">This email originated from outside UTSW. Please be cautious of links or attachments, and validate the sender's email address before replying.</span><u></u><u></u></p>
</div>
<br>
<hr>
<table border="0" cellpadding="0">
<tbody>
<tr>
<td>
<p align="right" style="text-align:right"><span style="font-size:17pt;letter-spacing:-3px;font-family:Helvetica,sans-serif;color:rgb(0,84,160);font-weight:bolder">UT</span><span style="font-size:17pt;letter-spacing:0px;font-family:Helvetica,sans-serif;color:rgb(0,84,160);font-weight:bolder">
 Southwestern</span> </p>
</td>
</tr>
<tr>
<td>
<p align="right" style="text-align:right"><span style="font-size:13pt;font-family:Helvetica,sans-serif;color:rgb(102,109,112)">Medical Center</span></p>
</td>
</tr>
<tr>
<td></td>
</tr>
<tr>
<td>
<p style="text-align:right"><span style="font-size:10pt;font-family:Helvetica,sans-serif;color:rgb(102,109,112)">The future of medicine, today.</span></p>
</td>
</tr>
</tbody>
</table>
</div>

</blockquote></div>