<meta http-equiv="Content-Type" content="text/html; charset=utf-8"><div dir="ltr"><div>It looks like your attachment of sinfo -R didn't come through</div><div><br></div><div>It also looks like your dbd isn't set up correctly</div><div><br></div><div>Can you also show the output of</div><div><br></div><div>sacctmgr list cluster</div><div><br></div><div>and</div><div><br></div><div>scontrol show config | grep ClusterName</div><div><br></div><div>Sean</div><div><br></div><div><div><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature">--<br>Sean Crosby | Senior DevOpsHPC Engineer and HPC Team Lead<br>Research Computing Services | Business Services<br>The University of Melbourne, Victoria 3010 Australia<br><br></div></div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, 6 Apr 2021 at 19:18, Ioannis Botsis <<a href="mailto:ibotsis@isc.tuc.gr">ibotsis@isc.tuc.gr</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<div style="overflow-wrap: break-word;" lang="EL"><div><div style="color:rgb(0,0,0);font-size:12px;text-align:left;font-family:Helvetica,Arial,sans-serif"><strong><table style="width:100%;float:left;background-color:lemonchiffon" cellspacing="0" cellpadding="5" border="1">
<tbody>
<tr>
<td><b>UoM notice: </b>External email. Be cautious of links, attachments, or impersonation attempts</td>
</tr>
</tbody>
</table></strong><br></div><hr></div><div class="gmail-m_-8988238096947739373WordSection1"><p class="MsoNormal"><span lang="EN-US">Hi Sean,<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">I am trying to submit a simple job but freeze<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">srun -n44 -l /bin/hostname<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">srun: Required node not available (down, drained or reserved)<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">srun: job 15 queued and waiting for resources<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">^Csrun: Job allocation 15 has been revoked<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">srun: Force Terminated job 15<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">daemons are active and running on server and all nodes <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">nodes definition in slurm.conf is …<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">DefMemPerNode=3934<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">NodeName=wn0[01-44] CPUs=2 RealMemory=3934 Sockets=2 CoresPerSocket=2 State=UNKNOWN<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">PartitionName=TUC Nodes=ALL Default=YES MaxTime=INFINITE State=UP<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">tail -10 /var/log/slurmdbd.log<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:16.481] error: We should have gotten a new id: Table 'slurm_acct_db.tuc_job_table' doesn't exist<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:16.481] error: _add_registered_cluster: trying to register a cluster (tuc) with no remote port<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:16.482] error: We should have gotten a new id: Table 'slurm_acct_db.tuc_job_table' doesn't exist<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:16.482] error: It looks like the storage has gone away trying to reconnect<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:16.483] error: We should have gotten a new id: Table 'slurm_acct_db.tuc_job_table' doesn't exist<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:16.483] error: _add_registered_cluster: trying to register a cluster (tuc) with no remote port<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:16.484] error: We should have gotten a new id: Table 'slurm_acct_db.tuc_job_table' doesn't exist<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:16.484] error: It looks like the storage has gone away trying to reconnect<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:16.484] error: We should have gotten a new id: Table 'slurm_acct_db.tuc_job_table' doesn't exist<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:16.485] error: _add_registered_cluster: trying to register a cluster (tuc) with no remote port<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">tail -10 /var/log/slurmctld.log<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:35.701] debug:  backfill: no jobs to backfill<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:09:42.001] debug:  slurmdbd: PERSIST_RC is -1 from DBD_FLUSH_JOBS(1408): (null)<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:10:00.042] debug:  slurmdbd: PERSIST_RC is -1 from DBD_FLUSH_JOBS(1408): (null)<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:10:05.701] debug:  backfill: beginning<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:10:05.701] debug:  backfill: no jobs to backfill<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:10:05.989] debug:  sched: Running job scheduler<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:10:19.001] debug:  slurmdbd: PERSIST_RC is -1 from DBD_FLUSH_JOBS(1408): (null)<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:10:35.702] debug:  backfill: beginning<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:10:35.702] debug:  backfill: no jobs to backfill<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">[2021-04-06T12:10:37.001] debug:  slurmdbd: PERSIST_RC is -1 from DBD_FLUSH_JOBS(1408): (null)<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">Attached sinfo -R  <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">Any hint?<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><p class="MsoNormal"><span lang="EN-US">jb<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><div style="border-color:rgb(225,225,225) currentcolor currentcolor;border-style:solid none none;border-width:1pt medium medium;padding:3pt 0cm 0cm"><p class="MsoNormal"><b><span lang="EN-US">From:</span></b><span lang="EN-US"> slurm-users <<a href="mailto:slurm-users-bounces@lists.schedmd.com" target="_blank">slurm-users-bounces@lists.schedmd.com</a>> <b>On Behalf Of </b>Sean Crosby<br><b>Sent:</b> Tuesday, April 6, 2021 7:54 AM<br><b>To:</b> Slurm User Community List <<a href="mailto:slurm-users@lists.schedmd.com" target="_blank">slurm-users@lists.schedmd.com</a>><br><b>Subject:</b> Re: [slurm-users] [EXT] slurmctld error<u></u><u></u></span></p></div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><div><div><p class="MsoNormal"><span lang="EN-US">The other thing I notice for my slurmdbd.conf is that I have<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">DbdAddr=localhost<br>DbdHost=localhost<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">You can try changing your slurmdbd.conf to set those 2 values as well to see if that gets slurmdbd to listen on port 6819<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">Sean<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div><div><div><div><p class="MsoNormal" style="margin-bottom:12pt"><span lang="EN-US">--<br>Sean Crosby | Senior DevOpsHPC Engineer and HPC Team Lead<br>Research Computing Services | Business Services<br>The University of Melbourne, Victoria 3010 Australia<u></u><u></u></span></p></div></div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div></div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><div><div><p class="MsoNormal"><span lang="EN-US">On Tue, 6 Apr 2021 at 14:31, Sean Crosby <</span><a href="mailto:scrosby@unimelb.edu.au" target="_blank"><span lang="EN-US">scrosby@unimelb.edu.au</span></a><span lang="EN-US">> wrote:<u></u><u></u></span></p></div><blockquote style="border-color:currentcolor currentcolor currentcolor rgb(204,204,204);border-style:none none none solid;border-width:medium medium medium 1pt;padding:0cm 0cm 0cm 6pt;margin:5pt 0cm 5pt 4.8pt"><div><div><p class="MsoNormal"><span lang="EN-US">Interesting. It looks like slurmdbd is not opening the 6819 port<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">What does<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">ss -lntp | grep 6819<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">show? Is something else using that port?<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">You can also stop the slurmdbd service and run it in debug mode using<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">slurmdbd -D -vvv<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">Sean<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div><div><div><div><p class="MsoNormal" style="margin-bottom:12pt"><span lang="EN-US">--<br>Sean Crosby | Senior DevOpsHPC Engineer and HPC Team Lead<br>Research Computing Services | Business Services<br>The University of Melbourne, Victoria 3010 Australia<u></u><u></u></span></p></div></div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p></div></div><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><div><div><p class="MsoNormal"><span lang="EN-US">On Tue, 6 Apr 2021 at 14:02, <</span><a href="mailto:ibotsis@isc.tuc.gr" target="_blank"><span lang="EN-US">ibotsis@isc.tuc.gr</span></a><span lang="EN-US">> wrote:<u></u><u></u></span></p></div><blockquote style="border-color:currentcolor currentcolor currentcolor rgb(204,204,204);border-style:none none none solid;border-width:medium medium medium 1pt;padding:0cm 0cm 0cm 6pt;margin:5pt 0cm 5pt 4.8pt"><div><div><table style="width:100%;background:lemonchiffon none repeat scroll 0% 0%;float:left" width="100%" cellspacing="0" cellpadding="0" border="1"><tbody><tr><td style="padding:3.75pt"><p class="MsoNormal"><b><span lang="EN-US">UoM notice: </span></b><span style="color:black" lang="EN-US">External email. Be cautious of links, attachments, or impersonation attempts</span><span lang="EN-US"><u></u><u></u></span></p></td></tr></tbody></table><p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p><div class="MsoNormal" style="text-align:center" align="center"><hr width="100%" size="2" align="center"></div></div><div><p class="MsoNormal"><span lang="EN-US">Hi Sean<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">ss -lntp | grep $(pidof slurmdbd)     return nothing……<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">systemctl status slurmdbd.service<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">● slurmdbd.service - Slurm DBD accounting daemon<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">     Loaded: loaded (/lib/systemd/system/slurmdbd.service; enabled; vendor preset: enabled)<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">     Active: active (running) since Mon 2021-04-05 13:52:35 EEST; 16h ago<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">       Docs: man:slurmdbd(8)<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">    Process: 1453365 ExecStart=/usr/sbin/slurmdbd $SLURMDBD_OPTIONS (code=exited, status=0/SUCCESS)<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">   Main PID: 1453375 (slurmdbd)<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">      Tasks: 1<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">     Memory: 5.0M<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">     CGroup: /system.slice/slurmdbd.service<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">             └─1453375 /usr/sbin/slurmdbd<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">Apr 05 13:52:35 </span><a href="http://se01.grid.tuc.gr" target="_blank"><span lang="EN-US">se01.grid.tuc.gr</span></a><span lang="EN-US"> systemd[1]: Starting Slurm DBD accounting daemon...<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">Apr 05 13:52:35 </span><a href="http://se01.grid.tuc.gr" target="_blank"><span lang="EN-US">se01.grid.tuc.gr</span></a><span lang="EN-US"> systemd[1]: slurmdbd.service: Can't open PID file /run/slurmdbd.pid (yet?) after start: Operation not permitted<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">Apr 05 13:52:35 </span><a href="http://se01.grid.tuc.gr" target="_blank"><span lang="EN-US">se01.grid.tuc.gr</span></a><span lang="EN-US"> systemd[1]: Started Slurm DBD accounting daemon.<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">File /run/slurmdbd.pid exist and has  pidof slurmdbd   value….<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div style="border-style:solid none none;border-width:1pt medium medium;padding:3pt 0cm 0cm;border-color:currentcolor"><p class="MsoNormal"><b><span lang="EN-US">From:</span></b><span lang="EN-US"> slurm-users <</span><a href="mailto:slurm-users-bounces@lists.schedmd.com" target="_blank"><span lang="EN-US">slurm-users-bounces@lists.schedmd.com</span></a><span lang="EN-US">> <b>On Behalf Of </b>Sean Crosby<br><b>Sent:</b> Tuesday, April 6, 2021 12:49 AM<br><b>To:</b> Slurm User Community List <</span><a href="mailto:slurm-users@lists.schedmd.com" target="_blank"><span lang="EN-US">slurm-users@lists.schedmd.com</span></a><span lang="EN-US">><br><b>Subject:</b> Re: [slurm-users] [EXT] slurmctld error<u></u><u></u></span></p></div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div><div><p class="MsoNormal"><span lang="EN-US">What's the output of<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">ss -lntp | grep $(pidof slurmdbd)<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">on your dbd host?<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">Sean<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><div><div><div><p class="MsoNormal" style="margin-bottom:12pt"><span lang="EN-US">--<br>Sean Crosby | Senior DevOpsHPC Engineer and HPC Team Lead<br>Research Computing Services | Business Services<br>The University of Melbourne, Victoria 3010 Australia<u></u><u></u></span></p></div></div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div></div></div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div><div><p class="MsoNormal"><span lang="EN-US">On Tue, 6 Apr 2021 at 05:00, <</span><a href="mailto:ibotsis@isc.tuc.gr" target="_blank"><span lang="EN-US">ibotsis@isc.tuc.gr</span></a><span lang="EN-US">> wrote:<u></u><u></u></span></p></div><blockquote style="border-style:none none none solid;border-width:medium medium medium 1pt;padding:0cm 0cm 0cm 6pt;margin:5pt 0cm 5pt 4.8pt;border-color:currentcolor currentcolor currentcolor rgb(204,204,204)"><div><div><table style="width:100%;background:lemonchiffon none repeat scroll 0% 0%" width="100%" cellspacing="0" cellpadding="0" border="1"><tbody><tr><td style="padding:3.75pt"><p class="MsoNormal"><b><span lang="EN-US">UoM notice: </span></b><span style="color:black" lang="EN-US">External email. Be cautious of links, attachments, or impersonation attempts</span><span lang="EN-US"><u></u><u></u></span></p></td></tr></tbody></table><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div class="MsoNormal" style="text-align:center" align="center"><hr width="100%" size="2" align="center"></div></div><div><p class="MsoNormal"><span lang="EN-US">Hi Sean,<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">10.0.0.100 is the dbd and ctld host with name se01. Firewall is inactive……<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">nc -nz 10.0.0.100 6819 || echo Connection not working<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">give me back …..  Connection not working<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">jb<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div style="border-style:solid none none;border-width:1pt medium medium;padding:3pt 0cm 0cm;border-color:currentcolor"><p class="MsoNormal"><b><span lang="EN-US">From:</span></b><span lang="EN-US"> slurm-users <</span><a href="mailto:slurm-users-bounces@lists.schedmd.com" target="_blank"><span lang="EN-US">slurm-users-bounces@lists.schedmd.com</span></a><span lang="EN-US">> <b>On Behalf Of </b>Sean Crosby<br><b>Sent:</b> Monday, April 5, 2021 2:52 PM<br><b>To:</b> Slurm User Community List <</span><a href="mailto:slurm-users@lists.schedmd.com" target="_blank"><span lang="EN-US">slurm-users@lists.schedmd.com</span></a><span lang="EN-US">><br><b>Subject:</b> Re: [slurm-users] [EXT] slurmctld error<u></u><u></u></span></p></div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div><div><p class="MsoNormal"><span lang="EN-US">The error shows<u></u><u></u></span></p></div><p class="MsoNormal"><span lang="EN-US"><br>slurmctld: debug2: Error connecting slurm stream socket at </span><a href="http://10.0.0.100:6819" target="_blank"><span lang="EN-US">10.0.0.100:6819</span></a><span lang="EN-US">: Connection refused<u></u><u></u></span></p><div><p class="MsoNormal"><span lang="EN-US">slurmctld: error: slurm_persist_conn_open_without_init: failed to open persistent connection to se01:6819: Connection refused<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">Is 10.0.0.100 the IP address of the host running slurmdbd?<br><br>If so, check the iptables firewall running on that host, and make sure the ctld server can access port 6819 on the dbd host.<br><br>You can check this by running the following from the ctld host (requires the package nmap-ncat installed)<br><br>nc -nz 10.0.0.100 6819 || echo Connection not working<br><br>This will try connecting to port 6819 on the host 10.0.0.100, and output nothing if the connection works, and would output Connection not working otherwise<br><br>I would also test this on the DBD server itself<u></u><u></u></span></p><pre><span lang="EN-US"> <u></u><u></u></span></pre></div><div><div><div><p class="MsoNormal" style="margin-bottom:12pt"><span lang="EN-US">--<br>Sean Crosby | Senior DevOpsHPC Engineer and HPC Team Lead<br>Research Computing Services | Business Services<br>The University of Melbourne, Victoria 3010 Australia<u></u><u></u></span></p></div></div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div></div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div><div><p class="MsoNormal"><span lang="EN-US">On Mon, 5 Apr 2021 at 21:00, Ioannis Botsis <</span><a href="mailto:ibotsis@isc.tuc.gr" target="_blank"><span lang="EN-US">ibotsis@isc.tuc.gr</span></a><span lang="EN-US">> wrote:<u></u><u></u></span></p></div><blockquote style="border-style:none none none solid;border-width:medium medium medium 1pt;padding:0cm 0cm 0cm 6pt;margin:5pt 0cm 5pt 4.8pt;border-color:currentcolor currentcolor currentcolor rgb(204,204,204)"><div><div><table style="width:100%;background:lemonchiffon none repeat scroll 0% 0%" width="100%" cellspacing="0" cellpadding="0" border="1"><tbody><tr><td style="padding:3.75pt"><p class="MsoNormal"><b><span lang="EN-US">UoM notice: </span></b><span style="color:black" lang="EN-US">External email. Be cautious of links, attachments, or impersonation attempts</span><span lang="EN-US"><u></u><u></u></span></p></td></tr></tbody></table><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div class="MsoNormal" style="text-align:center" align="center"><hr width="100%" size="2" align="center"></div></div><div><p class="MsoNormal"><span lang="EN-US">Hi Sean,<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">Thank you for your prompt response,  I made the changes you suggested, slurmctld refuse running……. find attached new slurmctld -Dvvvv<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">jb<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div style="border-style:solid none none;border-width:1pt medium medium;padding:3pt 0cm 0cm;border-color:currentcolor"><p class="MsoNormal"><b><span lang="EN-US">From:</span></b><span lang="EN-US"> slurm-users <</span><a href="mailto:slurm-users-bounces@lists.schedmd.com" target="_blank"><span lang="EN-US">slurm-users-bounces@lists.schedmd.com</span></a><span lang="EN-US">> <b>On Behalf Of </b>Sean Crosby<br><b>Sent:</b> Monday, April 5, 2021 11:46 AM<br><b>To:</b> Slurm User Community List <</span><a href="mailto:slurm-users@lists.schedmd.com" target="_blank"><span lang="EN-US">slurm-users@lists.schedmd.com</span></a><span lang="EN-US">><br><b>Subject:</b> Re: [slurm-users] [EXT] slurmctld error<u></u><u></u></span></p></div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div><div><p class="MsoNormal"><span lang="EN-US">Hi Jb,<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">You have set AccountingStoragePort to 3306 in slurm.conf, which is the MySQL port running on the DBD host.<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">AccountingStoragePort is the port for the Slurmdbd service, and not for MySQL.<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">Change AccountingStoragePort to 6819 and it should fix your issues.<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">I also think you should comment out the lines <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">AccountingStorageUser=slurm<br>AccountingStoragePass=/run/munge/munge.socket.2<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">You shouldn't need those lines<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US">Sean<u></u><u></u></span></p></div><div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div><div><div><div><p class="MsoNormal" style="margin-bottom:12pt"><span lang="EN-US">--<br>Sean Crosby | Senior DevOpsHPC Engineer and HPC Team Lead<br>Research Computing Services | Business Services<br>The University of Melbourne, Victoria 3010 Australia<u></u><u></u></span></p></div></div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div></div><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div><div><p class="MsoNormal"><span lang="EN-US">On Mon, 5 Apr 2021 at 18:03, Ioannis Botsis <</span><a href="mailto:ibotsis@isc.tuc.gr" target="_blank"><span lang="EN-US">ibotsis@isc.tuc.gr</span></a><span lang="EN-US">> wrote:<u></u><u></u></span></p></div><blockquote style="border-style:none none none solid;border-width:medium medium medium 1pt;padding:0cm 0cm 0cm 6pt;margin:5pt 0cm 5pt 4.8pt;border-color:currentcolor currentcolor currentcolor rgb(204,204,204)"><div><div><table style="width:100%;background:lemonchiffon none repeat scroll 0% 0%" width="100%" cellspacing="0" cellpadding="0" border="1"><tbody><tr><td style="padding:3.75pt"><p class="MsoNormal"><b><span lang="EN-US">UoM notice: </span></b><span style="color:black" lang="EN-US">External email. Be cautious of links, attachments, or impersonation attempts</span><span lang="EN-US"><u></u><u></u></span></p></td></tr></tbody></table><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><div class="MsoNormal" style="text-align:center" align="center"><hr width="100%" size="2" align="center"></div></div><div><p class="MsoNormal"><span lang="EN-US">Hello everyone,<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">I installed the slurm 19.05.5 from Ubuntu repo,  for the first time in a cluster with 44  identical nodes but I have problem with slurmctld.service<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">When I try to activate slurmctd I get the following message…<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">fatal: You are running with a database but for some reason we have no TRES from it.  This should only happen if the database is down and you don't have any state files<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><ul type="disc"><li class="MsoNormal"><span lang="EN-US">Ubuntu 20.04.2 runs on the server and nodes in the exact same version.<u></u><u></u></span></li><li class="MsoNormal"><span lang="EN-US">munge 0.5.13 installed from Ubuntu repo running on server and nodes.<u></u><u></u></span></li><li class="MsoNormal"><span lang="EN-US">mysql  Ver 8.0.23-0ubuntu0.20.04.1 for Linux on x86_64 ((Ubuntu))  installed from ubuntu repo running on server.<u></u><u></u></span></li></ul><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">slurm.conf is the same on all nodes and on server.<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">slurmd.service is active and running on all nodes without problem.<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">mysql.service is active and running on server.<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">slurmdbd.service is active and running on server (slurm_acct_db created).<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">Find attached slurm.conf </span><a href="http://slurmdbd.com" target="_blank"><span lang="EN-US">slurmdbd.com</span></a><span lang="EN-US">  and detailed output of slurmctld -Dvvvv  command.<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">Any hint?<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">Thanks in advance<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US">jb<u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p><p class="MsoNormal"><span lang="EN-US"> <u></u><u></u></span></p></div></div></blockquote></div></div></div></blockquote></div></div></div></blockquote></div></div></div></blockquote></div></blockquote></div></div></div>
</blockquote></div>