<html>
  <head>
    <meta http-equiv="Content-Type" content="text/html; charset=UTF-8">
  </head>
  <body>
    <p>Are you sure that <span style="font-size:11.0pt">/share/local/pmix-3.2.1
        exists on the compute nodes?<br>
      </span></p>
    <div class="moz-cite-prefix">On 12/4/2020 2:54 PM, Yuengling, Philip
      J. wrote:<br>
    </div>
    <blockquote type="cite"
      cite="mid:9B21AEB4-E9A2-4AA3-BF50-E12526C76606@jhuapl.edu">
      <meta http-equiv="Content-Type" content="text/html; charset=UTF-8">
      <meta name="Generator" content="Microsoft Word 15 (filtered
        medium)">
      <style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        font-size:12.0pt;
        font-family:"Calibri",sans-serif;}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-size:12.0pt;
        font-family:"Calibri",sans-serif;}size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
        {page:WordSection1;}</style>
      <div class="WordSection1">
        <p class="MsoNormal"><span style="font-size:11.0pt">Hi everyone,<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt"><o:p> </o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">I’ve been
            having difficulty getting the --mpi=pmix_v3 option to work
            for me.  I can get --mpi=pmi2 to work ok, but I really want
            to understand what I’m doing wrong here.  Everything seems
            to build ok.<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt"><o:p> </o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">$ srun
            --mpi=list<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">srun: MPI
            types are...<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">srun: pmix<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">srun:
            pmix_v3<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">srun:
            cray_shasta<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">srun: none<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">srun: pmi2<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt"><o:p> </o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">$ srun
            --mpi=pmix_v3 -N5 date<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">srun: error:
            task 1 launch failed: Invalid MPI plugin name<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">srun: error:
            task 2 launch failed: Invalid MPI plugin name<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">srun: error:
            task 3 launch failed: Invalid MPI plugin name<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">srun: error:
            task 4 launch failed: Invalid MPI plugin name<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">srun: error:
            task 0 launch failed: Invalid MPI plugin name<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt"><o:p> </o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">$ srun
            --mpi=pmi2 -N5 date<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">Fri Dec  4
            13:52:39 EST 2020<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">Fri Dec  4
            13:52:39 EST 2020<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">Fri Dec  4
            13:52:39 EST 2020<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">Fri Dec  4
            13:52:39 EST 2020<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">Fri Dec  4
            13:52:39 EST 2020<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt"><o:p> </o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt"><o:p> </o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">openpmix:<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">CC=/opt/rh/devtoolset-10/root/usr/bin/gcc
            ./configure --prefix=/share/local/pmix-3.2.1
            --with-hwloc=/share/local/hwloc-2.4.0<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt"><o:p> </o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">Slurm
            20.11.0:<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">rpmbuild
            --define "_with_pmix --with-pmix=/fs/local/pmix-3.2.1" -ta
            slurm-20.11.0.tar.bz2<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">From
            config.log:<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">./configure
            --build=x86_64-redhat-linux-gnu
            --host=x86_64-redhat-linux-gnu --program-prefix=
            --disable-dependency-tracking --prefix=/usr
            --exec-prefix=/usr --bindir=/usr/bin --sbindir=/usr/sbin
            --sysconfdir=/etc/slurm --datadir=/usr/share
            --includedir=/usr/include --libdir=/usr/lib64
            --libexecdir=/usr/libexec --localstatedir=/var
            --sharedstatedir=/var/lib --mandir=/usr/share/man
            --infodir=/usr/share/info --with-pmix=/fs/local/pmix-3.2.1
            --disable-slurmrestd<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt"><o:p> </o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">Open MP
            4.0.5: <o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:11.0pt">./configure
             '--prefix=/share/openmpi-4.0.5' '--with-cuda'
            '--with-pmix=/share/local/pmix-3.2.1' '--with-pmi=/usr'
            '--with-slurm' '--without-ucx' '--without-verbs'<o:p></o:p></span></p>
        <p class="MsoNormal"><span style="font-size:5.0pt;color:white">-- <o:p></o:p></span></p>
        <div>
          <p class="MsoNormal"><span
              style="font-size:10.0pt;color:black"><o:p> </o:p></span></p>
          <p class="MsoNormal"><span
              style="font-size:10.0pt;color:black">Philip J. Yuengling<o:p></o:p></span></p>
          <p class="MsoNormal"><span
              style="font-size:10.0pt;color:black">Johns Hopkins
              University<o:p></o:p></span></p>
        </div>
      </div>
    </blockquote>
  </body>
</html>