<html>
  <head>
    <meta content="text/html; charset=ISO-8859-1"
      http-equiv="Content-Type">
  </head>
  <body bgcolor="#FFFFFF" text="#000000">
    Ceph is quite complicated, and I suspect you're going to run into
    serious issues trying to get RBD support in iPXE.  You'd really need
    to implement a tiny RBD client, which sounds like it would be pretty
    complicated.<br>
    <br>
    I'd suggest an alternative:  Store the linux kernel and initramfs in
    Ceph Object Storage.  iPXE can already boot from HTTP, so you can
    load your kernel/initrd via object storage, then let the kernel
    handle booting from the RBD.<br>
    <br>
    I can't really help with how to get the XenServer initrd to support
    Ceph, but that seems like a far simpler process then updating iPXE
    to support Ceph.<br>
    <br>
    <div class="moz-cite-prefix">On 5/13/2014 11:23 AM, Stephen Perkins
      wrote:<br>
    </div>
    <blockquote cite="mid:00ac01cf6ebf$53a67320$faf35960$@netmass.com"
      type="cite">
      <meta http-equiv="Content-Type" content="text/html;
        charset=ISO-8859-1">
      <meta name="Generator" content="Microsoft Word 14 (filtered
        medium)">
      <style><!--
/* Font Definitions */
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri","sans-serif";}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Calibri","sans-serif";
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-family:"Calibri","sans-serif";}
@page WordSection1
        {size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
      <div class="WordSection1">
        <p class="MsoNormal">Hi all,<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">I have a goal in mind and I'm not entirely
          sure how to reach it.    So… with this in mind, I thought I
          would discuss what I want as an end result and then ask if a
          certain approach may make sense.<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">End goal:  Create a highly available (no
          single point of failure) scale out infrastructure for booting
          and running diskless XenServer hosts and lots of Guest
          Operating systems that have live migration capabilities.  I
          want this with as few systems in place as is possible.<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">While most people will start down the iSCSI
          path, I am not entirely sure that this is the approach I would
          like to look at. The iPXE full iSCSI stack is awesome and
          provides great capabilities but it requires a lot of
          clustering work to make it highly available.  This is
          compounded if you want a cluster with more than 2 nodes.<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">I am interested in using the ceph clustered
          storage system.  This system already provides me with a highly
          available scale out solution and… once configured and working
          give me the highly available storage I want and integrates
          well with the Xen Clients.<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">But… the hard part is that I want to boot
          diskless XenServers from this ceph store.   This is where:<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">                1) iPXE comes in<o:p></o:p></p>
        <p class="MsoNormal">                2) My knowledge about ends<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">My thought is that I would boot a
          customized iPXE from a tiny USB DOM or a highly available
          DHCP/TFTP/PXEboot infrastructure.  Once iPXE is running, I
          would like to boot directly from a ceph cluster volume instead
          of the more standard iSCSI volume.<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">So, I wanted to ask thoughts on whether it
          makes sense to try to develop another backend connectivity
          option to iPXE.  I would like to look at adding a ceph/RBD
          option that will allow me to provide a list of IP addresses
          (and other needed config info) for the ceph cluster and allow
          me to mount a ceph store to boot from.<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">Then… I would have to address the problem
          of how to get an initrd for XenServer that would have the ceph
          modules available and allow me to boot a root file system from
          there.<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">Is iPXE the correct place to look to help
          provide this?<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">Is this a hugely monumental project… or
          just a monumental project (given that the ceph client code
          exists and is open source)…<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">I thought I would reach out here before I
          wrote to the ceph group.  I my approach is embarrassingly
          wrong, please feel free to let me know!<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">Thanks,<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal">- Steve<o:p></o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
        <p class="MsoNormal"
          style="mso-margin-top-alt:auto;mso-margin-bottom-alt:auto"><o:p> </o:p></p>
        <p class="MsoNormal"><o:p> </o:p></p>
      </div>
      <br>
      <fieldset class="mimeAttachmentHeader"></fieldset>
      <br>
      <pre wrap="">_______________________________________________
ipxe-devel mailing list
<a class="moz-txt-link-abbreviated" href="mailto:ipxe-devel@lists.ipxe.org">ipxe-devel@lists.ipxe.org</a>
<a class="moz-txt-link-freetext" href="https://lists.ipxe.org/mailman/listinfo.cgi/ipxe-devel">https://lists.ipxe.org/mailman/listinfo.cgi/ipxe-devel</a>
</pre>
    </blockquote>
    <br>
  </body>
</html>