lbuild-initvm.sh

   1 #!/bin/bash
   2 # -*-shell-*-
   3
   4 # close stdin, as with ubuntu and debian VMs this script tends to hang and wait for input ..
   5 0<&-
   6
   7 #shopt -s huponexit
   8
   9 COMMAND=$(basename $0)
  10 DIRNAME=$(dirname $0)
  11 BUILD_DIR=$(pwd)
  12
  13 # pkgs parsing utilities
  14 export PATH=$(dirname $0):$PATH
  15
  16 # old guests have e.g. mount in /bin but this is no longer part of
  17 # the standard PATH in recent hosts after usrmove, so let's keep it simple
  18 export PATH=$PATH:/bin:/sbin
  19
  20 . build.common
  21
  22 DEFAULT_FCDISTRO=f20
  23 DEFAULT_PLDISTRO=lxc
  24 DEFAULT_PERSONALITY=linux64
  25
  26 ##########
  27 # constant
  28 PUBLIC_BRIDGE=br0
  29
  30 # the network interface name as seen from the container
  31 VIF_GUEST=eth0
  32
  33 ##########
  34 FEDORA_PREINSTALLED="yum initscripts passwd rsyslog vim-minimal dhclient chkconfig rootfiles policycoreutils openssh-server openssh-clients"
  35 DEBIAN_PREINSTALLED="openssh-server openssh-client"
  36
  37 ##############################
  38 ## stolen from tests/system/template-qemu/qemu-bridge-init
  39 # use /proc/net/dev instead of a hard-wired list
  40 function gather_interfaces () {
  41     python <<EOF
  42 for line in file("/proc/net/dev"):
  43     if ':' not in line: continue
  44     ifname=line.replace(" ","").split(":")[0]
  45     if ifname.find("lo")==0: continue
  46     if ifname.find("br")==0: continue
  47     if ifname.find("virbr")==0: continue
  48     if ifname.find("veth")==0: continue
  49     if ifname.find("tap")==0: continue
  50     print ifname
  51 EOF
  52 }
  53
  54 function discover_interface () {
  55     for ifname in $(gather_interfaces); do
  56         ip link show $ifname | grep -qi 'state UP' && { echo $ifname; return; }
  57     done
  58     # still not found ? that's bad
  59     echo unknown
  60 }
  61
  62 ########## networking -- ctd
  63 function gethostbyname () {
  64     hostname=$1
  65     python -c "import socket; print socket.gethostbyname('"$hostname"')" 2> /dev/null
  66 }
  67
  68 # e.g. 21 -> 255.255.248.0
  69 function masklen_to_netmask () {
  70     masklen=$1; shift
  71     python <<EOF
  72 import sys
  73 masklen=$masklen
  74 if not (masklen>=1 and masklen<=32):
  75   print "Wrong masklen",masklen
  76   exit(1)
  77 result=[]
  78 for i in range(4):
  79     if masklen>=8:
  80        result.append(8)
  81        masklen-=8
  82     else:
  83        result.append(masklen)
  84        masklen=0
  85 print ".".join([ str(256-2**(8-i)) for i in result ])
  86
  87 EOF
  88 }
  89
  90 #################### bridge initialization
  91 function create_bridge_if_needed() {
  92
  93     # turn on verbosity
  94     set -x
  95
  96     # already created ? - we're done
  97     ip addr show $PUBLIC_BRIDGE >& /dev/null && {
  98         echo "Bridge already set up - skipping create_bridge_if_needed"
  99         return 0
 100     }
 101
 102     # find out the physical interface to bridge onto
 103     if_lan=$(discover_interface)
 104
 105     ip addr show $if_lan &>/dev/null || {
 106         echo "Cannot use interface $if_lan - exiting"
 107         exit 1
 108     }
 109
 110     #################### bride initialization
 111     check_yum_installed bridge-utils
 112
 113     echo "========== $COMMAND: entering create_bridge - beg"
 114     hostname
 115     uname -a
 116     ip addr show
 117     ip route
 118     echo "========== $COMMAND: entering create_bridge - end"
 119
 120     # disable netfilter calls for bridge interface (they cause panick on 2.6.35 anyway)
 121     #
 122     # another option would be to accept the all forward packages for
 123     # bridged interface like: -A FORWARD -m physdev --physdev-is-bridged -j ACCEPT
 124     sysctl net.bridge.bridge-nf-call-iptables=0
 125     sysctl net.bridge.bridge-nf-call-ip6tables=0
 126     sysctl net.bridge.bridge-nf-call-arptables=0
 127
 128
 129     #Getting host IP/masklen
 130     address=$(ip addr show $if_lan | grep -v inet6 | grep inet | head --lines=1 | awk '{print $2;}')
 131     [ -z "$address" ] && { echo "ERROR: Could not determine IP address for $if_lan" ; exit 1 ; }
 132
 133     broadcast=$(ip addr show $if_lan | grep -v inet6 | grep inet | head --lines=1 | awk '{print $4;}')
 134     [ -z "$broadcast" ] && echo "WARNING: Could not determine broadcast address for $if_lan"
 135
 136     gateway=$(ip route show | grep default | awk '{print $3;}')
 137     [ -z "$gateway" ] && echo "WARNING: Could not determine gateway IP"
 138
 139
 140     # creating the bridge
 141     echo "Creating bridge PUBLIC_BRIDGE=$PUBLIC_BRIDGE"
 142     brctl addbr $PUBLIC_BRIDGE
 143     brctl addif $PUBLIC_BRIDGE $if_lan
 144     echo "Activating promiscuous mode if_lan=$if_lan"
 145     ip link set $if_lan up promisc on
 146     sleep 2
 147     # rely on dhcp to re assign IP..
 148     echo "Starting dhclient on $PUBLIC_BRIDGE"
 149     dhclient $PUBLIC_BRIDGE
 150     sleep 1
 151
 152     #Reconfigure the routing table
 153     echo "Configuring gateway=$gateway"
 154     ip route add default via $gateway dev $PUBLIC_BRIDGE
 155     ip route del default via $gateway dev $if_lan
 156     # at this point we have an extra route like e.g.
 157     ## ip route show
 158     #default via 138.96.112.250 dev br0
 159     #138.96.112.0/21 dev em1  proto kernel  scope link  src 138.96.112.57
 160     #138.96.112.0/21 dev br0  proto kernel  scope link  src 138.96.112.57
 161     #192.168.122.0/24 dev virbr0  proto kernel  scope link  src 192.168.122.1
 162     route_dest=$(ip route show | grep -v default | grep "dev $PUBLIC_BRIDGE" | awk '{print $1;}')
 163     ip route del $route_dest dev $if_lan
 164
 165     echo "========== $COMMAND: exiting create_bridge - beg"
 166     ip addr show
 167     ip route show
 168     echo "========== $COMMAND: exiting create_bridge - end"
 169
 170     # for safety
 171     sleep 3
 172     return 0
 173
 174 }
 175
 176 ##############################
 177 # return yum or debootstrap
 178 function package_method () {
 179     fcdistro=$1; shift
 180     case $fcdistro in
 181         f[0-9]*|centos[0-9]*|sl[0-9]*) echo yum ;;
 182         squeeze|wheezy|jessie|oneiric|precise|quantal|raring|saucy) echo debootstrap ;;
 183         *) echo Unknown distro $fcdistro ;;
 184     esac
 185 }
 186
 187 # return arch from debian distro and personality
 188 function canonical_arch () {
 189     personality=$1; shift
 190     fcdistro=$1; shift
 191     case $(package_method $fcdistro) in
 192         yum)
 193             case $personality in *32) echo i386 ;; *64) echo x86_64 ;; *) echo Unknown-arch-1 ;; esac ;;
 194         debootstrap)
 195             case $personality in *32) echo i386 ;; *64) echo amd64 ;; *) echo Unknown-arch-2 ;; esac ;;
 196         *)
 197             echo Unknown-arch-3 ;;
 198     esac
 199 }
 200
 201 # the new test framework creates /timestamp in /vservers/<name> *before* populating it
 202 function almost_empty () {
 203     dir="$1"; shift ;
 204     # non existing is fine
 205     [ ! -d $dir ] && return 0;
 206     # need to have at most one file
 207     count=$(cd $dir; ls | wc -l); [ $count -le 1 ];
 208 }
 209
 210 ##############################
 211 function check_yum_installed () {
 212     package=$1; shift
 213     rpm -q $package >& /dev/null || yum -y install $package
 214 }
 215
 216 function check_yumgroup_installed () {
 217     group="$1"; shift
 218     yum grouplist "$group" | grep -q Installed || { yum -y groupinstall "$group" ; }
 219 }
 220
 221 ##############################
 222 function fedora_install() {
 223     set -x
 224     set -e
 225
 226     cache=/var/cache/lxc/fedora/$arch/$release
 227
 228     mkdir -p /var/lock/subsys/
 229     (
 230         flock -n -x 200 || { echo "Cache repository is busy." ; return 1 ; }
 231
 232         if [ ! -e "$cache/rootfs" ]; then
 233             echo "Getting cache download in $cache/rootfs ... "
 234             fedora_download || { echo "Failed to download 'fedora base'"; return 1; }
 235         else
 236             echo "Updating cache $cache/rootfs ..."
 237             if ! yum --installroot $cache/rootfs -y --nogpgcheck update ; then
 238                 echo "Failed to update 'fedora base', continuing with last known good cache"
 239             else
 240                 echo "Update finished"
 241             fi
 242         fi
 243
 244         echo "Copy $cache/rootfs to $lxc_root ... "
 245         rsync -a $cache/rootfs/ $lxc_root/
 246
 247         return 0
 248
 249         ) 200>/var/lock/subsys/lxc
 250
 251     return $?
 252 }
 253
 254 function fedora_download() {
 255     set -x
 256     # check the mini fedora was not already downloaded
 257     INSTALL_ROOT=$cache/partial
 258     echo $INSTALL_ROOT
 259
 260     # download a mini fedora into a cache
 261     echo "Downloading fedora minimal ..."
 262
 263     mkdir -p $INSTALL_ROOT || { echo "Failed to create '$INSTALL_ROOT' directory" ; return 1; }
 264
 265     mkdir -p $INSTALL_ROOT/etc/yum.repos.d
 266     mkdir -p $INSTALL_ROOT/dev
 267     mknod -m 0444 $INSTALL_ROOT/dev/random c 1 8
 268     mknod -m 0444 $INSTALL_ROOT/dev/urandom c 1 9
 269
 270     # copy yum config and repo files
 271     cp /etc/yum.conf $INSTALL_ROOT/etc/
 272     cp /etc/yum.repos.d/fedora* $INSTALL_ROOT/etc/yum.repos.d/
 273
 274     # append fedora repo files with desired $release and $basearch
 275     for f in $INSTALL_ROOT/etc/yum.repos.d/* ; do
 276       sed -i "s/\$basearch/$arch/g; s/\$releasever/$release/g;" $f
 277     done
 278
 279     MIRROR_URL=http://mirror.onelab.eu/fedora/releases/$release/Everything/$arch/os
 280     RELEASE_URL1="$MIRROR_URL/Packages/fedora-release-$release-1.noarch.rpm"
 281     # with fedora18 the rpms are scattered by first name
 282     RELEASE_URL2="$MIRROR_URL/Packages/f/fedora-release-$release-1.noarch.rpm"
 283     RELEASE_TARGET=$INSTALL_ROOT/fedora-release-$release.noarch.rpm
 284     found=""
 285     for attempt in $RELEASE_URL1 $RELEASE_URL2; do
 286         if curl -f $attempt -o $RELEASE_TARGET ; then
 287             echo "Retrieved $attempt"
 288             found=true
 289             break
 290         else
 291             echo "Failed attempt $attempt"
 292         fi
 293     done
 294     [ -n "$found" ] || { echo "Could not retrieve fedora-release rpm - exiting" ; exit 1; }
 295
 296     mkdir -p $INSTALL_ROOT/var/lib/rpm
 297     rpm --root $INSTALL_ROOT  --initdb
 298     # when installing f12 this apparently is already present, so ignore result
 299     rpm --root $INSTALL_ROOT -ivh $INSTALL_ROOT/fedora-release-$release.noarch.rpm || :
 300     # however f12 root images won't get created on a f18 host
 301     # (the issue here is the same as the one we ran into when dealing with a vs-box)
 302     # in a nutshell, in f12 the glibc-common and filesystem rpms have an apparent conflict
 303     # >>> file /usr/lib/locale from install of glibc-common-2.11.2-3.x86_64 conflicts
 304     #          with file from package filesystem-2.4.30-2.fc12.x86_64
 305     # in fact this was - of course - allowed by f12's rpm but later on a fix was made
 306     #   http://rpm.org/gitweb?p=rpm.git;a=commitdiff;h=cf1095648194104a81a58abead05974a5bfa3b9a
 307     # So ideally if we want to be able to build f12 images from f18 we need an rpm that has
 308     # this patch undone, like we have in place on our f14 boxes (our f14 boxes need a f18-like rpm)
 309
 310     YUM="yum --installroot=$INSTALL_ROOT --nogpgcheck -y"
 311     echo "$YUM install $FEDORA_PREINSTALLED"
 312     $YUM install $FEDORA_PREINSTALLED || { echo "Failed to download rootfs, aborting." ; return 1; }
 313
 314     mv "$INSTALL_ROOT" "$cache/rootfs"
 315     echo "Download complete."
 316
 317     return 0
 318 }
 319
 320 ##############################
 321 function fedora_configure() {
 322
 323     set -x
 324     set -e
 325
 326     # disable selinux in fedora
 327     mkdir -p $lxc_root/selinux
 328     echo 0 > $lxc_root/selinux/enforce
 329
 330     # set the hostname
 331     case "$fcdistro" in
 332         f18|f2?)
 333             cat <<EOF > ${lxc_root}/etc/hostname
 334 $GUEST_HOSTNAME
 335 EOF
 336             echo ;;
 337         *)
 338             cat <<EOF > ${lxc_root}/etc/sysconfig/network
 339 NETWORKING=yes
 340 HOSTNAME=$GUEST_HOSTNAME
 341 EOF
 342             # set minimal hosts
 343             cat <<EOF > $lxc_root/etc/hosts
 344 127.0.0.1 localhost $GUEST_HOSTNAME
 345 EOF
 346             echo ;;
 347     esac
 348
 349     dev_path="${lxc_root}/dev"
 350     rm -rf $dev_path
 351     mkdir -p $dev_path
 352     mknod -m 666 ${dev_path}/null c 1 3
 353     mknod -m 666 ${dev_path}/zero c 1 5
 354     mknod -m 666 ${dev_path}/random c 1 8
 355     mknod -m 666 ${dev_path}/urandom c 1 9
 356     mkdir -m 755 ${dev_path}/pts
 357     mkdir -m 1777 ${dev_path}/shm
 358     mknod -m 666 ${dev_path}/tty c 5 0
 359     mknod -m 666 ${dev_path}/tty0 c 4 0
 360     mknod -m 666 ${dev_path}/tty1 c 4 1
 361     mknod -m 666 ${dev_path}/tty2 c 4 2
 362     mknod -m 666 ${dev_path}/tty3 c 4 3
 363     mknod -m 666 ${dev_path}/tty4 c 4 4
 364     mknod -m 600 ${dev_path}/console c 5 1
 365     mknod -m 666 ${dev_path}/full c 1 7
 366     mknod -m 600 ${dev_path}/initctl p
 367     mknod -m 666 ${dev_path}/ptmx c 5 2
 368
 369     if [ "$(echo $fcdistro | cut -d"f" -f2)" -le "14" ]; then
 370         fedora_configure_init
 371     else
 372         fedora_configure_systemd
 373     fi
 374
 375     guest_ifcfg=${lxc_root}/etc/sysconfig/network-scripts/ifcfg-$VIF_GUEST
 376     ( [ -n "$BUILD_MODE" ] && write_guest_ifcfg_build || write_guest_ifcfg_test ) > $guest_ifcfg
 377
 378     fedora_configure_yum $lxc $fcdistro $pldistro
 379
 380     return 0
 381 }
 382
 383 function fedora_configure_init() {
 384     set -e
 385     set -x
 386     sed -i 's|.sbin.start_udev||' ${lxc_root}/etc/rc.sysinit
 387     sed -i 's|.sbin.start_udev||' ${lxc_root}/etc/rc.d/rc.sysinit
 388     # don't mount devpts, for pete's sake
 389     sed -i 's/^.*dev.pts.*$/#\0/' ${lxc_root}/etc/rc.sysinit
 390     sed -i 's/^.*dev.pts.*$/#\0/' ${lxc_root}/etc/rc.d/rc.sysinit
 391     chroot ${lxc_root} chkconfig udev-post off
 392     chroot ${lxc_root} chkconfig network on
 393 }
 394
 395 # this code of course is for guests that do run on systemd
 396 function fedora_configure_systemd() {
 397     set -e
 398     set -x
 399     # so ignore if we can't find /etc/systemd at all
 400     [ -d ${lxc_root}/etc/systemd ] || return 0
 401     # otherwise let's proceed
 402     ln -sf /lib/systemd/system/multi-user.target ${lxc_root}/etc/systemd/system/default.target
 403     touch ${lxc_root}/etc/fstab
 404     ln -sf /dev/null ${lxc_root}/etc/systemd/system/udev.service
 405 # Thierry - Feb 2013
 406 # this was intended for f16 initially, in order to enable getty that otherwise would not start
 407 # having a getty running is helpful only if ssh won't start though, and we see a correlation between
 408 # VM's that refuse to lxc-stop and VM's that run crazy getty's
 409 # so, turning getty off for now instead
 410 #   #dependency on a device unit fails it specially that we disabled udev
 411 #    sed -i 's/After=dev-%i.device/After=/' ${lxc_root}/lib/systemd/system/getty\@.service
 412     ln -sf /dev/null ${lxc_root}/etc/systemd/system/"getty@.service"
 413     rm -f ${lxc_root}/etc/systemd/system/getty.target.wants/*service || :
 414 # can't seem to handle this one with systemctl
 415     chroot ${lxc_root} chkconfig network on
 416 }
 417
 418 # overwrite container yum config
 419 function fedora_configure_yum () {
 420     set -x
 421     set -e
 422     trap failure ERR INT
 423
 424     lxc=$1; shift
 425     fcdistro=$1; shift
 426     pldistro=$1; shift
 427
 428     # rpm --rebuilddb
 429     chroot $lxc_root rpm --rebuilddb
 430
 431     echo "Initializing yum.repos.d in $lxc"
 432     rm -f $lxc_root/etc/yum.repos.d/*
 433
 434     cat > $lxc_root/etc/yum.repos.d/building.repo <<EOF
 435 [fedora]
 436 name=Fedora $release - $arch
 437 baseurl=http://mirror.onelab.eu/fedora/releases/$release/Everything/$arch/os/
 438 enabled=1
 439 metadata_expire=7d
 440 gpgcheck=1
 441 gpgkey=http://mirror.onelab.eu/keys/RPM-GPG-KEY-fedora-$release-primary
 442
 443 [updates]
 444 name=Fedora $release - $arch - Updates
 445 baseurl=http://mirror.onelab.eu/fedora/updates/$release/$arch/
 446 enabled=1
 447 metadata_expire=7d
 448 gpgcheck=1
 449 gpgkey=http://mirror.onelab.eu/keys/RPM-GPG-KEY-fedora-$release-primary
 450 EOF
 451
 452     # for using vtest-init-lxc.sh as a general-purpose lxc creation wrapper
 453     # just mention 'none' as the repo url
 454     if [ -n "$REPO_URL" ] ; then
 455         if [ ! -d $lxc_root/etc/yum.repos.d ] ; then
 456             echo "WARNING : cannot create myplc repo"
 457         else
 458             # exclude kernel from fedora repos
 459             yumexclude=$(pl_plcyumexclude $fcdistro $pldistro $DIRNAME)
 460             for repo in $lxc_root/etc/yum.repos.d/* ; do
 461                 [ -f $repo ] && yumconf_exclude $repo "exclude=$yumexclude"
 462             done
 463             # the build repo is not signed at this stage
 464             cat > $lxc_root/etc/yum.repos.d/myplc.repo <<EOF
 465 [myplc]
 466 name= MyPLC
 467 baseurl=$REPO_URL
 468 enabled=1
 469 gpgcheck=0
 470 EOF
 471         fi
 472     fi
 473 }
 474
 475 ##############################
 476 # need to specify the right mirror for debian variants like ubuntu and the like
 477 function debian_mirror () {
 478     fcdistro=$1; shift
 479     case $fcdistro in
 480         squeeze|wheezy|jessie)
 481             echo http://ftp2.fr.debian.org/debian/ ;;
 482         oneiric|precise|quantal|raring|saucy)
 483             echo http://mir1.ovh.net/ubuntu/ubuntu/ ;;
 484         *) echo unknown distro $fcdistro; exit 1;;
 485     esac
 486 }
 487
 488 function debian_install () {
 489     set -e
 490     set -x
 491     lxc=$1; shift
 492     mkdir -p $lxc_root
 493     arch=$(canonical_arch $personality $fcdistro)
 494     mirror=$(debian_mirror $fcdistro)
 495     debootstrap --arch $arch $fcdistro $lxc_root $mirror
 496     # just like with fedora we ensure a few packages get installed as well
 497     # not started yet
 498     #virsh -c lxc:/// lxc-enter-namespace $lxc /bin/bash -c "apt-get update"
 499     #virsh -c lxc:/// lxc-enter-namespace $lxc /bin/bash -c "apt-get -y install $DEBIAN_PREINSTALLED"
 500     chroot $lxc_root apt-get update
 501     chroot $lxc_root apt-get -y install $DEBIAN_PREINSTALLED
 502     # configure hostname
 503     cat <<EOF > ${lxc_root}/etc/hostname
 504 $GUEST_HOSTNAME
 505 EOF
 506
 507 }
 508
 509 function debian_configure () {
 510     guest_interfaces=${lxc_root}/etc/network/interfaces
 511     ( [ -n "$BUILD_MODE" ] && write_guest_interfaces_build || write_guest_interfaces_test ) > $guest_interfaces
 512 }
 513
 514 function write_guest_interfaces_build () {
 515     cat <<EOF
 516 auto $VIF_GUEST
 517 iface $VIF_GUEST inet dhcp
 518 EOF
 519 }
 520
 521 function write_guest_interfaces_test () {
 522     cat <<EOF
 523 auto $VIF_GUEST
 524 iface $VIF_GUEST inet static
 525 address $GUEST_IP
 526 netmask $NETMASK
 527 gateway $GATEWAY
 528 EOF
 529 }
 530 ##############################
 531 function setup_lxc() {
 532
 533     set -x
 534     set -e
 535     #trap failure ERR INT
 536
 537     lxc=$1; shift
 538     fcdistro=$1; shift
 539     pldistro=$1; shift
 540     personality=$1; shift
 541
 542     # create lxc container
 543
 544     pkg_method=$(package_method $fcdistro)
 545     case $pkg_method in
 546         yum)
 547             fedora_install || { echo "failed to install fedora root image"; exit 1 ; }
 548             fedora_configure || { echo "failed to configure fedora for a container"; exit 1 ; }
 549             ;;
 550         debootstrap)
 551             debian_install $lxc || { echo "failed to install debian/ubuntu root image"; exit 1 ; }
 552             debian_configure || { echo "failed to configure debian/ubuntu for a container"; exit 1 ; }
 553             ;;
 554         *)
 555             echo "$COMMAND:: unknown package_method - exiting"
 556             exit 1
 557             ;;
 558     esac
 559
 560     # Enable cgroup -- xxx -- is this really useful ?
 561     mkdir $lxc_root/cgroup
 562
 563     # set up resolv.conf
 564     cp /etc/resolv.conf $lxc_root/etc/resolv.conf
 565     # and /etc/hosts for at least localhost
 566     [ -f $lxc_root/etc/hosts ] || echo "127.0.0.1 localhost localhost.localdomain" > $lxc_root/etc/hosts
 567
 568     # grant ssh access from host to guest
 569     mkdir $lxc_root/root/.ssh
 570     cat /root/.ssh/id_rsa.pub >> $lxc_root/root/.ssh/authorized_keys
 571     chmod 700 $lxc_root/root/.ssh
 572     chmod 600 $lxc_root/root/.ssh/authorized_keys
 573
 574     # don't keep the input xml, this can be retrieved at all times with virsh dumpxml
 575     config_xml=/tmp/$lxc.xml
 576     ( [ -n "$BUILD_MODE" ] && write_lxc_xml_build $lxc || write_lxc_xml_test $lxc ) > $config_xml
 577
 578     # define lxc container for libvirt
 579     virsh -c lxc:/// define $config_xml
 580
 581     return 0
 582 }
 583
 584 function write_lxc_xml_test () {
 585     lxc=$1; shift
 586     cat <<EOF
 587 <domain type='lxc'>
 588   <name>$lxc</name>
 589   <memory>524288</memory>
 590   <os>
 591     <type arch='$arch2'>exe</type>
 592     <init>/sbin/init</init>
 593   </os>
 594   <features>
 595     <acpi/>
 596   </features>
 597   <vcpu>1</vcpu>
 598   <clock offset='utc'/>
 599   <on_poweroff>destroy</on_poweroff>
 600   <on_reboot>restart</on_reboot>
 601   <on_crash>destroy</on_crash>
 602   <devices>
 603     <emulator>/usr/libexec/libvirt_lxc</emulator>
 604     <filesystem type='mount'>
 605       <source dir='$lxc_root'/>
 606       <target dir='/'/>
 607     </filesystem>
 608     <interface type="bridge">
 609       <source bridge="$PUBLIC_BRIDGE"/>
 610       <target dev='$VIF_HOST'/>
 611     </interface>
 612     <console type='pty' />
 613   </devices>
 614   <network>
 615     <name>host-bridge</name>
 616     <forward mode="bridge"/>
 617     <bridge name="$PUBLIC_BRIDGE"/>
 618   </network>
 619 </domain>
 620 EOF
 621 }
 622
 623 function write_lxc_xml_build () {
 624     lxc=$1; shift
 625     cat <<EOF
 626 <domain type='lxc'>
 627   <name>$lxc</name>
 628   <memory>524288</memory>
 629   <os>
 630     <type arch='$arch2'>exe</type>
 631     <init>/sbin/init</init>
 632   </os>
 633   <features>
 634     <acpi/>
 635   </features>
 636   <vcpu>1</vcpu>
 637   <clock offset='utc'/>
 638   <on_poweroff>destroy</on_poweroff>
 639   <on_reboot>restart</on_reboot>
 640   <on_crash>destroy</on_crash>
 641   <devices>
 642     <emulator>/usr/libexec/libvirt_lxc</emulator>
 643     <filesystem type='mount'>
 644       <source dir='$lxc_root'/>
 645       <target dir='/'/>
 646     </filesystem>
 647     <interface type="network">
 648       <source network="default"/>
 649     </interface>
 650     <console type='pty' />
 651   </devices>
 652 </domain>
 653 EOF
 654 }
 655
 656 # this one is dhcp-based
 657 function write_guest_ifcfg_build () {
 658     cat <<EOF
 659 DEVICE=$VIF_GUEST
 660 BOOTPROTO=dhcp
 661 ONBOOT=yes
 662 NM_CONTROLLED=no
 663 TYPE=Ethernet
 664 MTU=1500
 665 EOF
 666 }
 667
 668 # use fixed GUEST_IP as specified by GUEST_HOSTNAME
 669 function write_guest_ifcfg_test () {
 670     cat <<EOF
 671 DEVICE=$VIF_GUEST
 672 BOOTPROTO=static
 673 ONBOOT=yes
 674 HOSTNAME=$GUEST_HOSTNAME
 675 IPADDR=$GUEST_IP
 676 NETMASK=$NETMASK
 677 GATEWAY=$GATEWAY
 678 NM_CONTROLLED=no
 679 TYPE=Ethernet
 680 MTU=1500
 681 EOF
 682 }
 683
 684 function devel_or_vtest_tools () {
 685
 686     set -x
 687     set -e
 688     trap failure ERR INT
 689
 690     lxc=$1; shift
 691     fcdistro=$1; shift
 692     pldistro=$1; shift
 693     personality=$1; shift
 694
 695     pkg_method=$(package_method $fcdistro)
 696
 697     pkgsfile=$(pl_locateDistroFile $DIRNAME $pldistro $PREINSTALLED)
 698
 699     ### install individual packages, then groups
 700     # get target arch - use uname -i here (we want either x86_64 or i386)
 701
 702     lxc_arch=$(chroot $lxc_root uname -i)
 703     # on debian systems we get arch through the 'arch' command
 704     [ "$lxc_arch" = "unknown" ] && lxc_arch=$(chroot $lxc_root arch)
 705
 706     packages=$(pl_getPackages -a $lxc_arch $fcdistro $pldistro $pkgsfile)
 707     groups=$(pl_getGroups -a $lxc_arch $fcdistro $pldistro $pkgsfile)
 708
 709     case "$pkg_method" in
 710         yum)
 711             [ -n "$packages" ] && chroot $lxc_root yum -y install $packages
 712             for group_plus in $groups; do
 713                 group=$(echo $group_plus | sed -e "s,+++, ,g")
 714                 chroot $lxc_root yum -y groupinstall "$group"
 715             done
 716             # store current rpm list in /init-lxc.rpms in case we need to check the contents
 717             chroot $lxc_root rpm -aq > $lxc_root/init-lxc.rpms
 718             ;;
 719         debootstrap)
 720             # for ubuntu
 721             if grep -iq ubuntu /vservers/$lxc/etc/lsb-release 2> /dev/null; then
 722                 # on ubuntu, at this point we end up with a single feed in /etc/apt/sources.list
 723                 # we need at least to add the 'universe' feed for python-rpm
 724                 ( cd /vservers/$lxc/etc/apt ; head -1 sources.list | sed -e s,main,universe, > sources.list.d/universe.list )
 725                 # also adding a link to updates sounds about right
 726                 ( cd /vservers/$lxc/etc/apt ; head -1 sources.list | sed -e 's, main,-updates main,' > sources.list.d/updates.list )
 727                 # tell apt about the changes
 728                 chroot /vservers/$lxc apt-get update
 729             fi
 730             for package in $packages ; do
 731                 # container not started yet
 732                 #virsh -c lxc:/// lxc-enter-namespace $lxc /bin/bash -c "apt-get install -y $package" || :
 733                 chroot $lxc_root apt-get install -y $package || :
 734             done
 735             ### xxx todo install groups with apt..
 736             ;;
 737         *)
 738             echo "unknown pkg_method $pkg_method"
 739             ;;
 740     esac
 741
 742     return 0
 743 }
 744
 745 function post_install () {
 746     lxc=$1; shift
 747     personality=$1; shift
 748     if [ -n "$BUILD_MODE" ] ; then
 749         post_install_build $lxc $personality
 750         virsh -c lxc:/// start $lxc
 751         # manually run dhclient in guest - somehow this network won't start on its own
 752         virsh -c lxc:/// lxc-enter-namespace $lxc /bin/bash -c "dhclient $VIF_GUEST"
 753     else
 754         post_install_myplc $lxc $personality
 755         virsh -c lxc:/// start $lxc
 756 # it sounds like we don't need ssh per se any more
 757 # it still makes sense to wait for network readiness though
 758 # some day maybe...
 759         wait_for_ssh $lxc
 760     fi
 761     # setup localtime from the host
 762     cp /etc/localtime $lxc_root/etc/localtime
 763 }
 764
 765 function post_install_build () {
 766
 767     set -x
 768     set -e
 769     trap failure ERR INT
 770
 771     lxc=$1; shift
 772     personality=$1; shift
 773
 774 ### From myplc-devel-native.spec
 775 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 776     cat << EOF | chroot $lxc_root bash -x
 777
 778     # customize root's prompt
 779     /bin/cat << PROFILE > /root/.profile
 780 export PS1="[$lxc] \\w # "
 781 PROFILE
 782
 783 EOF
 784
 785 }
 786
 787 function post_install_myplc  () {
 788     set -x
 789     set -e
 790     trap failure ERR INT
 791
 792     lxc=$1; shift
 793     personality=$1; shift
 794
 795 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 796     cat << EOF | chroot $lxc_root bash -x
 797
 798     # create /etc/sysconfig/network if missing
 799     [ -f /etc/sysconfig/network ] || /bin/echo NETWORKING=yes > /etc/sysconfig/network
 800
 801     # turn off regular crond, as plc invokes plc_crond
 802     /sbin/chkconfig crond off
 803
 804     # customize root's prompt
 805     /bin/cat << PROFILE > /root/.profile
 806 export PS1="[$lxc] \\w # "
 807 PROFILE
 808
 809 EOF
 810 }
 811
 812 function wait_for_ssh () {
 813     set -x
 814     set -e
 815     #trap failure ERR INT
 816
 817     lxc=$1; shift
 818
 819     echo network in guest is up, waiting for ssh...
 820
 821     #wait max 2 min for sshd to start
 822     ssh_up=""
 823     current_time=$(date +%s)
 824     stop_time=$(($current_time + 120))
 825
 826     counter=1
 827     while [ "$current_time" -lt "$stop_time" ] ; do
 828          echo "$counter-th attempt to reach sshd in container $lxc ..."
 829          ssh -o "StrictHostKeyChecking no" $GUEST_IP 'uname -i' && { ssh_up=true; echo "SSHD in container $lxc is UP"; break ; } || :
 830          sleep 10
 831          current_time=$(($current_time + 10))
 832          counter=$(($counter+1))
 833     done
 834
 835     # Thierry: this is fatal, let's just exit with a failure here
 836     [ -z $ssh_up ] && { echo "SSHD in container $lxc is not running" ; exit 1 ; }
 837     return 0
 838 }
 839
 840 ####################
 841 function failure () {
 842     echo "$COMMAND : Bailing out"
 843     exit 1
 844 }
 845
 846 function usage () {
 847     set +x
 848     echo "Usage: $COMMAND [options] lxc-name             (aka build mode)"
 849     echo "Usage: $COMMAND -n hostname [options] lxc-name (aka test mode)"
 850     echo "Description:"
 851     echo "    This command creates a fresh lxc instance, for building, or running a test myplc"
 852     echo "In its first form, spawned VM gets a private IP bridged with virbr0 over dhcp/nat"
 853     echo "With the second form, spawned VM gets a public IP bridged on public bridge br0"
 854     echo ""
 855     echo "Supported options"
 856     echo " -n hostname - the hostname to use in container"
 857     echo " -f fcdistro - for creating the root filesystem - defaults to $DEFAULT_FCDISTRO"
 858     echo " -d pldistro - defaults to $DEFAULT_PLDISTRO - current support for fedoras debians ubuntus"
 859     echo " -p personality - defaults to $DEFAULT_PERSONALITY"
 860     echo " -r repo-url - used to populate yum.repos.d - required in test mode"
 861     echo " -P pkgs_file - defines a set of extra packages to install in guest"
 862     echo "    by default we use devel.pkgs (build mode) or runtime.pkgs (test mode)"
 863     echo " -v be verbose"
 864     exit 1
 865 }
 866
 867 ### parse args and
 868 function main () {
 869
 870     #set -e
 871     #trap failure ERR INT
 872
 873     if [ "$(id -u)" != "0" ]; then
 874           echo "This script should be run as 'root'"
 875           exit 1
 876     fi
 877
 878     while getopts "n:f:d:p:r:P:v" opt ; do
 879         case $opt in
 880             n) GUEST_HOSTNAME=$OPTARG;;
 881             f) fcdistro=$OPTARG;;
 882             d) pldistro=$OPTARG;;
 883             p) personality=$OPTARG;;
 884             r) REPO_URL=$OPTARG;;
 885             P) PREINSTALLED=$OPTARG;;
 886             v) VERBOSE=true; set -x;;
 887             *) usage ;;
 888         esac
 889     done
 890
 891     shift $(($OPTIND - 1))
 892
 893     # parse fixed arguments
 894     [[ -z "$@" ]] && usage
 895     lxc=$1 ; shift
 896     lxc_root=/vservers/$lxc
 897     # rainchecks
 898     almost_empty $lxc_root || \
 899         { echo "container $lxc already exists in $lxc_root - exiting" ; exit 1 ; }
 900     virsh -c lxc:/// domuuid $lxc >& /dev/null && \
 901         { echo "container $lxc already exists in libvirt - exiting" ; exit 1 ; }
 902     mkdir -p $lxc_root
 903
 904     # check we've exhausted the arguments
 905     [[ -n "$@" ]] && usage
 906
 907     # BUILD_MODE is true unless we specified a hostname
 908     [ -n "$GUEST_HOSTNAME" ] || BUILD_MODE=true
 909
 910     # set default values
 911     [ -z "$fcdistro" ] && fcdistro=$DEFAULT_FCDISTRO
 912     [ -z "$pldistro" ] && pldistro=$DEFAULT_PLDISTRO
 913     [ -z "$personality" ] && personality=$DEFAULT_PERSONALITY
 914
 915     # the set of preinstalled packages - depends on mode
 916     if [ -z "$PREINSTALLED"] ; then
 917         if [ -n "$BUILD_MODE" ] ; then
 918             PREINSTALLED=devel.pkgs
 919         else
 920             PREINSTALLED=runtime.pkgs
 921         fi
 922     fi
 923
 924     if [ -n "$BUILD_MODE" ] ; then
 925         # we can now set GUEST_HOSTNAME safely
 926         [ -z "$GUEST_HOSTNAME" ] && GUEST_HOSTNAME=$(echo $lxc | sed -e 's,\.,-,g')
 927     else
 928         # as this command can be used in other contexts, not specifying
 929         # a repo is considered a warning
 930         # use -r none to get rid of this warning
 931         if [ "$REPO_URL" == "none" ] ; then
 932             REPO_URL=""
 933         elif [ -z "$REPO_URL" ] ; then
 934             echo "WARNING -- setting up a yum repo is recommended"
 935         fi
 936     fi
 937
 938     ##########
 939     release=$(echo $fcdistro | cut -df -f2)
 940
 941     if [ "$personality" == "linux32" ]; then
 942         arch=i386
 943         arch2=i686
 944     elif [ "$personality" == "linux64" ]; then
 945         arch=x86_64
 946         arch2=x86_64
 947     else
 948         echo "Unknown personality: $personality"
 949     fi
 950
 951     # compute networking details for the test mode
 952     # (build mode relies entirely on dhcp on the private subnet)
 953     if [ -z "$BUILD_MODE" ] ; then
 954
 955         create_bridge_if_needed
 956
 957         GUEST_IP=$(gethostbyname $GUEST_HOSTNAME)
 958         # use same NETMASK as bridge interface br0
 959         MASKLEN=$(ip addr show $PUBLIC_BRIDGE | grep -v inet6 | grep inet | awk '{print $2;}' | cut -d/ -f2)
 960         NETMASK=$(masklen_to_netmask $MASKLEN)
 961         GATEWAY=$(ip route show | grep default | awk '{print $3}' | head -1)
 962         VIF_HOST="i$(echo $GUEST_HOSTNAME | cut -d. -f1)"
 963     fi
 964
 965     setup_lxc $lxc $fcdistro $pldistro $personality
 966
 967     devel_or_vtest_tools $lxc $fcdistro $pldistro $personality
 968
 969     # container gets started here
 970     post_install $lxc $personality
 971
 972     echo $COMMAND Done
 973 }
 974
 975 main "$@"