try to fix initvm
[build.git] / lbuild-initvm.sh
1 #!/bin/bash
2 # -*-shell-*-
3
4 # close stdin, as with ubuntu and debian VMs this script tends to hang and wait for input ..
5 0<&-
6
7 #shopt -s huponexit
8
9 COMMAND=$(basename $0)
10 DIRNAME=$(dirname $0)
11 BUILD_DIR=$(pwd)
12
13 # pkgs parsing utilities
14 export PATH=$(dirname $0):$PATH
15
16 # old guests have e.g. mount in /bin but this is no longer part of 
17 # the standard PATH in recent hosts after usrmove, so let's keep it simple
18 export PATH=$PATH:/bin:/sbin
19
20 . build.common
21
22 DEFAULT_FCDISTRO=f20
23 DEFAULT_PLDISTRO=lxc
24 DEFAULT_PERSONALITY=linux64
25
26 ##########
27 # constant
28 PUBLIC_BRIDGE=br0
29
30 # the network interface name as seen from the container
31 VIF_GUEST=eth0
32
33 ##########
34 FEDORA_PREINSTALLED="yum initscripts passwd rsyslog vim-minimal dhclient chkconfig rootfiles policycoreutils openssh-server openssh-clients"
35 DEBIAN_PREINSTALLED="openssh-server openssh-client"
36
37 ##############################
38 ## stolen from tests/system/template-qemu/qemu-bridge-init
39 # use /proc/net/dev instead of a hard-wired list
40 function gather_interfaces () {
41     python <<EOF
42 for line in file("/proc/net/dev"):
43     if ':' not in line: continue
44     ifname=line.replace(" ","").split(":")[0]
45     if ifname.find("lo")==0: continue
46     if ifname.find("br")==0: continue
47     if ifname.find("virbr")==0: continue
48     if ifname.find("veth")==0: continue
49     if ifname.find("tap")==0: continue
50     print ifname
51 EOF
52 }
53
54 function discover_interface () {
55     for ifname in $(gather_interfaces); do
56         ip link show $ifname | grep -qi 'state UP' && { echo $ifname; return; }
57     done
58     # still not found ? that's bad
59     echo unknown
60 }
61
62 ########## networking -- ctd
63 function gethostbyname () {
64     hostname=$1
65     python -c "import socket; print socket.gethostbyname('"$hostname"')" 2> /dev/null
66 }
67
68 # e.g. 21 -> 255.255.248.0
69 function masklen_to_netmask () {
70     masklen=$1; shift
71     python <<EOF
72 import sys
73 masklen=$masklen
74 if not (masklen>=1 and masklen<=32): 
75   print "Wrong masklen",masklen
76   exit(1)
77 result=[]
78 for i in range(4):
79     if masklen>=8:
80        result.append(8)
81        masklen-=8
82     else:
83        result.append(masklen)
84        masklen=0
85 print ".".join([ str(256-2**(8-i)) for i in result ])
86   
87 EOF
88 }
89
90 #################### bridge initialization
91 function create_bridge_if_needed() {
92    
93     # turn on verbosity
94     set -x
95
96     # already created ? - we're done
97     ip addr show $PUBLIC_BRIDGE >& /dev/null && {
98         echo "Bridge already set up - skipping create_bridge_if_needed"
99         return 0
100     }
101
102     # find out the physical interface to bridge onto
103     if_lan=$(discover_interface)
104
105     ip addr show $if_lan &>/dev/null || {
106         echo "Cannot use interface $if_lan - exiting"
107         exit 1
108     }
109
110     #################### bride initialization
111     check_yum_installed bridge-utils
112
113     echo "========== $COMMAND: entering create_bridge - beg"
114     hostname
115     uname -a
116     ip addr show
117     ip route
118     echo "========== $COMMAND: entering create_bridge - end"
119
120     # disable netfilter calls for bridge interface (they cause panick on 2.6.35 anyway)
121     #
122     # another option would be to accept the all forward packages for
123     # bridged interface like: -A FORWARD -m physdev --physdev-is-bridged -j ACCEPT
124     sysctl net.bridge.bridge-nf-call-iptables=0
125     sysctl net.bridge.bridge-nf-call-ip6tables=0
126     sysctl net.bridge.bridge-nf-call-arptables=0
127
128     
129     #Getting host IP/masklen
130     address=$(ip addr show $if_lan | grep -v inet6 | grep inet | head --lines=1 | awk '{print $2;}')
131     [ -z "$address" ] && { echo "ERROR: Could not determine IP address for $if_lan" ; exit 1 ; }
132
133     broadcast=$(ip addr show $if_lan | grep -v inet6 | grep inet | head --lines=1 | awk '{print $4;}')
134     [ -z "$broadcast" ] && echo "WARNING: Could not determine broadcast address for $if_lan"
135
136     gateway=$(ip route show | grep default | awk '{print $3;}')
137     [ -z "$gateway" ] && echo "WARNING: Could not determine gateway IP"
138
139
140     # creating the bridge
141     echo "Creating bridge PUBLIC_BRIDGE=$PUBLIC_BRIDGE"
142     brctl addbr $PUBLIC_BRIDGE
143     brctl addif $PUBLIC_BRIDGE $if_lan
144     echo "Activating promiscuous mode if_lan=$if_lan"
145     ip link set $if_lan up promisc on
146     sleep 2
147     # rely on dhcp to re assign IP.. 
148     echo "Starting dhclient on $PUBLIC_BRIDGE"
149     dhclient $PUBLIC_BRIDGE
150     sleep 1
151
152     #Reconfigure the routing table
153     echo "Configuring gateway=$gateway"
154     ip route add default via $gateway dev $PUBLIC_BRIDGE
155     ip route del default via $gateway dev $if_lan
156     # at this point we have an extra route like e.g.
157     ## ip route show
158     #default via 138.96.112.250 dev br0
159     #138.96.112.0/21 dev em1  proto kernel  scope link  src 138.96.112.57
160     #138.96.112.0/21 dev br0  proto kernel  scope link  src 138.96.112.57
161     #192.168.122.0/24 dev virbr0  proto kernel  scope link  src 192.168.122.1
162     route_dest=$(ip route show | grep -v default | grep "dev $PUBLIC_BRIDGE" | awk '{print $1;}')
163     ip route del $route_dest dev $if_lan
164
165     echo "========== $COMMAND: exiting create_bridge - beg"
166     ip addr show
167     ip route show
168     echo "========== $COMMAND: exiting create_bridge - end"
169
170     # for safety
171     sleep 3
172     return 0
173
174 }
175
176 ##############################
177 # return yum or debootstrap
178 function package_method () {
179     fcdistro=$1; shift
180     case $fcdistro in
181         f[0-9]*|centos[0-9]*|sl[0-9]*) echo yum ;;
182         squeeze|wheezy|jessie|oneiric|precise|quantal|raring|saucy) echo debootstrap ;;
183         *) echo Unknown distro $fcdistro ;;
184     esac 
185 }
186
187 # return arch from debian distro and personality
188 function canonical_arch () {
189     personality=$1; shift
190     fcdistro=$1; shift
191     case $(package_method $fcdistro) in
192         yum)
193             case $personality in *32) echo i386 ;; *64) echo x86_64 ;; *) echo Unknown-arch-1 ;; esac ;;
194         debootstrap)
195             case $personality in *32) echo i386 ;; *64) echo amd64 ;; *) echo Unknown-arch-2 ;; esac ;;
196         *)
197             echo Unknown-arch-3 ;;
198     esac
199 }
200
201 # the new test framework creates /timestamp in /vservers/<name> *before* populating it
202 function almost_empty () { 
203     dir="$1"; shift ; 
204     # non existing is fine
205     [ ! -d $dir ] && return 0; 
206     # need to have at most one file
207     count=$(cd $dir; ls | wc -l); [ $count -le 1 ]; 
208 }
209
210 ##############################
211 function check_yum_installed () {
212     package=$1; shift
213     rpm -q $package >& /dev/null || yum -y install $package
214 }
215
216 function check_yumgroup_installed () {
217     group="$1"; shift
218     yum grouplist "$group" | grep -q Installed || { yum -y groupinstall "$group" ; }
219 }
220
221 ##############################
222 function fedora_install() {
223     set -x
224     set -e
225
226     cache=/var/cache/lxc/fedora/$arch/$release
227     
228     mkdir -p /var/lock/subsys/
229     (
230         flock -n -x 200 || { echo "Cache repository is busy." ; return 1 ; }
231
232         if [ ! -e "$cache/rootfs" ]; then
233             echo "Getting cache download in $cache/rootfs ... "
234             fedora_download || { echo "Failed to download 'fedora base'"; return 1; }
235         else
236             echo "Updating cache $cache/rootfs ..."
237             if ! yum --installroot $cache/rootfs -y --nogpgcheck update ; then
238                 echo "Failed to update 'fedora base', continuing with last known good cache"
239             else
240                 echo "Update finished"
241             fi
242         fi
243
244         echo "Copy $cache/rootfs to $lxc_root ... "
245         rsync -a $cache/rootfs/ $lxc_root/
246         
247         return 0
248
249         ) 200>/var/lock/subsys/lxc
250
251     return $?
252 }
253
254 function fedora_download() {
255     set -x
256     # check the mini fedora was not already downloaded
257     INSTALL_ROOT=$cache/partial
258     echo $INSTALL_ROOT
259
260     # download a mini fedora into a cache
261     echo "Downloading fedora minimal ..."
262
263     mkdir -p $INSTALL_ROOT || { echo "Failed to create '$INSTALL_ROOT' directory" ; return 1; }
264
265     mkdir -p $INSTALL_ROOT/etc/yum.repos.d   
266     mkdir -p $INSTALL_ROOT/dev
267     mknod -m 0444 $INSTALL_ROOT/dev/random c 1 8
268     mknod -m 0444 $INSTALL_ROOT/dev/urandom c 1 9
269
270     # copy yum config and repo files
271     cp /etc/yum.conf $INSTALL_ROOT/etc/
272     cp /etc/yum.repos.d/fedora* $INSTALL_ROOT/etc/yum.repos.d/
273
274     # append fedora repo files with desired $release and $basearch
275     for f in $INSTALL_ROOT/etc/yum.repos.d/* ; do
276       sed -i "s/\$basearch/$arch/g; s/\$releasever/$release/g;" $f
277     done 
278
279     MIRROR_URL=http://mirror.onelab.eu/fedora/releases/$release/Everything/$arch/os
280     RELEASE_URL1="$MIRROR_URL/Packages/fedora-release-$release-1.noarch.rpm"
281     # with fedora18 the rpms are scattered by first name
282     RELEASE_URL2="$MIRROR_URL/Packages/f/fedora-release-$release-1.noarch.rpm"
283     RELEASE_TARGET=$INSTALL_ROOT/fedora-release-$release.noarch.rpm
284     found=""
285     for attempt in $RELEASE_URL1 $RELEASE_URL2; do
286         if curl -f $attempt -o $RELEASE_TARGET ; then
287             echo "Retrieved $attempt"
288             found=true
289             break
290         else
291             echo "Failed attempt $attempt"
292         fi
293     done
294     [ -n "$found" ] || { echo "Could not retrieve fedora-release rpm - exiting" ; exit 1; }
295     
296     mkdir -p $INSTALL_ROOT/var/lib/rpm
297     rpm --root $INSTALL_ROOT  --initdb
298     # when installing f12 this apparently is already present, so ignore result
299     rpm --root $INSTALL_ROOT -ivh $INSTALL_ROOT/fedora-release-$release.noarch.rpm || :
300     # however f12 root images won't get created on a f18 host
301     # (the issue here is the same as the one we ran into when dealing with a vs-box)
302     # in a nutshell, in f12 the glibc-common and filesystem rpms have an apparent conflict
303     # >>> file /usr/lib/locale from install of glibc-common-2.11.2-3.x86_64 conflicts 
304     #          with file from package filesystem-2.4.30-2.fc12.x86_64
305     # in fact this was - of course - allowed by f12's rpm but later on a fix was made 
306     #   http://rpm.org/gitweb?p=rpm.git;a=commitdiff;h=cf1095648194104a81a58abead05974a5bfa3b9a
307     # So ideally if we want to be able to build f12 images from f18 we need an rpm that has
308     # this patch undone, like we have in place on our f14 boxes (our f14 boxes need a f18-like rpm)
309
310     YUM="yum --installroot=$INSTALL_ROOT --nogpgcheck -y"
311     echo "$YUM install $FEDORA_PREINSTALLED"
312     $YUM install $FEDORA_PREINSTALLED || { echo "Failed to download rootfs, aborting." ; return 1; }
313
314     mv "$INSTALL_ROOT" "$cache/rootfs"
315     echo "Download complete."
316
317     return 0
318 }
319
320 ##############################
321 function fedora_configure() {
322
323     set -x
324     set -e
325
326     # disable selinux in fedora
327     mkdir -p $lxc_root/selinux
328     echo 0 > $lxc_root/selinux/enforce
329
330     # set the hostname
331     case "$fcdistro" in 
332         f18|f2?)
333             cat <<EOF > ${lxc_root}/etc/hostname
334 $GUEST_HOSTNAME
335 EOF
336             echo ;;
337         *)
338             cat <<EOF > ${lxc_root}/etc/sysconfig/network
339 NETWORKING=yes
340 HOSTNAME=$GUEST_HOSTNAME
341 EOF
342             # set minimal hosts
343             cat <<EOF > $lxc_root/etc/hosts
344 127.0.0.1 localhost $GUEST_HOSTNAME
345 EOF
346             echo ;;
347     esac
348
349     dev_path="${lxc_root}/dev"
350     rm -rf $dev_path
351     mkdir -p $dev_path
352     mknod -m 666 ${dev_path}/null c 1 3
353     mknod -m 666 ${dev_path}/zero c 1 5
354     mknod -m 666 ${dev_path}/random c 1 8
355     mknod -m 666 ${dev_path}/urandom c 1 9
356     mkdir -m 755 ${dev_path}/pts
357     mkdir -m 1777 ${dev_path}/shm
358     mknod -m 666 ${dev_path}/tty c 5 0
359     mknod -m 666 ${dev_path}/tty0 c 4 0
360     mknod -m 666 ${dev_path}/tty1 c 4 1
361     mknod -m 666 ${dev_path}/tty2 c 4 2
362     mknod -m 666 ${dev_path}/tty3 c 4 3
363     mknod -m 666 ${dev_path}/tty4 c 4 4
364     mknod -m 600 ${dev_path}/console c 5 1
365     mknod -m 666 ${dev_path}/full c 1 7
366     mknod -m 600 ${dev_path}/initctl p
367     mknod -m 666 ${dev_path}/ptmx c 5 2
368
369     if [ "$(echo $fcdistro | cut -d"f" -f2)" -le "14" ]; then
370         fedora_configure_init
371     else
372         fedora_configure_systemd
373     fi
374
375     guest_ifcfg=${lxc_root}/etc/sysconfig/network-scripts/ifcfg-$VIF_GUEST
376     ( [ -n "$BUILD_MODE" ] && write_guest_ifcfg_build || write_guest_ifcfg_test ) > $guest_ifcfg
377
378     fedora_configure_yum $lxc $fcdistro $pldistro
379
380     return 0
381 }
382
383 function fedora_configure_init() {
384     set -e
385     set -x
386     sed -i 's|.sbin.start_udev||' ${lxc_root}/etc/rc.sysinit
387     sed -i 's|.sbin.start_udev||' ${lxc_root}/etc/rc.d/rc.sysinit
388     # don't mount devpts, for pete's sake
389     sed -i 's/^.*dev.pts.*$/#\0/' ${lxc_root}/etc/rc.sysinit
390     sed -i 's/^.*dev.pts.*$/#\0/' ${lxc_root}/etc/rc.d/rc.sysinit
391     chroot ${lxc_root} chkconfig udev-post off
392     chroot ${lxc_root} chkconfig network on
393 }
394
395 # this code of course is for guests that do run on systemd
396 function fedora_configure_systemd() {
397     set -e
398     set -x
399     # so ignore if we can't find /etc/systemd at all 
400     [ -d ${lxc_root}/etc/systemd ] || return 0
401     # otherwise let's proceed
402     ln -sf /lib/systemd/system/multi-user.target ${lxc_root}/etc/systemd/system/default.target
403     touch ${lxc_root}/etc/fstab
404     ln -sf /dev/null ${lxc_root}/etc/systemd/system/udev.service
405 # Thierry - Feb 2013
406 # this was intended for f16 initially, in order to enable getty that otherwise would not start
407 # having a getty running is helpful only if ssh won't start though, and we see a correlation between
408 # VM's that refuse to lxc-stop and VM's that run crazy getty's
409 # so, turning getty off for now instead
410 #   #dependency on a device unit fails it specially that we disabled udev
411 #    sed -i 's/After=dev-%i.device/After=/' ${lxc_root}/lib/systemd/system/getty\@.service
412     ln -sf /dev/null ${lxc_root}/etc/systemd/system/"getty@.service"
413     rm -f ${lxc_root}/etc/systemd/system/getty.target.wants/*service || :
414 # can't seem to handle this one with systemctl
415     chroot ${lxc_root} chkconfig network on
416 }
417
418 # overwrite container yum config
419 function fedora_configure_yum () {
420     set -x 
421     set -e 
422     trap failure ERR INT
423
424     lxc=$1; shift
425     fcdistro=$1; shift
426     pldistro=$1; shift
427
428     # rpm --rebuilddb
429     chroot $lxc_root rpm --rebuilddb
430
431     echo "Initializing yum.repos.d in $lxc"
432     rm -f $lxc_root/etc/yum.repos.d/*
433
434     cat > $lxc_root/etc/yum.repos.d/building.repo <<EOF
435 [fedora]
436 name=Fedora $release - $arch
437 baseurl=http://mirror.onelab.eu/fedora/releases/$release/Everything/$arch/os/
438 enabled=1
439 metadata_expire=7d
440 gpgcheck=1
441 gpgkey=http://mirror.onelab.eu/keys/RPM-GPG-KEY-fedora-$release-primary
442
443 [updates]
444 name=Fedora $release - $arch - Updates
445 baseurl=http://mirror.onelab.eu/fedora/updates/$release/$arch/
446 enabled=1
447 metadata_expire=7d
448 gpgcheck=1
449 gpgkey=http://mirror.onelab.eu/keys/RPM-GPG-KEY-fedora-$release-primary
450 EOF
451     
452     # for using vtest-init-lxc.sh as a general-purpose lxc creation wrapper
453     # just mention 'none' as the repo url
454     if [ -n "$REPO_URL" ] ; then
455         if [ ! -d $lxc_root/etc/yum.repos.d ] ; then
456             echo "WARNING : cannot create myplc repo"
457         else
458             # exclude kernel from fedora repos 
459             yumexclude=$(pl_plcyumexclude $fcdistro $pldistro $DIRNAME)
460             for repo in $lxc_root/etc/yum.repos.d/* ; do
461                 [ -f $repo ] && yumconf_exclude $repo "exclude=$yumexclude" 
462             done
463             # the build repo is not signed at this stage
464             cat > $lxc_root/etc/yum.repos.d/myplc.repo <<EOF
465 [myplc]
466 name= MyPLC
467 baseurl=$REPO_URL
468 enabled=1
469 gpgcheck=0
470 EOF
471         fi
472     fi
473 }    
474
475 ##############################
476 # need to specify the right mirror for debian variants like ubuntu and the like
477 function debian_mirror () {
478     fcdistro=$1; shift
479     case $fcdistro in
480         squeeze|wheezy|jessie) 
481             echo http://ftp2.fr.debian.org/debian/ ;;
482         oneiric|precise|quantal|raring|saucy) 
483             echo http://mir1.ovh.net/ubuntu/ubuntu/ ;;
484         *) echo unknown distro $fcdistro; exit 1;;
485     esac
486 }
487
488 function debian_install () {
489     set -e
490     set -x
491     lxc=$1; shift
492     mkdir -p $lxc_root
493     arch=$(canonical_arch $personality $fcdistro)
494     mirror=$(debian_mirror $fcdistro)
495     debootstrap --arch $arch $fcdistro $lxc_root $mirror
496     # just like with fedora we ensure a few packages get installed as well
497     # not started yet
498     #virsh -c lxc:/// lxc-enter-namespace $lxc /bin/bash -c "apt-get update"
499     #virsh -c lxc:/// lxc-enter-namespace $lxc /bin/bash -c "apt-get -y install $DEBIAN_PREINSTALLED"
500     chroot $lxc_root apt-get update
501     chroot $lxc_root apt-get -y install $DEBIAN_PREINSTALLED
502 }
503
504 function debian_configure () {
505     guest_interfaces=${lxc_root}/etc/network/interfaces
506     ( [ -n "$BUILD_MODE" ] && write_guest_interfaces_build || write_guest_interfaces_test ) > $guest_interfaces
507 }
508
509 function write_guest_interfaces_build () {
510     cat <<EOF
511 auto $VIF_GUEST
512 iface $VIF_GUEST inet dhcp
513 EOF
514 }
515
516 function write_guest_interfaces_test () {
517     cat <<EOF
518 auto $VIF_GUEST
519 iface $VIF_GUEST inet static
520 address $GUEST_IP
521 netmask $NETMASK
522 gateway $GATEWAY
523 EOF
524 }
525 ##############################
526 function setup_lxc() {
527
528     set -x
529     set -e
530     #trap failure ERR INT
531
532     lxc=$1; shift
533     fcdistro=$1; shift
534     pldistro=$1; shift
535     personality=$1; shift
536
537     # create lxc container 
538     
539     pkg_method=$(package_method $fcdistro)
540     case $pkg_method in
541         yum)
542             fedora_install || { echo "failed to install fedora root image"; exit 1 ; }
543             fedora_configure || { echo "failed to configure fedora for a container"; exit 1 ; }
544             ;;
545         debootstrap)
546             debian_install $lxc || { echo "failed to install debian/ubuntu root image"; exit 1 ; }
547             debian_configure || { echo "failed to configure debian/ubuntu for a container"; exit 1 ; }
548             ;;
549         *)
550             echo "$COMMAND:: unknown package_method - exiting"
551             exit 1
552             ;;
553     esac
554
555     # Enable cgroup -- xxx -- is this really useful ?
556     mkdir $lxc_root/cgroup
557     
558     # set up resolv.conf
559     cp /etc/resolv.conf $lxc_root/etc/resolv.conf
560     # and /etc/hosts for at least localhost
561     [ -f $lxc_root/etc/hosts ] || echo "127.0.0.1 localhost localhost.localdomain" > $lxc_root/etc/hosts
562     
563     # grant ssh access from host to guest
564     mkdir $lxc_root/root/.ssh
565     cat /root/.ssh/id_rsa.pub >> $lxc_root/root/.ssh/authorized_keys
566     chmod 700 $lxc_root/root/.ssh
567     chmod 600 $lxc_root/root/.ssh/authorized_keys
568
569     # don't keep the input xml, this can be retrieved at all times with virsh dumpxml
570     config_xml=/tmp/$lxc.xml
571     ( [ -n "$BUILD_MODE" ] && write_lxc_xml_build $lxc || write_lxc_xml_test $lxc ) > $config_xml
572     
573     # define lxc container for libvirt
574     virsh -c lxc:/// define $config_xml
575
576     return 0
577 }
578
579 function write_lxc_xml_test () {
580     lxc=$1; shift
581     cat <<EOF
582 <domain type='lxc'>
583   <name>$lxc</name>
584   <memory>524288</memory>
585   <os>
586     <type arch='$arch2'>exe</type>
587     <init>/sbin/init</init>
588   </os>
589   <features>
590     <acpi/>
591   </features>
592   <vcpu>1</vcpu>
593   <clock offset='utc'/>
594   <on_poweroff>destroy</on_poweroff>
595   <on_reboot>restart</on_reboot>
596   <on_crash>destroy</on_crash>
597   <devices>
598     <emulator>/usr/libexec/libvirt_lxc</emulator>
599     <filesystem type='mount'>
600       <source dir='$lxc_root'/>
601       <target dir='/'/>
602     </filesystem>
603     <interface type="bridge">
604       <source bridge="$PUBLIC_BRIDGE"/>
605       <target dev='$VIF_HOST'/>
606     </interface>
607     <console type='pty' />
608   </devices>
609   <network>
610     <name>host-bridge</name>
611     <forward mode="bridge"/>
612     <bridge name="$PUBLIC_BRIDGE"/>
613   </network>
614 </domain>
615 EOF
616 }
617
618 function write_lxc_xml_build () { 
619     lxc=$1; shift
620     cat <<EOF
621 <domain type='lxc'>
622   <name>$lxc</name>
623   <memory>524288</memory>
624   <os>
625     <type arch='$arch2'>exe</type>
626     <init>/sbin/init</init>
627   </os>
628   <features>
629     <acpi/>
630   </features>
631   <vcpu>1</vcpu>
632   <clock offset='utc'/>
633   <on_poweroff>destroy</on_poweroff>
634   <on_reboot>restart</on_reboot>
635   <on_crash>destroy</on_crash>
636   <devices>
637     <emulator>/usr/libexec/libvirt_lxc</emulator>
638     <filesystem type='mount'>
639       <source dir='$lxc_root'/>
640       <target dir='/'/>
641     </filesystem>
642     <interface type="network">
643       <source network="default"/>
644     </interface>
645     <console type='pty' />
646   </devices>
647 </domain>
648 EOF
649 }
650
651 # this one is dhcp-based
652 function write_guest_ifcfg_build () {
653     cat <<EOF
654 DEVICE=$VIF_GUEST
655 BOOTPROTO=dhcp
656 ONBOOT=yes
657 NM_CONTROLLED=no
658 TYPE=Ethernet
659 MTU=1500
660 EOF
661 }
662
663 # use fixed GUEST_IP as specified by GUEST_HOSTNAME
664 function write_guest_ifcfg_test () {
665     cat <<EOF
666 DEVICE=$VIF_GUEST
667 BOOTPROTO=static
668 ONBOOT=yes
669 HOSTNAME=$GUEST_HOSTNAME
670 IPADDR=$GUEST_IP
671 NETMASK=$NETMASK
672 GATEWAY=$GATEWAY
673 NM_CONTROLLED=no
674 TYPE=Ethernet
675 MTU=1500
676 EOF
677 }
678
679 function devel_or_vtest_tools () {
680
681     set -x 
682     set -e 
683     trap failure ERR INT
684
685     lxc=$1; shift
686     fcdistro=$1; shift
687     pldistro=$1; shift
688     personality=$1; shift
689
690     pkg_method=$(package_method $fcdistro)
691
692     pkgsfile=$(pl_locateDistroFile $DIRNAME $pldistro $PREINSTALLED)
693
694     ### install individual packages, then groups
695     # get target arch - use uname -i here (we want either x86_64 or i386)
696    
697     lxc_arch=$(chroot $lxc_root uname -i)
698     # on debian systems we get arch through the 'arch' command
699     [ "$lxc_arch" = "unknown" ] && lxc_arch=$(chroot $lxc_root arch)
700
701     packages=$(pl_getPackages -a $lxc_arch $fcdistro $pldistro $pkgsfile)
702     groups=$(pl_getGroups -a $lxc_arch $fcdistro $pldistro $pkgsfile)
703
704     case "$pkg_method" in
705         yum)
706             [ -n "$packages" ] && chroot $lxc_root yum -y install $packages
707             for group_plus in $groups; do
708                 group=$(echo $group_plus | sed -e "s,+++, ,g")
709                 chroot $lxc_root yum -y groupinstall "$group"
710             done
711             # store current rpm list in /init-lxc.rpms in case we need to check the contents
712             chroot $lxc_root rpm -aq > $lxc_root/init-lxc.rpms
713             ;;
714         debootstrap)
715             # for ubuntu
716             if grep -iq ubuntu /vservers/$lxc/etc/lsb-release 2> /dev/null; then
717                 # on ubuntu, at this point we end up with a single feed in /etc/apt/sources.list
718                 # we need at least to add the 'universe' feed for python-rpm
719                 ( cd /vservers/$lxc/etc/apt ; head -1 sources.list | sed -e s,main,universe, > sources.list.d/universe.list )
720                 # also adding a link to updates sounds about right
721                 ( cd /vservers/$lxc/etc/apt ; head -1 sources.list | sed -e 's, main,-updates main,' > sources.list.d/updates.list )
722             fi
723             for package in $packages ; do
724                 # container not started yet
725                 #virsh -c lxc:/// lxc-enter-namespace $lxc /bin/bash -c "apt-get install -y $package" || :
726                 chroot $lxc_root apt-get install -y $package || :
727             done
728             ### xxx todo install groups with apt..
729             ;;
730         *)
731             echo "unknown pkg_method $pkg_method"
732             ;;
733     esac
734
735     return 0
736 }
737
738 function post_install () {
739     lxc=$1; shift 
740     personality=$1; shift
741     if [ -n "$BUILD_MODE" ] ; then
742         post_install_build $lxc $personality
743         virsh -c lxc:/// start $lxc
744         # manually run dhclient in guest - somehow this network won't start on its own
745         virsh -c lxc:/// lxc-enter-namespace $lxc /bin/bash -c "dhclient $VIF_GUEST"
746     else
747         post_install_myplc $lxc $personality
748         virsh -c lxc:/// start $lxc
749 # it sounds like we don't need ssh per se any more
750 # it still makes sense to wait for network readiness though
751 # some day maybe...
752         wait_for_ssh $lxc
753     fi
754     # setup localtime from the host
755     cp /etc/localtime $lxc_root/etc/localtime
756 }
757
758 function post_install_build () {
759
760     set -x 
761     set -e 
762     trap failure ERR INT
763
764     lxc=$1; shift
765     personality=$1; shift
766
767 ### From myplc-devel-native.spec
768 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
769     cat << EOF | chroot $lxc_root bash -x
770     
771     # customize root's prompt
772     /bin/cat << PROFILE > /root/.profile
773 export PS1="[$lxc] \\w # "
774 PROFILE
775
776 EOF
777         
778 }
779
780 function post_install_myplc  () {
781     set -x 
782     set -e 
783     trap failure ERR INT
784
785     lxc=$1; shift
786     personality=$1; shift
787
788 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
789     cat << EOF | chroot $lxc_root bash -x
790
791     # create /etc/sysconfig/network if missing
792     [ -f /etc/sysconfig/network ] || /bin/echo NETWORKING=yes > /etc/sysconfig/network
793
794     # turn off regular crond, as plc invokes plc_crond
795     /sbin/chkconfig crond off
796
797     # customize root's prompt
798     /bin/cat << PROFILE > /root/.profile
799 export PS1="[$lxc] \\w # "
800 PROFILE
801
802 EOF
803 }
804
805 function wait_for_ssh () {
806     set -x
807     set -e
808     #trap failure ERR INT
809
810     lxc=$1; shift
811   
812     echo network in guest is up, waiting for ssh...
813
814     #wait max 2 min for sshd to start 
815     ssh_up=""
816     current_time=$(date +%s)
817     stop_time=$(($current_time + 120))
818     
819     counter=1
820     while [ "$current_time" -lt "$stop_time" ] ; do
821          echo "$counter-th attempt to reach sshd in container $lxc ..."
822          ssh -o "StrictHostKeyChecking no" $GUEST_IP 'uname -i' && { ssh_up=true; echo "SSHD in container $lxc is UP"; break ; } || :
823          sleep 10
824          current_time=$(($current_time + 10))
825          counter=$(($counter+1))
826     done
827
828     # Thierry: this is fatal, let's just exit with a failure here
829     [ -z $ssh_up ] && { echo "SSHD in container $lxc is not running" ; exit 1 ; } 
830     return 0
831 }
832
833 ####################
834 function failure () {
835     echo "$COMMAND : Bailing out"
836     exit 1
837 }
838
839 function usage () {
840     set +x 
841     echo "Usage: $COMMAND [options] lxc-name             (aka build mode)"
842     echo "Usage: $COMMAND -n hostname [options] lxc-name (aka test mode)"
843     echo "Description:"
844     echo "    This command creates a fresh lxc instance, for building, or running a test myplc"
845     echo "In its first form, spawned VM gets a private IP bridged with virbr0 over dhcp/nat"
846     echo "With the second form, spawned VM gets a public IP bridged on public bridge br0"
847     echo ""
848     echo "Supported options"
849     echo " -n hostname - the hostname to use in container"
850     echo " -f fcdistro - for creating the root filesystem - defaults to $DEFAULT_FCDISTRO"
851     echo " -d pldistro - defaults to $DEFAULT_PLDISTRO - current support for fedoras debians ubuntus"
852     echo " -p personality - defaults to $DEFAULT_PERSONALITY"
853     echo " -r repo-url - used to populate yum.repos.d - required in test mode"
854     echo " -P pkgs_file - defines a set of extra packages to install in guest"
855     echo "    by default we use devel.pkgs (build mode) or runtime.pkgs (test mode)"
856     echo " -v be verbose"
857     exit 1
858 }
859
860 ### parse args and 
861 function main () {
862
863     #set -e
864     #trap failure ERR INT
865
866     if [ "$(id -u)" != "0" ]; then
867           echo "This script should be run as 'root'"
868           exit 1
869     fi
870
871     while getopts "n:f:d:p:r:P:v" opt ; do
872         case $opt in
873             n) GUEST_HOSTNAME=$OPTARG;;
874             f) fcdistro=$OPTARG;;
875             d) pldistro=$OPTARG;;
876             p) personality=$OPTARG;;
877             r) REPO_URL=$OPTARG;;
878             P) PREINSTALLED=$OPTARG;;
879             v) VERBOSE=true; set -x;;
880             *) usage ;;
881         esac
882     done
883         
884     shift $(($OPTIND - 1))
885
886     # parse fixed arguments
887     [[ -z "$@" ]] && usage
888     lxc=$1 ; shift
889     lxc_root=/vservers/$lxc
890     # rainchecks
891     almost_empty $lxc_root || \
892         { echo "container $lxc already exists in $lxc_root - exiting" ; exit 1 ; }
893     virsh -c lxc:/// domuuid $lxc >& /dev/null && \
894         { echo "container $lxc already exists in libvirt - exiting" ; exit 1 ; }
895     mkdir -p $lxc_root
896
897     # check we've exhausted the arguments
898     [[ -n "$@" ]] && usage
899
900     # BUILD_MODE is true unless we specified a hostname
901     [ -n "$GUEST_HOSTNAME" ] || BUILD_MODE=true
902
903     # set default values
904     [ -z "$fcdistro" ] && fcdistro=$DEFAULT_FCDISTRO
905     [ -z "$pldistro" ] && pldistro=$DEFAULT_PLDISTRO
906     [ -z "$personality" ] && personality=$DEFAULT_PERSONALITY
907     
908     # the set of preinstalled packages - depends on mode
909     if [ -z "$PREINSTALLED"] ; then
910         if [ -n "$BUILD_MODE" ] ; then
911             PREINSTALLED=devel.pkgs
912         else
913             PREINSTALLED=runtime.pkgs
914         fi
915     fi
916
917     if [ -n "$BUILD_MODE" ] ; then
918         # we can now set GUEST_HOSTNAME safely
919         [ -z "$GUEST_HOSTNAME" ] && GUEST_HOSTNAME=$lxc
920     else
921         # as this command can be used in other contexts, not specifying
922         # a repo is considered a warning
923         # use -r none to get rid of this warning
924         if [ "$REPO_URL" == "none" ] ; then
925             REPO_URL=""
926         elif [ -z "$REPO_URL" ] ; then
927             echo "WARNING -- setting up a yum repo is recommended" 
928         fi
929     fi
930
931     ##########
932     release=$(echo $fcdistro | cut -df -f2)
933
934     if [ "$personality" == "linux32" ]; then
935         arch=i386
936         arch2=i686
937     elif [ "$personality" == "linux64" ]; then
938         arch=x86_64
939         arch2=x86_64
940     else
941         echo "Unknown personality: $personality"
942     fi
943
944     # compute networking details for the test mode
945     # (build mode relies entirely on dhcp on the private subnet)
946     if [ -z "$BUILD_MODE" ] ; then
947
948         create_bridge_if_needed
949
950         GUEST_IP=$(gethostbyname $GUEST_HOSTNAME)
951         # use same NETMASK as bridge interface br0
952         MASKLEN=$(ip addr show $PUBLIC_BRIDGE | grep -v inet6 | grep inet | awk '{print $2;}' | cut -d/ -f2)
953         NETMASK=$(masklen_to_netmask $MASKLEN)
954         GATEWAY=$(ip route show | grep default | awk '{print $3}' | head -1)
955         VIF_HOST="i$(echo $GUEST_HOSTNAME | cut -d. -f1)"
956     fi
957
958     setup_lxc $lxc $fcdistro $pldistro $personality 
959
960     devel_or_vtest_tools $lxc $fcdistro $pldistro $personality
961
962     # container gets started here
963     post_install $lxc $personality
964     
965     echo $COMMAND Done
966 }
967
968 main "$@"