vbuild-init-vserver.sh

   1 #!/bin/bash
   2 # -*-shell-*-
   3 # $Id$
   4
   5 #shopt -s huponexit
   6
   7 COMMAND=$(basename $0)
   8 DIRNAME=$(dirname $0)
   9
  10 # pkgs parsing utilities
  11 PATH=$(dirname $0):$PATH . build.common
  12
  13 DEFAULT_FCDISTRO=f8
  14 DEFAULT_PLDISTRO=planetlab
  15 DEFAULT_PERSONALITY=linux32
  16 DEFAULT_IFNAME=eth0
  17
  18 COMMAND_VBUILD="vbuild-init-vserver.sh"
  19 COMMAND_MYPLC="vtest-init-vserver.sh"
  20
  21 function failure () {
  22     echo "$COMMAND : Bailing out"
  23     exit 1
  24 }
  25
  26 # overwrite vserver's internal yum config from what is in
  27 # .distributions/<distrib>/yum/yum.conf and /yum.repos.d
  28
  29 function configure_yum_in_vserver () {
  30     set -x
  31     set -e
  32     trap failure ERR INT
  33
  34     vserver=$1; shift
  35     fcdistro=$1; shift
  36
  37     templates=/etc/vservers/.distributions/${fcdistro}
  38     if [ -f ${templates}/yum/yum.conf ] ; then
  39         echo "Initializing yum.conf in $vserver from ${templates}/yum"
  40         sed -e "s!@YUMETCDIR@!/etc!g;
  41                 s!@YUMCACHEDIR@!/var/cache/yum!g;
  42                 s!@YUMLOGDIR@!/var/log!g;
  43                 s!@YUMLOCKDIR@!/var/lock!g;
  44                " ${templates}/yum/yum.conf > /vservers/$vserver/etc/yum.conf
  45
  46         # post process the various @...@ variables from this yum.conf file.
  47     else
  48         echo "Using $fcdistro default for yum.conf"
  49     fi
  50
  51     if [ -d ${templates}/yum.repos.d ] ; then
  52         echo "Initializing yum.repos.d in $vserver from ${templates}/yum.repos.d"
  53         rm -rf /vservers/$vserver/etc/yum.repos.d
  54         tar -C ${templates} -cf - yum.repos.d | tar -C /vservers/$vserver/etc -xvf -
  55     else
  56         echo "Cannot initialize yum.repos.d in $vserver"
  57     fi
  58
  59     if [ -n "$MYPLC_MODE" ] ; then
  60         if [ ! -d /vservers/$vserver/etc/yum.repos.d ] ; then
  61             echo "WARNING : cannot create myplc repo"
  62         else
  63             # exclude kernel from fedora repos
  64             for repo in /vservers/$vserver/etc/yum.repos.d/* ; do
  65                 [ -f $repo ] && yumconf_exclude $repo "exclude=$pl_KEXCLUDES"
  66             done
  67             # the build repo is not signed at this stage
  68             cat > /vservers/$vserver/etc/yum.repos.d/myplc.repo <<EOF
  69 [myplc]
  70 name= MyPLC
  71 baseurl=$REPO_URL
  72 enabled=1
  73 gpgcheck=0
  74 EOF
  75         fi
  76     fi
  77 }
  78
  79 # return yum or debootstrap
  80 function package_method () {
  81     fcdistro=$1; shift
  82     case $fcdistro in
  83         f[0-9]*|centos[0-9]*) echo yum ;;
  84         lenny|etch) echo debootstrap ;;
  85         *) echo Unknown distro $fcdistro ;;
  86     esac
  87 }
  88
  89 # return arch from debian distro and personality
  90 function canonical_arch () {
  91     personality=$1; shift
  92     fcdistro=$1; shift
  93     case $(package_method $fcdistro) in
  94         yum)
  95             case $personality in *32) echo i386 ;; *64) echo x86_64 ;; *) echo Unknown-arch-1 ;; esac ;;
  96         debootstrap)
  97             case $personality in *32) echo i386 ;; *64) echo amd64 ;; *) echo Unknown-arch-2 ;; esac ;;
  98         *)
  99             echo Unknown-arch-3 ;;
 100     esac
 101 }
 102
 103 function setup_vserver () {
 104
 105     set -x
 106     set -e
 107     trap failure ERR INT
 108
 109     vserver=$1; shift
 110     fcdistro=$1; shift
 111     personality=$1; shift
 112
 113     if [ -d /vservers/$vserver ] ; then
 114         echo "$COMMAND : vserver $vserver seems to exist - bailing out"
 115         exit 1
 116     fi
 117
 118     pkg_method=$(package_method $fcdistro)
 119     case $pkg_method in
 120         yum)
 121             build_options="-m yum -- -d $fcdistro"
 122             ;;
 123         debootstrap)
 124             arch=$(canonical_arch $personality $fcdistro)
 125             build_options="-m debootstrap -- -d $fcdistro -- --arch $arch"
 126             ;;
 127         *)
 128             build_options="something wrong" ;;
 129     esac
 130
 131     # create it
 132     # try to work around the vserver issue:
 133     # vc_ctx_migrate: No such process
 134     # rpm-fake.so: failed to initialize communication with resolver
 135     for i in $(seq 20) ; do
 136         $personality vserver $VERBOSE $vserver build $VSERVER_OPTIONS $build_options && break || true
 137         echo "* ${i}-th attempt to 'vserver build' failed - waiting for 3 seconds"
 138         sleep 3
 139     done
 140     # check success
 141     [ -d /vservers/$vserver ]
 142
 143     if [ ! -z "$personality" ] ; then
 144         if [ -f "/etc/vservers/$vserver/personality" ] ; then
 145             registered_personality=$(grep $personality /etc/vservers/$vserver/personality | wc -l)
 146         else
 147             registered_personality=0
 148         fi
 149         if [ $registered_personality -eq 0 -a "$personality" != "linux64" ] ; then
 150             echo $personality >> /etc/vservers/$vserver/personality
 151         fi
 152     fi
 153
 154     if [ -n "$VBUILD_MODE" ] ; then
 155         ### capabilities required for a build vserver
 156         # set up appropriate vserver capabilities to mount, mknod and IPC_LOCK
 157         BCAPFILE=/etc/vservers/$vserver/bcapabilities
 158         touch $BCAPFILE
 159         cap=$(grep ^CAP_SYS_ADMIN /etc/vservers/$vserver/bcapabilities | wc -l)
 160         [ $cap -eq 0 ] && echo 'CAP_SYS_ADMIN' >> /etc/vservers/$vserver/bcapabilities
 161         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
 162         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
 163         cap=$(grep ^CAP_IPC_LOCK /etc/vservers/$vserver/bcapabilities | wc -l)
 164         [ $cap -eq 0 ] && echo 'CAP_IPC_LOCK' >> /etc/vservers/$vserver/bcapabilities
 165     else
 166         ### capabilities required for a myplc vserver
 167         # for /etc/plc.d/gpg - need to init /dev/random
 168         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
 169         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
 170         cap=$(grep ^CAP_NET_BIND_SERVICE /etc/vservers/$vserver/bcapabilities | wc -l)
 171         [ $cap -eq 0 ] && echo 'CAP_NET_BIND_SERVICE' >> /etc/vservers/$vserver/bcapabilities
 172     fi
 173
 174     if [ "$pkg_method" = "yum" ] ; then
 175         $personality vyum $vserver -- -y install yum
 176         # ditto
 177         for i in $(seq 20) ; do
 178             $personality vserver $VERBOSE $vserver pkgmgmt internalize && break || true
 179             echo "* ${i}-th attempt to 'vserver pkgmgmt internalize' failed - waiting for 3 seconds"
 180             sleep 3
 181         done
 182     fi
 183
 184     # start the vserver so we can do the following operations
 185 #    rm -f /tmp/go*
 186 #    echo -n ' about to start - WAITING for /tmp/go1' ; while true ; do [ -f /tmp/go1 ] && break || : ; done
 187     $personality vserver $VERBOSE $vserver start
 188 #    echo -n ' started - WAITING for /tmp/go2' ; while true ; do [ -f /tmp/go2 ] && break || : ; done
 189 #if true ; then
 190 #    echo SKIPPING for debug --- vserver was started
 191 #else
 192     [ "$pkg_method" = "yum" ] && $personality vserver $VERBOSE $vserver exec sh -c "rm -f /var/lib/rpm/__db*"
 193     [ "$pkg_method" = "yum" ] && $personality vserver $VERBOSE $vserver exec rpm --rebuilddb
 194
 195     # check if the vserver kernel is using VSERVER_DEVICE (vdevmap) support
 196     need_vdevmap=$(grep "CONFIG_VSERVER_DEVICE=y" /boot/config-$(uname -r) | wc -l)
 197
 198     if [ $need_vdevmap -eq 1 ] ; then
 199         ctx=$(cat /etc/vservers/$vserver/context)
 200         vdevmap --set --xid $ctx --open --create --target /dev/null
 201         vdevmap --set --xid $ctx --open --create --target /dev/root
 202     fi
 203
 204     # minimal config in the vserver for yum to work
 205     [ "$pkg_method" = "yum" ] && configure_yum_in_vserver $vserver $fcdistro
 206
 207     # set up resolv.conf
 208     cp /etc/resolv.conf /vservers/$vserver/etc/resolv.conf
 209     # and /etc/hosts for at least localhost
 210     [ -f /vservers/$vserver/etc/hosts ] || echo "127.0.0.1 localhost localhost.localdomain" > /vservers/$vserver/etc/hosts
 211
 212 #fi
 213
 214 }
 215
 216 function devel_or_vtest_tools () {
 217
 218     set -x
 219     set -e
 220     trap failure ERR INT
 221
 222     vserver=$1; shift
 223     fcdistro=$1; shift
 224     pldistro=$1; shift
 225     personality=$1; shift
 226
 227     pkg_method=$(package_method $fcdistro)
 228
 229     # check for .pkgs file based on pldistro
 230     if [ -n "$VBUILD_MODE" ] ; then
 231         pkgsname=devel.pkgs
 232     else
 233         pkgsname=vtest.pkgs
 234     fi
 235     pkgsfile=$(pl_locateDistroFile $DIRNAME $pldistro $pkgsname)
 236
 237     ### install individual packages, then groups
 238     # get target arch - use uname -i here (we want either x86_64 or i386)
 239     vserver_arch=$($personality vserver $vserver exec uname -i)
 240     # on debian systems we get arch through the 'arch' command
 241     [ "$vserver_arch" = "unknown" ] && vserver_arch=$($personality vserver $vserver exec arch)
 242
 243     packages=$(pl_getPackages -a $vserver_arch $fcdistro $pldistro $pkgsfile)
 244     groups=$(pl_getGroups -a $vserver_arch $fcdistro $pldistro $pkgsfile)
 245
 246     [ "$pkg_method" = yum ] && [ -n "$packages" ] && $personality vserver $vserver exec yum -y install $packages
 247     [ "$pkg_method" = yum ] && [ -n "$groups" ] && $personality vserver $vserver exec yum -y groupinstall $groups
 248
 249     [ "$pkg_method" = debootstrap ] && $personality vserver $vserver exec apt-get update
 250     [ "$pkg_method" = debootstrap ] && for package in $packages ; do
 251         $personality vserver $vserver exec apt-get install -y $package
 252     done
 253
 254     return 0
 255 }
 256
 257 function post_install () {
 258     if [ -n "$VBUILD_MODE" ] ; then
 259         post_install_vbuild "$@"
 260     else
 261         post_install_myplc "$@"
 262     fi
 263     # setup localtime from the host
 264     vserver=$1; shift
 265     cp /etc/localtime /vservers/$vserver/etc/localtime
 266 }
 267
 268 function post_install_vbuild () {
 269
 270     set -x
 271     set -e
 272     trap failure ERR INT
 273
 274     vserver=$1; shift
 275     personality=$1; shift
 276
 277 ### From myplc-devel-native.spec
 278 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 279     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
 280     # set up /dev/loop* in vserver
 281     for i in \$(seq 0 255) ; do
 282         mknod -m 640 /dev/loop\$i b 7 \$i
 283     done
 284
 285     # create symlink for /dev/fd
 286     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
 287
 288     # modify /etc/rpm/macros to not use /sbin/new-kernel-pkg
 289     sed -i 's,/sbin/new-kernel-pkg:,,' /etc/rpm/macros
 290     if [ -h "/sbin/new-kernel-pkg" ] ; then
 291         filename=\$(readlink -f /sbin/new-kernel-pkg)
 292         if [ "\$filename" == "/sbin/true" ] ; then
 293                 echo "WARNING: /sbin/new-kernel-pkg symlinked to /sbin/true"
 294                 echo "\tmost likely /etc/rpm/macros has /sbin/new-kernel-pkg declared in _netsharedpath."
 295                 echo "\tPlease remove /sbin/new-kernel-pkg from _netsharedpath and reintall mkinitrd."
 296                 exit 1
 297         fi
 298     fi
 299
 300     # customize root's prompt
 301     cat << PROFILE > /root/.profile
 302 export PS1="[$vserver] \\w # "
 303 PROFILE
 304
 305     uid=2000
 306     gid=2000
 307
 308     # add a "build" user to the system
 309     builduser=\$(grep "^build:" /etc/passwd | wc -l)
 310     if [ \$builduser -eq 0 ] ; then
 311         groupadd -o -g \$gid build;
 312         useradd -o -c 'Automated Build' -u \$uid -g \$gid -n -M -s /bin/bash build;
 313     fi
 314
 315 # Allow build user to build certain RPMs as root
 316     if [ -f /etc/sudoers ] ; then
 317         buildsudo=\$(grep "^build.*ALL=(ALL).*NOPASSWD:.*ALL"  /etc/sudoers | wc -l)
 318         if [ \$buildsudo -eq 0 ] ; then
 319             echo "build   ALL=(ALL)       NOPASSWD: ALL" >> /etc/sudoers
 320         fi
 321         sed -i 's,^Defaults.*requiretty,#Defaults requiretty,' /etc/sudoers
 322     fi
 323 #
 324 EOF
 325
 326 }
 327
 328 function post_install_myplc  () {
 329     set -x
 330     set -e
 331     trap failure ERR INT
 332
 333     vserver=$1; shift
 334     personality=$1; shift
 335
 336 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 337     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
 338
 339     # create /etc/sysconfig/network if missing
 340     [ -f /etc/sysconfig/network ] || echo NETWORKING=yes > /etc/sysconfig/network
 341
 342     # create symlink for /dev/fd
 343     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
 344
 345     # turn off regular crond, as plc invokes plc_crond
 346     chkconfig crond off
 347
 348     # take care of loginuid in /etc/pam.d
 349     sed -i "s,#*\(.*loginuid.*\),#\1," /etc/pam.d/*
 350
 351     # customize root's prompt
 352     cat << PROFILE > /root/.profile
 353 export PS1="[$vserver] \\w # "
 354 PROFILE
 355
 356 EOF
 357 }
 358
 359 # parses ifconfig's output to find out ip address and mask
 360 # will then be passed to vserver as e.g. --interface 138.96.250.126/255.255.0.0
 361 # default is to use lo, that's enough for local mirrors
 362 # use -i eth0 in case your fedora mirror is on a separate box on the network
 363 function vserverIfconfig () {
 364     ifname=$1; shift
 365     local result=""
 366     line=$(ifconfig $ifname 2> /dev/null | grep 'inet addr')
 367     if [ -n "$line" ] ; then
 368         set $line
 369         for word in "$@" ; do
 370             addr=$(echo $word | sed -e s,[aA][dD][dD][rR]:,,)
 371             mask=$(echo $word | sed -e s,[mM][aA][sS][kK]:,,)
 372             if [ "$word" != "$addr" ] ; then
 373                 result="${addr}"
 374             elif [ "$word" != "$mask" ] ; then
 375                 result="${result}/${mask}"
 376             fi
 377         done
 378     fi
 379     if [ -z "$result" ] ; then
 380         echo "vserverIfconfig failed to locate $ifname"
 381         exit 1
 382     else
 383         echo $result
 384     fi
 385 }
 386
 387 function usage () {
 388     set +x
 389     echo "Usage: $COMMAND_VBUILD [options] vserver-name [ -- vserver-options ]"
 390     echo "Usage: $COMMAND_MYPLC [options] vserver-name repo-url [ -- vserver-options ]"
 391     echo "Requirements: you need to have a vserver-compliant kernel,"
 392     echo "   as well as the util-vserver RPM installed"
 393     echo "Description:"
 394     echo "   This command creates a fresh vserver instance, for building, or running, myplc"
 395     echo "Supported options"
 396     echo " -f fcdistro - for creating the root filesystem - defaults to $DEFAULT_FCDISTRO"
 397     echo " -d pldistro - defaults to $DEFAULT_PLDISTRO"
 398     echo " -p personality - defaults to $DEFAULT_PERSONALITY"
 399     echo " -i ifname: determines ip and netmask attached to ifname, and passes it to the vserver"
 400     echo " -v : verbose - passes -v to calls to vserver"
 401     echo "vserver-options"
 402     echo "  all args after the optional -- are passed to vserver <name> build <options>"
 403     echo "  typical usage is e.g. --interface eth0:200.150.100.10/24"
 404     exit 1
 405 }
 406
 407 ### parse args and
 408 function main () {
 409
 410     set -e
 411     trap failure ERR INT
 412
 413     case "$COMMAND" in
 414         $COMMAND_VBUILD)
 415             VBUILD_MODE=true ;;
 416         $COMMAND_MYPLC)
 417             MYPLC_MODE=true;;
 418         *)
 419             usage ;;
 420     esac
 421
 422     VERBOSE=
 423     IFNAME=""
 424     VSERVER_OPTIONS=""
 425     while getopts "f:d:p:i:v" opt ; do
 426         case $opt in
 427             f) fcdistro=$OPTARG;;
 428             d) pldistro=$OPTARG;;
 429             p) personality=$OPTARG;;
 430             i) IFNAME=$OPTARG;;
 431             v) VERBOSE="-v" ;;
 432             *) usage ;;
 433         esac
 434     done
 435
 436     shift $(($OPTIND - 1))
 437
 438     # parse fixed arguments
 439     [[ -z "$@" ]] && usage
 440     vserver=$1 ; shift
 441     if [ -n "$MYPLC_MODE" ] ; then
 442         [[ -z "$@" ]] && usage
 443         REPO_URL=$1 ; shift
 444     fi
 445
 446     # parse vserver options
 447     if [[ -n "$@" ]] ; then
 448         if [ "$1" == "--" ] ; then
 449             shift
 450             VSERVER_OPTIONS="$@"
 451         else
 452             usage
 453         fi
 454     fi
 455
 456     # with new util-vserver, it is mandatory to provide an IP even for building
 457     if [ -n "$VBUILD_MODE" ] ; then
 458         [ -z "$IFNAME" ] && IFNAME=$DEFAULT_IFNAME
 459     fi
 460     if [ -n "$IFNAME" ] ; then
 461         localip=$(vserverIfconfig $IFNAME)
 462         VSERVER_OPTIONS="$VSERVER_OPTIONS --interface $localip"
 463     fi
 464
 465     [ -z "$fcdistro" ] && fcdistro=$DEFAULT_FCDISTRO
 466     [ -z "$pldistro" ] && pldistro=$DEFAULT_PLDISTRO
 467     [ -z "$personality" ] && personality=$DEFAULT_PERSONALITY
 468
 469     setup_vserver $vserver $fcdistro $personality
 470     devel_or_vtest_tools $vserver $fcdistro $pldistro $personality
 471     post_install $vserver $personality
 472
 473 }
 474
 475 main "$@"