vbuild-init-vserver.sh

   1 #!/bin/bash
   2 # -*-shell-*-
   3 # $Id$
   4
   5 #shopt -s huponexit
   6
   7 COMMAND=$(basename $0)
   8 DIRNAME=$(dirname $0)
   9
  10 # pkgs parsing utilities
  11 PATH=$(dirname $0):$PATH export PATH
  12 . build.common
  13
  14 DEFAULT_FCDISTRO=f8
  15 DEFAULT_PLDISTRO=planetlab
  16 DEFAULT_PERSONALITY=linux32
  17 DEFAULT_IFNAME=eth0
  18
  19 COMMAND_VBUILD="vbuild-init-vserver.sh"
  20 COMMAND_MYPLC="vtest-init-vserver.sh"
  21
  22 function failure () {
  23     echo "$COMMAND : Bailing out"
  24     exit 1
  25 }
  26
  27 # overwrite vserver's internal yum config from what is in
  28 # .distributions/<distrib>/yum/yum.conf and /yum.repos.d
  29
  30 function configure_yum_in_vserver () {
  31     set -x
  32     set -e
  33     trap failure ERR INT
  34
  35     vserver=$1; shift
  36     fcdistro=$1; shift
  37
  38     templates=/etc/vservers/.distributions/${fcdistro}
  39     if [ -f ${templates}/yum/yum.conf ] ; then
  40         echo "Initializing yum.conf in $vserver from ${templates}/yum"
  41         sed -e "s!@YUMETCDIR@!/etc!g;
  42                 s!@YUMCACHEDIR@!/var/cache/yum!g;
  43                 s!@YUMLOGDIR@!/var/log!g;
  44                 s!@YUMLOCKDIR@!/var/lock!g;
  45                " ${templates}/yum/yum.conf > /vservers/$vserver/etc/yum.conf
  46
  47         # post process the various @...@ variables from this yum.conf file.
  48     else
  49         echo "Using $fcdistro default for yum.conf"
  50     fi
  51
  52     if [ -d ${templates}/yum.repos.d ] ; then
  53         echo "Initializing yum.repos.d in $vserver from ${templates}/yum.repos.d"
  54         rm -rf /vservers/$vserver/etc/yum.repos.d
  55         tar -C ${templates} -cf - yum.repos.d | tar -C /vservers/$vserver/etc -xvf -
  56     else
  57         echo "Cannot initialize yum.repos.d in $vserver"
  58     fi
  59
  60     # for using vtest-init-vserver.sh as a general-purpose vserver creation wrapper
  61     # just mention 'none' as the repo url
  62     if [ -n "$MYPLC_MODE" -a "$REPO_URL" != "none" ] ; then
  63         if [ ! -d /vservers/$vserver/etc/yum.repos.d ] ; then
  64             echo "WARNING : cannot create myplc repo"
  65         else
  66             # exclude kernel from fedora repos
  67             for repo in /vservers/$vserver/etc/yum.repos.d/* ; do
  68                 [ -f $repo ] && yumconf_exclude $repo "exclude=$pl_KEXCLUDES"
  69             done
  70             # the build repo is not signed at this stage
  71             cat > /vservers/$vserver/etc/yum.repos.d/myplc.repo <<EOF
  72 [myplc]
  73 name= MyPLC
  74 baseurl=$REPO_URL
  75 enabled=1
  76 gpgcheck=0
  77 EOF
  78         fi
  79     fi
  80 }
  81
  82 # return yum or debootstrap
  83 function package_method () {
  84     fcdistro=$1; shift
  85     case $fcdistro in
  86         f[0-9]*|centos[0-9]*) echo yum ;;
  87         lenny|etch) echo debootstrap ;;
  88         *) echo Unknown distro $fcdistro ;;
  89     esac
  90 }
  91
  92 # return arch from debian distro and personality
  93 function canonical_arch () {
  94     personality=$1; shift
  95     fcdistro=$1; shift
  96     case $(package_method $fcdistro) in
  97         yum)
  98             case $personality in *32) echo i386 ;; *64) echo x86_64 ;; *) echo Unknown-arch-1 ;; esac ;;
  99         debootstrap)
 100             case $personality in *32) echo i386 ;; *64) echo amd64 ;; *) echo Unknown-arch-2 ;; esac ;;
 101         *)
 102             echo Unknown-arch-3 ;;
 103     esac
 104 }
 105
 106 function setup_vserver () {
 107
 108     set -x
 109     set -e
 110     trap failure ERR INT
 111
 112     vserver=$1; shift
 113     fcdistro=$1; shift
 114     personality=$1; shift
 115
 116     if [ -d /vservers/$vserver ] ; then
 117         echo "$COMMAND : vserver $vserver seems to exist - bailing out"
 118         exit 1
 119     fi
 120
 121     pkg_method=$(package_method $fcdistro)
 122     case $pkg_method in
 123         yum)
 124             build_options="-m yum -- -d $fcdistro"
 125             ;;
 126         debootstrap)
 127             arch=$(canonical_arch $personality $fcdistro)
 128             build_options="-m debootstrap -- -d $fcdistro -- --arch $arch"
 129             ;;
 130         *)
 131             build_options="something wrong" ;;
 132     esac
 133
 134     # create it
 135     # try to work around the vserver issue:
 136     # vc_ctx_migrate: No such process
 137     # rpm-fake.so: failed to initialize communication with resolver
 138     for i in $(seq 20) ; do
 139         $personality vserver $VERBOSE $vserver build $VSERVER_OPTIONS $build_options && break || true
 140         echo "* ${i}-th attempt to 'vserver build' failed - waiting for 3 seconds"
 141         sleep 3
 142     done
 143     # check success
 144     [ -d /vservers/$vserver ]
 145
 146     if [ ! -z "$personality" ] ; then
 147         if [ -f "/etc/vservers/$vserver/personality" ] ; then
 148             registered_personality=$(grep $personality /etc/vservers/$vserver/personality | wc -l)
 149         else
 150             registered_personality=0
 151         fi
 152         if [ $registered_personality -eq 0 -a "$personality" != "linux64" ] ; then
 153             echo $personality >> /etc/vservers/$vserver/personality
 154         fi
 155     fi
 156
 157     if [ -n "$VBUILD_MODE" ] ; then
 158         ### capabilities required for a build vserver
 159         # set up appropriate vserver capabilities to mount, mknod and IPC_LOCK
 160         BCAPFILE=/etc/vservers/$vserver/bcapabilities
 161         touch $BCAPFILE
 162         cap=$(grep ^CAP_SYS_ADMIN /etc/vservers/$vserver/bcapabilities | wc -l)
 163         [ $cap -eq 0 ] && echo 'CAP_SYS_ADMIN' >> /etc/vservers/$vserver/bcapabilities
 164         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
 165         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
 166         cap=$(grep ^CAP_IPC_LOCK /etc/vservers/$vserver/bcapabilities | wc -l)
 167         [ $cap -eq 0 ] && echo 'CAP_IPC_LOCK' >> /etc/vservers/$vserver/bcapabilities
 168     else
 169         ### capabilities required for a myplc vserver
 170         # for /etc/plc.d/gpg - need to init /dev/random
 171         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
 172         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
 173         cap=$(grep ^CAP_NET_BIND_SERVICE /etc/vservers/$vserver/bcapabilities | wc -l)
 174         [ $cap -eq 0 ] && echo 'CAP_NET_BIND_SERVICE' >> /etc/vservers/$vserver/bcapabilities
 175     fi
 176
 177     # Set persistent for the network context
 178     echo persistent,lback_allow > /etc/vservers/$vserver/nflags
 179
 180     # Set the init style of your vserver to plain for f13
 181     if [ "$fcdistro" == "f13" ] ; then
 182         echo plain > /etc/vservers/$vserver/apps/init/style
 183     fi
 184
 185     if [ "$pkg_method" = "yum" ] ; then
 186         $personality vyum $vserver -- -y install yum
 187         # ditto
 188         for i in $(seq 20) ; do
 189             $personality vserver $VERBOSE $vserver pkgmgmt internalize && break || true
 190             echo "* ${i}-th attempt to 'vserver pkgmgmt internalize' failed - waiting for 3 seconds"
 191             sleep 3
 192         done
 193     fi
 194
 195     # start the vserver so we can do the following operations
 196     # redirect out/err to protect against the vserver's init sequence getting stalled
 197     # mostly used for f10 vservers created remotely through ssh
 198     $personality vserver $VERBOSE $vserver start >& /dev/null
 199
 200     if [ "$pkg_method" == "yum" ] ; then
 201         $personality vserver $VERBOSE $vserver exec sh -c "rm -f /var/lib/rpm/__db*"
 202
 203         # run the host rpmdb_dump and restore with the guest rpmdb_load
 204         function translate_rpm_hashes () {
 205             set -x
 206             set -e
 207             local personality="$1"; shift
 208             local vserver="$1"; shift
 209             # need to have utilities installed
 210             type -p file
 211             type -p awk
 212             type -p cut
 213             guest_dir=/var/lib/rpm
 214             host_dir=/vservers/$vserver/$guest_dir
 215             files=$(cd $host_dir ; file * | grep Hash | cut -d: -f 1)
 216             for file in $files; do
 217                 (cd $host_dir && mv $file ${file}-foreign)
 218                 /usr/lib/rpm/rpmdb_dump $host_dir/${file}-foreign | $personality vserver $VERBOSE $vserver exec /usr/lib/rpm/rpmdb_load $guest_dir/$file
 219             done
 220             $personality vserver $VERBOSE $vserver exec rpm --rebuilddb
 221             return 0
 222         }
 223
 224         # try the simple way, if that fails try to cross fix the rpm hashes
 225         $personality vserver $VERBOSE $vserver exec rpm --rebuilddb || translate_rpm_hashes $personality $vserver
 226     fi
 227
 228     # check if the vserver kernel is using VSERVER_DEVICE (vdevmap) support
 229     need_vdevmap=$(grep "CONFIG_VSERVER_DEVICE=y" /boot/config-$(uname -r) | wc -l)
 230
 231     if [ $need_vdevmap -eq 1 ] ; then
 232         ctx=$(cat /etc/vservers/$vserver/context)
 233         vdevmap --set --xid $ctx --open --create --target /dev/null
 234         vdevmap --set --xid $ctx --open --create --target /dev/root
 235     fi
 236
 237     # minimal config in the vserver for yum to work
 238     [ "$pkg_method" = "yum" ] && configure_yum_in_vserver $vserver $fcdistro
 239
 240     # set up resolv.conf
 241     cp /etc/resolv.conf /vservers/$vserver/etc/resolv.conf
 242     # and /etc/hosts for at least localhost
 243     [ -f /vservers/$vserver/etc/hosts ] || echo "127.0.0.1 localhost localhost.localdomain" > /vservers/$vserver/etc/hosts
 244
 245 }
 246
 247 function devel_or_vtest_tools () {
 248
 249     set -x
 250     set -e
 251     trap failure ERR INT
 252
 253     vserver=$1; shift
 254     fcdistro=$1; shift
 255     pldistro=$1; shift
 256     personality=$1; shift
 257
 258     pkg_method=$(package_method $fcdistro)
 259
 260     # check for .pkgs file based on pldistro
 261     if [ -n "$VBUILD_MODE" ] ; then
 262         pkgsname=devel.pkgs
 263     else
 264         pkgsname=vtest.pkgs
 265     fi
 266     pkgsfile=$(pl_locateDistroFile $DIRNAME $pldistro $pkgsname)
 267
 268     ### install individual packages, then groups
 269     # get target arch - use uname -i here (we want either x86_64 or i386)
 270     vserver_arch=$($personality vserver $vserver exec uname -i)
 271     # on debian systems we get arch through the 'arch' command
 272     [ "$vserver_arch" = "unknown" ] && vserver_arch=$($personality vserver $vserver exec arch)
 273
 274     packages=$(pl_getPackages -a $vserver_arch $fcdistro $pldistro $pkgsfile)
 275     groups=$(pl_getGroups -a $vserver_arch $fcdistro $pldistro $pkgsfile)
 276
 277     [ "$pkg_method" = yum ] && [ -n "$packages" ] && $personality vserver $vserver exec yum -y install $packages
 278     [ "$pkg_method" = yum ] && for group_plus in $groups; do
 279         group=$(echo $group_plus | sed -e "s,+++, ,g")
 280         $personality vserver $vserver exec yum -y groupinstall "$group"
 281     done
 282
 283     [ "$pkg_method" = debootstrap ] && $personality vserver $vserver exec apt-get update
 284     [ "$pkg_method" = debootstrap ] && for package in $packages ; do
 285         $personality vserver $vserver exec apt-get install -y $package
 286     done
 287
 288     return 0
 289 }
 290
 291 function post_install () {
 292     if [ -n "$VBUILD_MODE" ] ; then
 293         post_install_vbuild "$@"
 294     else
 295         post_install_myplc "$@"
 296     fi
 297     # setup localtime from the host
 298     vserver=$1; shift
 299     cp /etc/localtime /vservers/$vserver/etc/localtime
 300 }
 301
 302 function post_install_vbuild () {
 303
 304     set -x
 305     set -e
 306     trap failure ERR INT
 307
 308     vserver=$1; shift
 309     personality=$1; shift
 310
 311 ### From myplc-devel-native.spec
 312 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 313     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
 314     # set up /dev/loop* in vserver
 315     for i in \$(seq 0 255) ; do
 316         mknod -m 640 /dev/loop\$i b 7 \$i
 317     done
 318
 319     # create symlink for /dev/fd
 320     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
 321
 322     # modify /etc/rpm/macros to not use /sbin/new-kernel-pkg
 323     sed -i 's,/sbin/new-kernel-pkg:,,' /etc/rpm/macros
 324     if [ -h "/sbin/new-kernel-pkg" ] ; then
 325         filename=\$(readlink -f /sbin/new-kernel-pkg)
 326         if [ "\$filename" == "/sbin/true" ] ; then
 327                 echo "WARNING: /sbin/new-kernel-pkg symlinked to /sbin/true"
 328                 echo "\tmost likely /etc/rpm/macros has /sbin/new-kernel-pkg declared in _netsharedpath."
 329                 echo "\tPlease remove /sbin/new-kernel-pkg from _netsharedpath and reintall mkinitrd."
 330                 exit 1
 331         fi
 332     fi
 333
 334     # customize root's prompt
 335     cat << PROFILE > /root/.profile
 336 export PS1="[$vserver] \\w # "
 337 PROFILE
 338
 339     uid=2000
 340     gid=2000
 341
 342     # add a "build" user to the system
 343     builduser=\$(grep "^build:" /etc/passwd | wc -l)
 344     if [ \$builduser -eq 0 ] ; then
 345         groupadd -o -g \$gid build;
 346         useradd -o -c 'Automated Build' -u \$uid -g \$gid -n -M -s /bin/bash build;
 347     fi
 348
 349 # Allow build user to build certain RPMs as root
 350     if [ -f /etc/sudoers ] ; then
 351         buildsudo=\$(grep "^build.*ALL=(ALL).*NOPASSWD:.*ALL"  /etc/sudoers | wc -l)
 352         if [ \$buildsudo -eq 0 ] ; then
 353             echo "build   ALL=(ALL)       NOPASSWD: ALL" >> /etc/sudoers
 354         fi
 355         sed -i 's,^Defaults.*requiretty,#Defaults requiretty,' /etc/sudoers
 356     fi
 357 #
 358 EOF
 359
 360 }
 361
 362 function post_install_myplc  () {
 363     set -x
 364     set -e
 365     trap failure ERR INT
 366
 367     vserver=$1; shift
 368     personality=$1; shift
 369
 370 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 371     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
 372
 373     # create /etc/sysconfig/network if missing
 374     [ -f /etc/sysconfig/network ] || echo NETWORKING=yes > /etc/sysconfig/network
 375
 376     # create symlink for /dev/fd
 377     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
 378
 379     # turn off regular crond, as plc invokes plc_crond
 380     chkconfig crond off
 381
 382     # take care of loginuid in /etc/pam.d
 383     sed -i "s,#*\(.*loginuid.*\),#\1," /etc/pam.d/*
 384
 385     # customize root's prompt
 386     cat << PROFILE > /root/.profile
 387 export PS1="[$vserver] \\w # "
 388 PROFILE
 389
 390 EOF
 391 }
 392
 393 # parses ifconfig's output to find out ip address and mask
 394 # will then be passed to vserver as e.g. --interface 138.96.250.126/255.255.0.0
 395 # default is to use lo, that's enough for local mirrors
 396 # use -i eth0 in case your fedora mirror is on a separate box on the network
 397 function vserverIfconfig () {
 398     ifname=$1; shift
 399     local result=""
 400     line=$(ifconfig $ifname 2> /dev/null | grep 'inet addr')
 401     if [ -n "$line" ] ; then
 402         set $line
 403         for word in "$@" ; do
 404             addr=$(echo $word | sed -e s,[aA][dD][dD][rR]:,,)
 405             mask=$(echo $word | sed -e s,[mM][aA][sS][kK]:,,)
 406             if [ "$word" != "$addr" ] ; then
 407                 result="${addr}"
 408             elif [ "$word" != "$mask" ] ; then
 409                 result="${result}/${mask}"
 410             fi
 411         done
 412     fi
 413     if [ -z "$result" ] ; then
 414         echo "vserverIfconfig failed to locate $ifname"
 415         exit 1
 416     else
 417         echo $result
 418     fi
 419 }
 420
 421 function usage () {
 422     set +x
 423     echo "Usage: $COMMAND_VBUILD [options] vserver-name [ -- vserver-options ]"
 424     echo "Usage: $COMMAND_MYPLC [options] vserver-name repo-url [ -- vserver-options ]"
 425     echo "Requirements: you need to have a vserver-compliant kernel,"
 426     echo "   as well as the util-vserver RPM installed"
 427     echo "Description:"
 428     echo "   This command creates a fresh vserver instance, for building, or running, myplc"
 429     echo "Supported options"
 430     echo " -f fcdistro - for creating the root filesystem - defaults to $DEFAULT_FCDISTRO"
 431     echo " -d pldistro - defaults to $DEFAULT_PLDISTRO"
 432     echo " -p personality - defaults to $DEFAULT_PERSONALITY"
 433     echo " -i ifname: determines ip and netmask attached to ifname, and passes it to the vserver"
 434     echo " -v : verbose - passes -v to calls to vserver"
 435     echo "vserver-options"
 436     echo "  all args after the optional -- are passed to vserver <name> build <options>"
 437     echo "  typical usage is e.g. --interface eth0:200.150.100.10/24"
 438     echo "With $COMMAND_MYPLC you can give 'none' as the URL, in which case"
 439     echo "   myplc.repo does not get created"
 440     exit 1
 441 }
 442
 443 ### parse args and
 444 function main () {
 445
 446     set -e
 447     trap failure ERR INT
 448
 449     case "$COMMAND" in
 450         $COMMAND_VBUILD)
 451             VBUILD_MODE=true ;;
 452         $COMMAND_MYPLC)
 453             MYPLC_MODE=true;;
 454         *)
 455             usage ;;
 456     esac
 457
 458     VERBOSE=
 459     IFNAME=""
 460     VSERVER_OPTIONS=""
 461     while getopts "f:d:p:i:v" opt ; do
 462         case $opt in
 463             f) fcdistro=$OPTARG;;
 464             d) pldistro=$OPTARG;;
 465             p) personality=$OPTARG;;
 466             i) IFNAME=$OPTARG;;
 467             v) VERBOSE="-v" ;;
 468             *) usage ;;
 469         esac
 470     done
 471
 472     shift $(($OPTIND - 1))
 473
 474     # parse fixed arguments
 475     [[ -z "$@" ]] && usage
 476     vserver=$1 ; shift
 477     if [ -n "$MYPLC_MODE" ] ; then
 478         [[ -z "$@" ]] && usage
 479         REPO_URL=$1 ; shift
 480     fi
 481
 482     # parse vserver options
 483     if [[ -n "$@" ]] ; then
 484         if [ "$1" == "--" ] ; then
 485             shift
 486             VSERVER_OPTIONS="$@"
 487         else
 488             usage
 489         fi
 490     fi
 491
 492     # with new util-vserver, it is mandatory to provide an IP even for building
 493     if [ -n "$VBUILD_MODE" ] ; then
 494         [ -z "$IFNAME" ] && IFNAME=$DEFAULT_IFNAME
 495     fi
 496     if [ -n "$IFNAME" ] ; then
 497         localip=$(vserverIfconfig $IFNAME)
 498         VSERVER_OPTIONS="$VSERVER_OPTIONS --interface $localip"
 499     fi
 500
 501     [ -z "$fcdistro" ] && fcdistro=$DEFAULT_FCDISTRO
 502     [ -z "$pldistro" ] && pldistro=$DEFAULT_PLDISTRO
 503     [ -z "$personality" ] && personality=$DEFAULT_PERSONALITY
 504
 505     setup_vserver $vserver $fcdistro $personality
 506     devel_or_vtest_tools $vserver $fcdistro $pldistro $personality
 507     post_install $vserver $personality
 508
 509 }
 510
 511 main "$@"