vbuild-init-vserver.sh

   1 #!/bin/bash
   2 # -*-shell-*-
   3 # $Id$
   4
   5 COMMAND=$(basename $0)
   6 DIRNAME=$(dirname $0)
   7
   8 # pkgs parsing utilities
   9 PATH=$(dirname $0):$PATH . build.common
  10
  11 DEFAULT_FCDISTRO=centos5
  12 DEFAULT_PLDISTRO=planetlab
  13 DEFAULT_PERSONALITY=linux32
  14 DEFAULT_IFNAME=eth0
  15
  16 COMMAND_VBUILD="vbuild-init-vserver.sh"
  17 COMMAND_MYPLC="vtest-init-vserver.sh"
  18
  19 function failure () {
  20     echo "$COMMAND : Bailing out"
  21     exit 1
  22 }
  23
  24 # overwrite vserver's internal yum config from what is in
  25 # .distributions/<distrib>/yum/yum.conf and /yum.repos.d
  26
  27 function configure_yum_in_vserver () {
  28     set -x
  29     set -e
  30     trap failure ERR INT
  31
  32     vserver=$1; shift
  33     fcdistro=$1; shift
  34
  35     templates=/etc/vservers/.distributions/${fcdistro}
  36     if [ -f ${templates}/yum/yum.conf ] ; then
  37         echo "Initializing yum.conf in $vserver from ${templates}/yum"
  38         sed -e "s!@YUMETCDIR@!/etc!g;
  39                 s!@YUMCACHEDIR@!/var/cache/yum!g;
  40                 s!@YUMLOGDIR@!/var/log!g;
  41                 s!@YUMLOCKDIR@!/var/lock!g;
  42                " ${templates}/yum/yum.conf > /vservers/$vserver/etc/yum.conf
  43
  44         # post process the various @...@ variables from this yum.conf file.
  45     else
  46         echo "Using $fcdistro default for yum.conf"
  47     fi
  48
  49     if [ -d ${templates}/yum.repos.d ] ; then
  50         echo "Initializing yum.repos.d in $vserver from ${templates}/yum.repos.d"
  51         rm -rf /vservers/$vserver/etc/yum.repos.d
  52         tar -C ${templates} -cf - yum.repos.d | tar -C /vservers/$vserver/etc -xvf -
  53     else
  54         echo "Cannot initialize yum.repos.d in $vserver"
  55     fi
  56
  57     if [ -n "$MYPLC_MODE" ] ; then
  58         if [ ! -d /vservers/$vserver/etc/yum.repos.d ] ; then
  59             echo "WARNING : cannot create myplc repo"
  60         else
  61             # exclude kernel from fedora repos
  62             for repo in /vservers/$vserver/etc/yum.repos.d/* ; do
  63                 [ -f $repo ] && yumconf_exclude $repo "exclude=$pl_KEXCLUDES"
  64             done
  65             # the build repo is not signed at this stage
  66             cat > /vservers/$vserver/etc/yum.repos.d/myplc.repo <<EOF
  67 [myplc]
  68 name= MyPLC
  69 baseurl=$REPO_URL
  70 enabled=1
  71 gpgcheck=0
  72 EOF
  73         fi
  74     fi
  75 }
  76
  77 # return yum or debootstrap
  78 function package_method () {
  79     fcdistro=$1; shift
  80     case $fcdistro in
  81         f[0-9]*|centos[0-9]*) echo yum ;;
  82         lenny|etch) echo debootstrap ;;
  83         *) echo Unknown distro $fcdistro ;;
  84     esac
  85 }
  86
  87 # return arch from debian distro and personality
  88 function canonical_arch () {
  89     personality=$1; shift
  90     fcdistro=$1; shift
  91     case $(package_method $fcdistro) in
  92         yum)
  93             case $personality in *32) echo i386 ;; *64) echo x86_64 ;; *) echo Unknown-arch-1 ;; esac ;;
  94         debootstrap)
  95             case $personality in *32) echo i386 ;; *64) echo amd64 ;; *) echo Unknown-arch-2 ;; esac ;;
  96         *)
  97             echo Unknown-arch-3 ;;
  98     esac
  99 }
 100
 101 function setup_vserver () {
 102
 103     set -x
 104     set -e
 105     trap failure ERR INT
 106
 107     vserver=$1; shift
 108     fcdistro=$1; shift
 109     personality=$1; shift
 110
 111     if [ -d /vservers/$vserver ] ; then
 112         echo "$COMMAND : vserver $vserver seems to exist - bailing out"
 113         exit 1
 114     fi
 115
 116     pkg_method=$(package_method $fcdistro)
 117     case $pkg_method in
 118         yum)
 119             build_options="-m yum -- -d $fcdistro"
 120             ;;
 121         debootstrap)
 122             arch=$(canonical_arch $personality $fcdistro)
 123             build_options="-m debootstrap -- -d $fcdistro -- --arch $arch"
 124             ;;
 125         *)
 126             build_options="something wrong" ;;
 127     esac
 128
 129     # create it
 130     # try to work around the vserver issue:
 131     # vc_ctx_migrate: No such process
 132     # rpm-fake.so: failed to initialize communication with resolver
 133     for i in $(seq 20) ; do
 134         $personality vserver $VERBOSE $vserver build $VSERVER_OPTIONS $build_options && break || true
 135         echo "* ${i}-th attempt to 'vserver build' failed - waiting for 3 seconds"
 136         sleep 3
 137     done
 138     # check success
 139     [ -d /vservers/$vserver ]
 140
 141     if [ ! -z "$personality" ] ; then
 142         if [ -f "/etc/vservers/$vserver/personality" ] ; then
 143             registered_personality=$(grep $personality /etc/vservers/$vserver/personality | wc -l)
 144         else
 145             registered_personality=0
 146         fi
 147         if [ $registered_personality -eq 0 -a "$personality" != "linux64" ] ; then
 148             echo $personality >> /etc/vservers/$vserver/personality
 149         fi
 150     fi
 151
 152     if [ -n "$VBUILD_MODE" ] ; then
 153         ### capabilities required for a build vserver
 154         # set up appropriate vserver capabilities to mount, mknod and IPC_LOCK
 155         BCAPFILE=/etc/vservers/$vserver/bcapabilities
 156         touch $BCAPFILE
 157         cap=$(grep ^CAP_SYS_ADMIN /etc/vservers/$vserver/bcapabilities | wc -l)
 158         [ $cap -eq 0 ] && echo 'CAP_SYS_ADMIN' >> /etc/vservers/$vserver/bcapabilities
 159         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
 160         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
 161         cap=$(grep ^CAP_IPC_LOCK /etc/vservers/$vserver/bcapabilities | wc -l)
 162         [ $cap -eq 0 ] && echo 'CAP_IPC_LOCK' >> /etc/vservers/$vserver/bcapabilities
 163     else
 164         ### capabilities required for a myplc vserver
 165         # for /etc/plc.d/gpg - need to init /dev/random
 166         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
 167         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
 168         cap=$(grep ^CAP_NET_BIND_SERVICE /etc/vservers/$vserver/bcapabilities | wc -l)
 169         [ $cap -eq 0 ] && echo 'CAP_NET_BIND_SERVICE' >> /etc/vservers/$vserver/bcapabilities
 170     fi
 171
 172     if [ "$pkg_method" = "yum" ] ; then
 173         $personality vyum $vserver -- -y install yum
 174         # ditto
 175         for i in $(seq 20) ; do
 176             $personality vserver $VERBOSE $vserver pkgmgmt internalize && break || true
 177             echo "* ${i}-th attempt to 'vserver pkgmgmt internalize' failed - waiting for 3 seconds"
 178             sleep 3
 179         done
 180     fi
 181
 182     # start the vserver so we can do the following operations
 183     $personality vserver $VERBOSE $vserver start
 184     [ "$pkg_method" = "yum" ] && $personality vserver $VERBOSE $vserver exec sh -c "rm -f /var/lib/rpm/__db*"
 185     [ "$pkg_method" = "yum" ] && $personality vserver $VERBOSE $vserver exec rpm --rebuilddb
 186
 187     # with vserver 2.3, granting the vserver CAP_MKNOD is not enough
 188     # check whether we run vs2.3 or above
 189     vs_version=$(uname -a  | sed -e 's,.*[\.\-]vs\([0-9]\)\.\([0-9]\)\..*,\1\2,')
 190     # at this stage we have here 22 or 23
 191     need_vdevmap=$(( $vs_version >= 23 ))
 192
 193     if [ "$need_vdevmap" == 1 ] ; then
 194         ctx=$(cat /etc/vservers/$vserver/context)
 195         vdevmap --set --xid $ctx --open --create --target /dev/null
 196         vdevmap --set --xid $ctx --open --create --target /dev/root
 197     fi
 198
 199     # minimal config in the vserver for yum to work
 200     [ "$pkg_method" = "yum" ] && configure_yum_in_vserver $vserver $fcdistro
 201
 202     # set up resolv.conf
 203     cp /etc/resolv.conf /vservers/$vserver/etc/resolv.conf
 204     # and /etc/hosts for at least localhost
 205     [ -f /vservers/$vserver/etc/hosts ] || echo "127.0.0.1 localhost localhost.localdomain" > /vservers/$vserver/etc/hosts
 206 }
 207
 208 function devel_or_vtest_tools () {
 209
 210     set -x
 211     set -e
 212     trap failure ERR INT
 213
 214     vserver=$1; shift
 215     fcdistro=$1; shift
 216     pldistro=$1; shift
 217     personality=$1; shift
 218
 219     pkg_method=$(package_method $fcdistro)
 220
 221     # check for .pkgs file based on pldistro
 222     if [ -n "$VBUILD_MODE" ] ; then
 223         pkgsname=devel.pkgs
 224     else
 225         pkgsname=vtest.pkgs
 226     fi
 227     pkgsfile=$(pl_locateDistroFile $DIRNAME $pldistro $pkgsname)
 228
 229     ### install individual packages, then groups
 230     # get target arch - use uname -i here (we want either x86_64 or i386)
 231     vserver_arch=$($personality vserver $vserver exec uname -i)
 232     # on debian systems we get arch through the 'arch' command
 233     [ "$vserver_arch" = "unknown" ] && vserver_arch=$($personality vserver $vserver exec arch)
 234
 235     packages=$(pl_getPackages -a $vserver_arch $fcdistro $pldistro $pkgsfile)
 236     groups=$(pl_getGroups -a $vserver_arch $fcdistro $pldistro $pkgsfile)
 237
 238     [ "$pkg_method" = yum ] && [ -n "$packages" ] && $personality vserver $vserver exec yum -y install $packages
 239     [ "$pkg_method" = yum ] && [ -n "$groups" ] && $personality vserver $vserver exec yum -y groupinstall $groups
 240
 241     [ "$pkg_method" = debootstrap ] && $personality vserver $vserver exec apt-get update
 242     [ "$pkg_method" = debootstrap ] && for package in $packages ; do
 243         $personality vserver $vserver exec apt-get install -y $package
 244     done
 245
 246     return 0
 247 }
 248
 249 function post_install () {
 250     if [ -n "$VBUILD_MODE" ] ; then
 251         post_install_vbuild "$@"
 252     else
 253         post_install_myplc "$@"
 254     fi
 255     # setup localtime from the host
 256     vserver=$1; shift
 257     cp /etc/localtime /vservers/$vserver/etc/localtime
 258 }
 259
 260 function post_install_vbuild () {
 261
 262     set -x
 263     set -e
 264     trap failure ERR INT
 265
 266     vserver=$1; shift
 267     personality=$1; shift
 268
 269 ### From myplc-devel-native.spec
 270 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 271     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
 272     # set up /dev/loop* in vserver
 273     for i in \$(seq 0 255) ; do
 274         mknod -m 640 /dev/loop\$i b 7 \$i
 275     done
 276
 277     # create symlink for /dev/fd
 278     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
 279
 280     # modify /etc/rpm/macros to not use /sbin/new-kernel-pkg
 281     sed -i 's,/sbin/new-kernel-pkg:,,' /etc/rpm/macros
 282     if [ -h "/sbin/new-kernel-pkg" ] ; then
 283         filename=\$(readlink -f /sbin/new-kernel-pkg)
 284         if [ "\$filename" == "/sbin/true" ] ; then
 285                 echo "WARNING: /sbin/new-kernel-pkg symlinked to /sbin/true"
 286                 echo "\tmost likely /etc/rpm/macros has /sbin/new-kernel-pkg declared in _netsharedpath."
 287                 echo "\tPlease remove /sbin/new-kernel-pkg from _netsharedpath and reintall mkinitrd."
 288                 exit 1
 289         fi
 290     fi
 291
 292     # customize root's prompt
 293     cat << PROFILE > /root/.profile
 294 export PS1="[$vserver] \\w # "
 295 PROFILE
 296
 297     uid=2000
 298     gid=2000
 299
 300     # add a "build" user to the system
 301     builduser=\$(grep "^build:" /etc/passwd | wc -l)
 302     if [ \$builduser -eq 0 ] ; then
 303         groupadd -o -g \$gid build;
 304         useradd -o -c 'Automated Build' -u \$uid -g \$gid -n -M -s /bin/bash build;
 305     fi
 306
 307 # Allow build user to build certain RPMs as root
 308     if [ -f /etc/sudoers ] ; then
 309         buildsudo=\$(grep "^build.*ALL=(ALL).*NOPASSWD:.*ALL"  /etc/sudoers | wc -l)
 310         if [ \$buildsudo -eq 0 ] ; then
 311             echo "build   ALL=(ALL)       NOPASSWD: ALL" >> /etc/sudoers
 312         fi
 313         sed -i 's,^Defaults.*requiretty,#Defaults requiretty,' /etc/sudoers
 314     fi
 315 #
 316 EOF
 317
 318 }
 319
 320 function post_install_myplc  () {
 321     set -x
 322     set -e
 323     trap failure ERR INT
 324
 325     vserver=$1; shift
 326     personality=$1; shift
 327
 328 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 329     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
 330
 331     # create /etc/sysconfig/network if missing
 332     [ -f /etc/sysconfig/network ] || echo NETWORKING=yes > /etc/sysconfig/network
 333
 334     # create symlink for /dev/fd
 335     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
 336
 337     # turn off regular crond, as plc invokes plc_crond
 338     chkconfig crond off
 339
 340     # customize root's prompt
 341     cat << PROFILE > /root/.profile
 342 export PS1="[$vserver] \\w # "
 343 PROFILE
 344
 345 EOF
 346 }
 347
 348 # parses ifconfig's output to find out ip address and mask
 349 # will then be passed to vserver as e.g. --interface 138.96.250.126/255.255.0.0
 350 # default is to use lo, that's enough for local mirrors
 351 # use -i eth0 in case your fedora mirror is on a separate box on the network
 352 function vserverIfconfig () {
 353     ifname=$1; shift
 354     local result=""
 355     line=$(ifconfig $ifname 2> /dev/null | grep 'inet addr')
 356     if [ -n "$line" ] ; then
 357         set $line
 358         for word in "$@" ; do
 359             addr=$(echo $word | sed -e s,[aA][dD][dD][rR]:,,)
 360             mask=$(echo $word | sed -e s,[mM][aA][sS][kK]:,,)
 361             if [ "$word" != "$addr" ] ; then
 362                 result="${addr}"
 363             elif [ "$word" != "$mask" ] ; then
 364                 result="${result}/${mask}"
 365             fi
 366         done
 367     fi
 368     if [ -z "$result" ] ; then
 369         echo "vserverIfconfig failed to locate $ifname"
 370         exit 1
 371     else
 372         echo $result
 373     fi
 374 }
 375
 376 function usage () {
 377     set +x
 378     echo "Usage: $COMMAND_VBUILD [options] vserver-name [ -- vserver-options ]"
 379     echo "Usage: $COMMAND_MYPLC [options] vserver-name repo-url [ -- vserver-options ]"
 380     echo "Requirements: you need to have a vserver-compliant kernel,"
 381     echo "   as well as the util-vserver RPM installed"
 382     echo "Description:"
 383     echo "   This command creates a fresh vserver instance, for building, or running, myplc"
 384     echo "Supported options"
 385     echo " -f fcdistro - for creating the root filesystem - defaults to $DEFAULT_FCDISTRO"
 386     echo " -d pldistro - defaults to $DEFAULT_PLDISTRO"
 387     echo " -p personality - defaults to $DEFAULT_PERSONALITY"
 388     echo " -i ifname: determines ip and netmask attached to ifname, and passes it to the vserver"
 389     echo " -v : verbose - passes -v to calls to vserver"
 390     echo "vserver-options"
 391     echo "  all args after the optional -- are passed to vserver <name> build <options>"
 392     echo "  typical usage is e.g. --interface eth0:200.150.100.10/24"
 393     exit 1
 394 }
 395
 396 ### parse args and
 397 function main () {
 398
 399     set -e
 400     trap failure ERR INT
 401
 402     case "$COMMAND" in
 403         $COMMAND_VBUILD)
 404             VBUILD_MODE=true ;;
 405         $COMMAND_MYPLC)
 406             MYPLC_MODE=true;;
 407         *)
 408             usage ;;
 409     esac
 410
 411     VERBOSE=
 412     IFNAME=""
 413     VSERVER_OPTIONS=""
 414     while getopts "f:d:p:i:v" opt ; do
 415         case $opt in
 416             f) fcdistro=$OPTARG;;
 417             d) pldistro=$OPTARG;;
 418             p) personality=$OPTARG;;
 419             i) IFNAME=$OPTARG;;
 420             v) VERBOSE="-v" ;;
 421             *) usage ;;
 422         esac
 423     done
 424
 425     shift $(($OPTIND - 1))
 426
 427     # parse fixed arguments
 428     [[ -z "$@" ]] && usage
 429     vserver=$1 ; shift
 430     if [ -n "$MYPLC_MODE" ] ; then
 431         [[ -z "$@" ]] && usage
 432         REPO_URL=$1 ; shift
 433     fi
 434
 435     # parse vserver options
 436     if [[ -n "$@" ]] ; then
 437         if [ "$1" == "--" ] ; then
 438             shift
 439             VSERVER_OPTIONS="$@"
 440         else
 441             usage
 442         fi
 443     fi
 444
 445     # with new util-vserver, it is mandatory to provide an IP even for building
 446     if [ -n "$VBUILD_MODE" ] ; then
 447         [ -z "$IFNAME" ] && IFNAME=$DEFAULT_IFNAME
 448     fi
 449     if [ -n "$IFNAME" ] ; then
 450         localip=$(vserverIfconfig $IFNAME)
 451         VSERVER_OPTIONS="$VSERVER_OPTIONS --interface $localip"
 452     fi
 453
 454     [ -z "$fcdistro" ] && fcdistro=$DEFAULT_FCDISTRO
 455     [ -z "$pldistro" ] && pldistro=$DEFAULT_PLDISTRO
 456     [ -z "$personality" ] && personality=$DEFAULT_PERSONALITY
 457
 458     setup_vserver $vserver $fcdistro $personality
 459     devel_or_vtest_tools $vserver $fcdistro $pldistro $personality
 460     post_install $vserver $personality
 461
 462 }
 463
 464 main "$@"