vbuild-init-vserver.sh

   1 #!/bin/bash
   2 # -*-shell-*-
   3 # $Id$
   4
   5 COMMAND=$(basename $0)
   6 DIRNAME=$(dirname $0)
   7
   8 # pkgs parsing utilities
   9 PATH=$(dirname $0):$PATH . build.common
  10
  11 DEFAULT_FCDISTRO=f8
  12 DEFAULT_PLDISTRO=planetlab
  13 DEFAULT_PERSONALITY=linux32
  14 DEFAULT_IFNAME=eth0
  15
  16 COMMAND_VBUILD="vbuild-init-vserver.sh"
  17 COMMAND_MYPLC="vtest-init-vserver.sh"
  18
  19 function failure () {
  20     echo "$COMMAND : Bailing out"
  21     exit 1
  22 }
  23
  24 # overwrite vserver's internal yum config from what is in
  25 # .distributions/<distrib>/yum/yum.conf and /yum.repos.d
  26
  27 function configure_yum_in_vserver () {
  28     set -x
  29     set -e
  30     trap failure ERR INT
  31
  32     vserver=$1; shift
  33     fcdistro=$1; shift
  34
  35     pushd /etc/vservers/.distributions/${fcdistro}
  36     if [ -f yum/yum.conf ] ; then
  37         echo "Initializing yum.conf in $vserver from $(pwd)/yum"
  38         sed -e "s!@YUMETCDIR@!/etc!g;
  39                 s!@YUMCACHEDIR@!/var/cache/yum!g;
  40                 s!@YUMLOGDIR@!/var/log!g;
  41                 s!@YUMLOCKDIR@!/var/lock!g;
  42                " yum/yum.conf > /vservers/$vserver/etc/yum.conf
  43
  44         # post process the various @...@ variables from this yum.conf file.
  45     else
  46         echo "Using $fcdistro default for yum.conf"
  47     fi
  48
  49     if [ -d yum.repos.d ] ; then
  50         echo "Initializing yum.repos.d in $vserver from $(pwd)/yum.repos.d"
  51         rm -rf /vservers/$vserver/etc/yum.repos.d
  52         tar cf - yum.repos.d | tar -C /vservers/$vserver/etc -xvf -
  53     else
  54         echo "Cannot initialize yum.repos.d in $vserver"
  55     fi
  56
  57     if [ -n "$MYPLC_MODE" ] ; then
  58         if [ ! -d /vservers/$vserver/etc/yum.repos.d ] ; then
  59             echo "WARNING : cannot create myplc repo"
  60         else
  61             # exclude kernel from fedora repos
  62             for i in /vservers/$vserver/etc/yum.repos.d/* ; do
  63                 [ -f $i ] && echo "exclude=kernel* ulogd iptables" >> $i
  64             done
  65             # the build repo is not signed at this stage
  66             cat > /vservers/$vserver/etc/yum.repos.d/myplc.repo <<EOF
  67 [myplc]
  68 name= MyPLC
  69 baseurl=$REPO_URL
  70 enabled=1
  71 gpgcheck=0
  72 EOF
  73         fi
  74     fi
  75     popd
  76 }
  77
  78 function setup_vserver () {
  79
  80     set -x
  81     set -e
  82     trap failure ERR INT
  83
  84     vserver=$1; shift
  85     fcdistro=$1; shift
  86     personality=$1; shift
  87
  88     if [ -d /vservers/$vserver ] ; then
  89         echo "$COMMAND : vserver $vserver seems to exist - bailing out"
  90         exit 1
  91     fi
  92
  93     # create it
  94     # try to work around the vserver issue:
  95     # vc_ctx_migrate: No such process
  96     # rpm-fake.so: failed to initialize communication with resolver
  97     for i in $(seq 20) ; do
  98         $personality vserver $VERBOSE $vserver build $VSERVER_OPTIONS -m yum -- -d $fcdistro && break || true
  99         echo "* ${i}-th attempt to 'vserver build' failed - waiting for 3 seconds"
 100         sleep 3
 101     done
 102     # check success
 103     [ -d /vservers/$vserver ]
 104
 105     if [ ! -z "$personality" ] ; then
 106         if [ -f "/etc/vservers/$vserver/personality" ] ; then
 107             registered_personality=$(grep $personality /etc/vservers/$vserver/personality | wc -l)
 108         else
 109             registered_personality=0
 110         fi
 111         if [ $registered_personality -eq 0 -a "$personality" != "linux64" ] ; then
 112             echo $personality >> /etc/vservers/$vserver/personality
 113         fi
 114     fi
 115
 116     if [ -n "$VBUILD_MODE" ] ; then
 117         ### capabilities required for a build vserver
 118         # set up appropriate vserver capabilities to mount, mknod and IPC_LOCK
 119         BCAPFILE=/etc/vservers/$vserver/bcapabilities
 120         touch $BCAPFILE
 121         cap=$(grep ^CAP_SYS_ADMIN /etc/vservers/$vserver/bcapabilities | wc -l)
 122         [ $cap -eq 0 ] && echo 'CAP_SYS_ADMIN' >> /etc/vservers/$vserver/bcapabilities
 123         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
 124         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
 125         cap=$(grep ^CAP_IPC_LOCK /etc/vservers/$vserver/bcapabilities | wc -l)
 126         [ $cap -eq 0 ] && echo 'CAP_IPC_LOCK' >> /etc/vservers/$vserver/bcapabilities
 127     else
 128         ### capabilities required for a myplc vserver
 129         # for /etc/plc.d/gpg - need to init /dev/random
 130         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
 131         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
 132         cap=$(grep ^CAP_NET_BIND_SERVICE /etc/vservers/$vserver/bcapabilities | wc -l)
 133         [ $cap -eq 0 ] && echo 'CAP_NET_BIND_SERVICE' >> /etc/vservers/$vserver/bcapabilities
 134     fi
 135
 136     $personality vyum $vserver -- -y install yum
 137     # ditto
 138     for i in $(seq 20) ; do
 139         $personality vserver $VERBOSE $vserver pkgmgmt internalize && break || true
 140         echo "* ${i}-th attempt to 'vserver pkgmgmt internalize' failed - waiting for 3 seconds"
 141         sleep 3
 142     done
 143
 144     # start the vserver so we can do the following operations
 145     $personality vserver $VERBOSE $vserver start
 146     $personality vserver $VERBOSE $vserver exec sh -c "rm -f /var/lib/rpm/__db*"
 147     $personality vserver $VERBOSE $vserver exec rpm --rebuilddb
 148
 149     # with vserver 2.3, granting the vserver CAP_MKNOD is not enough
 150     # check whether we run vs2.3 or above
 151     vs_version=$(uname -a  | sed -e 's,.*[\.\-]vs\([0-9]\)\.\([0-9]\)\..*,\1\2,')
 152     # at this stage we have here 22 or 23
 153     need_vdevmap=$(( $vs_version >= 23 ))
 154
 155     if [ "$need_vdevmap" == 1 ] ; then
 156         util_vserver_215=0
 157         vdevmap --help | grep -- --set &> /dev/null && util_vserver_215=1
 158
 159         if [ "$util_vserver_215" == 1 ] ; then
 160             ctx=$(cat /etc/vservers/$vserver/context)
 161             vdevmap --set --xid $ctx --open --create --target /dev/null
 162             vdevmap --set --xid $ctx --open --create --target /dev/root
 163         else
 164             echo "You seem to be running vs2.3 with util-vserver < 0.30.215"
 165             echo "This combination is not supported by $COMMAND"
 166             echo "Please upgrade your environment"
 167             exit 1
 168 # this supposedly is an equivalent to using vdevmap as invoked above
 169 # but it's not going to work in this case
 170 #           mkdir -p /etc/vservers/$vserver/apps/vdevmap/default-{block,char}
 171 #           touch /etc/vservers/$vserver/apps/vdevmap/default-{block,char}/{open,create}
 172 #           echo /dev/root > /etc/vservers/$vserver/apps/vdevmap/default-block/target
 173 #           echo /dev/null > /etc/vservers/$vserver/apps/vdevmap/default-char/target
 174         fi
 175     fi
 176
 177     # minimal config in the vserver for yum to work
 178     configure_yum_in_vserver $vserver $fcdistro
 179
 180     # set up resolv.conf
 181     cp /etc/resolv.conf /vservers/$vserver/etc/resolv.conf
 182     # and /etc/hosts for at least localhost
 183     [ -f /vservers/$vserver/etc/hosts ] || echo "127.0.0.1 localhost localhost.localdomain" > /vservers/$vserver/etc/hosts
 184 }
 185
 186 function devel_or_vtest_tools () {
 187
 188     set -x
 189     set -e
 190     trap failure ERR INT
 191
 192     vserver=$1; shift
 193     fcdistro=$1; shift
 194     pldistro=$1; shift
 195     personality=$1; shift
 196
 197     # check for .pkgs file based on pldistro
 198     if [ -n "$VBUILD_MODE" ] ; then
 199         pkgsname=devel.pkgs
 200     else
 201         pkgsname=vtest.pkgs
 202     fi
 203     pkgsfile=$(pl_locateDistroFile $DIRNAME $pldistro $pkgsname)
 204
 205     ### install individual packages, then groups
 206     # get target arch - use uname -i here (we want either x86_64 or i386)
 207     vserver_arch=$($personality vserver $vserver exec uname -i)
 208
 209     packages=$(pl_getPackages -a $vserver_arch $fcdistro $pldistro $pkgsfile)
 210     groups=$(pl_getGroups -a $vserver_arch $fcdistro $pldistro $pkgsfile)
 211
 212     [ -n "$packages" ] && $personality vserver $vserver exec yum -y install $packages
 213     [ -n "$groups" ] && $personality vserver $vserver exec yum -y groupinstall $groups
 214     return 0
 215 }
 216
 217 function post_install () {
 218     if [ -n "$VBUILD_MODE" ] ; then
 219         post_install_vbuild "$@"
 220     else
 221         post_install_myplc "$@"
 222     fi
 223     # setup localtime from the host
 224     vserver=$1; shift
 225     cp /etc/localtime /vservers/$vserver/etc/localtime
 226 }
 227
 228 function post_install_vbuild () {
 229
 230     set -x
 231     set -e
 232     trap failure ERR INT
 233
 234     vserver=$1; shift
 235     personality=$1; shift
 236
 237 ### From myplc-devel-native.spec
 238 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 239     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
 240     # set up /dev/loop* in vserver
 241     for i in \$(seq 0 255) ; do
 242         mknod -m 640 /dev/loop\$i b 7 \$i
 243     done
 244
 245     # create symlink for /dev/fd
 246     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
 247
 248     # modify /etc/rpm/macros to not use /sbin/new-kernel-pkg
 249     sed -i 's,/sbin/new-kernel-pkg:,,' /etc/rpm/macros
 250     if [ -h "/sbin/new-kernel-pkg" ] ; then
 251         filename=\$(readlink -f /sbin/new-kernel-pkg)
 252         if [ "\$filename" == "/sbin/true" ] ; then
 253                 echo "WARNING: /sbin/new-kernel-pkg symlinked to /sbin/true"
 254                 echo "\tmost likely /etc/rpm/macros has /sbin/new-kernel-pkg declared in _netsharedpath."
 255                 echo "\tPlease remove /sbin/new-kernel-pkg from _netsharedpath and reintall mkinitrd."
 256                 exit 1
 257         fi
 258     fi
 259
 260     # customize root's prompt
 261     cat << PROFILE > /root/.profile
 262 export PS1="[$vserver] \\w # "
 263 PROFILE
 264
 265     uid=2000
 266     gid=2000
 267
 268     # add a "build" user to the system
 269     builduser=\$(grep "^build:" /etc/passwd | wc -l)
 270     if [ \$builduser -eq 0 ] ; then
 271         groupadd -o -g \$gid build;
 272         useradd -o -c 'Automated Build' -u \$uid -g \$gid -n -M -s /bin/bash build;
 273     fi
 274
 275 # Allow build user to build certain RPMs as root
 276     if [ -f /etc/sudoers ] ; then
 277         buildsudo=\$(grep "^build.*ALL=(ALL).*NOPASSWD:.*ALL"  /etc/sudoers | wc -l)
 278         if [ \$buildsudo -eq 0 ] ; then
 279             echo "build   ALL=(ALL)       NOPASSWD: ALL" >> /etc/sudoers
 280         fi
 281         sed -i 's,^Defaults.*requiretty,#Defaults requiretty,' /etc/sudoers
 282     fi
 283 #
 284 EOF
 285
 286 }
 287
 288 function post_install_myplc  () {
 289     set -x
 290     set -e
 291     trap failure ERR INT
 292
 293     vserver=$1; shift
 294     personality=$1; shift
 295
 296 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 297     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
 298
 299     # create symlink for /dev/fd
 300     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
 301
 302     # turn off regular crond, as plc invokes plc_crond
 303     chkconfig crond off
 304
 305     # customize root's prompt
 306     cat << PROFILE > /root/.profile
 307 export PS1="[$vserver] \\w # "
 308 PROFILE
 309
 310 EOF
 311 }
 312
 313 # parses ifconfig's output to find out ip address and mask
 314 # will then be passed to vserver as e.g. --interface 138.96.250.126/255.255.0.0
 315 # default is to use lo, that's enough for local mirrors
 316 # use -i eth0 in case your fedora mirror is on a separate box on the network
 317 function vserverIfconfig () {
 318     ifname=$1; shift
 319     local result=""
 320     line=$(ifconfig $ifname 2> /dev/null | grep 'inet addr')
 321     if [ -n "$line" ] ; then
 322         set $line
 323         for word in "$@" ; do
 324             addr=$(echo $word | sed -e s,[aA][dD][dD][rR]:,,)
 325             mask=$(echo $word | sed -e s,[mM][aA][sS][kK]:,,)
 326             if [ "$word" != "$addr" ] ; then
 327                 result="${addr}"
 328             elif [ "$word" != "$mask" ] ; then
 329                 result="${result}/${mask}"
 330             fi
 331         done
 332     fi
 333     if [ -z "$result" ] ; then
 334         echo "vserverIfconfig failed to locate $ifname"
 335         exit 1
 336     else
 337         echo $result
 338     fi
 339 }
 340
 341 function usage () {
 342     set +x
 343     echo "Usage: $COMMAND_VBUILD [options] vserver-name [ -- vserver-options ]"
 344     echo "Usage: $COMMAND_MYPLC [options] vserver-name repo-url [ -- vserver-options ]"
 345     echo "Requirements: you need to have a vserver-compliant kernel,"
 346     echo "   as well as the util-vserver RPM installed"
 347     echo "Description:"
 348     echo "   This command creates a fresh vserver instance, for building, or running, myplc"
 349     echo "Supported options"
 350     echo " -f fcdistro - for creating the root filesystem - defaults to $DEFAULT_FCDISTRO"
 351     echo " -d pldistro - defaults to $DEFAULT_PLDISTRO"
 352     echo " -p personality - defaults to $DEFAULT_PERSONALITY"
 353     echo " -i ifname: determines ip and netmask attached to ifname, and passes it to the vserver"
 354     echo " -v : verbose - passes -v to calls to vserver"
 355     echo "vserver-options"
 356     echo "  all args after the optional -- are passed to vserver <name> build <options>"
 357     echo "  typical usage is e.g. --interface eth0:200.150.100.10/24"
 358     exit 1
 359 }
 360
 361 ### parse args and
 362 function main () {
 363
 364     set -e
 365     trap failure ERR INT
 366
 367     case "$COMMAND" in
 368         $COMMAND_VBUILD)
 369             VBUILD_MODE=true ;;
 370         $COMMAND_MYPLC)
 371             MYPLC_MODE=true;;
 372         *)
 373             usage ;;
 374     esac
 375
 376     VERBOSE=
 377     IFNAME=""
 378     VSERVER_OPTIONS=""
 379     while getopts "f:d:p:i:v" opt ; do
 380         case $opt in
 381             f) fcdistro=$OPTARG;;
 382             d) pldistro=$OPTARG;;
 383             p) personality=$OPTARG;;
 384             i) IFNAME=$OPTARG;;
 385             v) VERBOSE="-v" ;;
 386             *) usage ;;
 387         esac
 388     done
 389
 390     shift $(($OPTIND - 1))
 391
 392     # parse fixed arguments
 393     [[ -z "$@" ]] && usage
 394     vserver=$1 ; shift
 395     if [ -n "$MYPLC_MODE" ] ; then
 396         [[ -z "$@" ]] && usage
 397         REPO_URL=$1 ; shift
 398     fi
 399
 400     # parse vserver options
 401     if [[ -n "$@" ]] ; then
 402         if [ "$1" == "--" ] ; then
 403             shift
 404             VSERVER_OPTIONS="$@"
 405         else
 406             usage
 407         fi
 408     fi
 409
 410     # with new util-vserver, it is mandatory to provide an IP even for building
 411     if [ -n "$VBUILD_MODE" ] ; then
 412         [ -z "$IFNAME" ] && IFNAME=$DEFAULT_IFNAME
 413     fi
 414     if [ -n "$IFNAME" ] ; then
 415         localip=$(vserverIfconfig $IFNAME)
 416         VSERVER_OPTIONS="$VSERVER_OPTIONS --interface $localip"
 417     fi
 418
 419     [ -z "$fcdistro" ] && fcdistro=$DEFAULT_FCDISTRO
 420     [ -z "$pldistro" ] && pldistro=$DEFAULT_PLDISTRO
 421     [ -z "$personality" ] && personality=$DEFAULT_PERSONALITY
 422
 423     setup_vserver $vserver $fcdistro $personality
 424     devel_or_vtest_tools $vserver $fcdistro $pldistro $personality
 425     post_install $vserver $personality
 426
 427 }
 428
 429 main "$@"