vbuild-init-vserver.sh

   1 #!/bin/bash
   2 # -*-shell-*-
   3
   4 COMMAND=$(basename $0)
   5 DIRNAME=$(dirname $0)
   6
   7 # pkgs parsing utilities
   8 PATH=$(dirname $0):$PATH . build.common
   9
  10 DEFAULT_FCDISTRO=f8
  11 DEFAULT_PLDISTRO=planetlab
  12 DEFAULT_PERSONALITY=linux32
  13 DEFAULT_IFNAME=eth0
  14
  15 COMMAND_VBUILD="vbuild-init-vserver.sh"
  16 COMMAND_MYPLC="vtest-init-vserver.sh"
  17
  18 function failure () {
  19     echo "$COMMAND : Bailing out"
  20     exit 1
  21 }
  22
  23 # overwrite vserver's internal yum config from what is in
  24 # .distributions/<distrib>/yum/yum.conf and /yum.repos.d
  25
  26 function configure_yum_in_vserver () {
  27     set -x
  28     set -e
  29     trap failure ERR INT
  30
  31     vserver=$1; shift
  32     fcdistro=$1; shift
  33
  34     pushd /etc/vservers/.distributions/${fcdistro}
  35     if [ -f yum/yum.conf ] ; then
  36         echo "Initializing yum.conf in $vserver from $(pwd)/yum"
  37         sed -e "s!@YUMETCDIR@!/etc!g;
  38                 s!@YUMCACHEDIR@!/var/cache/yum!g;
  39                 s!@YUMLOGDIR@!/var/log!g;
  40                 s!@YUMLOCKDIR@!/var/lock!g;
  41                " yum/yum.conf > /vservers/$vserver/etc/yum.conf
  42
  43         # post process the various @...@ variables from this yum.conf file.
  44     else
  45         echo "Using $fcdistro default for yum.conf"
  46     fi
  47
  48     if [ -d yum.repos.d ] ; then
  49         echo "Initializing yum.repos.d in $vserver from $(pwd)/yum.repos.d"
  50         rm -rf /vservers/$vserver/etc/yum.repos.d
  51         tar cf - yum.repos.d | tar -C /vservers/$vserver/etc -xvf -
  52     else
  53         echo "Cannot initialize yum.repos.d in $vserver"
  54     fi
  55
  56     if [ -n "$MYPLC_MODE" ] ; then
  57         if [ ! -d /vservers/$vserver/etc/yum.repos.d ] ; then
  58             echo "WARNING : cannot create myplc repo"
  59         else
  60             # exclude kernel from fedora repos
  61             for i in /vservers/$vserver/etc/yum.repos.d/* ; do
  62                 [ -f $i ] && echo "exclude=kernel* ulogd iptables" >> $i
  63             done
  64             # the build repo is not signed at this stage
  65             cat > /vservers/$vserver/etc/yum.repos.d/myplc.repo <<EOF
  66 [myplc]
  67 name= MyPLC
  68 baseurl=$REPO_URL
  69 enabled=1
  70 gpgcheck=0
  71 EOF
  72         fi
  73     fi
  74     popd
  75 }
  76
  77 function setup_vserver () {
  78
  79     set -x
  80     set -e
  81     trap failure ERR INT
  82
  83     vserver=$1; shift
  84     fcdistro=$1; shift
  85     personality=$1; shift
  86
  87     if [ -d /vservers/$vserver ] ; then
  88         echo "$COMMAND : vserver $vserver seems to exist - bailing out"
  89         exit 1
  90     fi
  91
  92     # create it
  93     # try to work around the vserver issue:
  94     # vc_ctx_migrate: No such process
  95     # rpm-fake.so: failed to initialize communication with resolver
  96     for i in $(seq 20) ; do
  97         $personality vserver $VERBOSE $vserver build $VSERVER_OPTIONS -m yum -- -d $fcdistro && break || true
  98         echo "* ${i}-th attempt to 'vserver build' failed - waiting for 3 seconds"
  99         sleep 3
 100     done
 101     # check success
 102     [ -d /vservers/$vserver ]
 103
 104     if [ ! -z "$personality" ] ; then
 105         if [ -f "/etc/vservers/$vserver/personality" ] ; then
 106             registered_personality=$(grep $personality /etc/vservers/$vserver/personality | wc -l)
 107         else
 108             registered_personality=0
 109         fi
 110         if [ $registered_personality -eq 0 -a "$personality" != "linux64" ] ; then
 111             echo $personality >> /etc/vservers/$vserver/personality
 112         fi
 113     fi
 114
 115     if [ -n "$VBUILD_MODE" ] ; then
 116         ### capabilities required for a build vserver
 117         # set up appropriate vserver capabilities to mount, mknod and IPC_LOCK
 118         BCAPFILE=/etc/vservers/$vserver/bcapabilities
 119         touch $BCAPFILE
 120         cap=$(grep ^CAP_SYS_ADMIN /etc/vservers/$vserver/bcapabilities | wc -l)
 121         [ $cap -eq 0 ] && echo 'CAP_SYS_ADMIN' >> /etc/vservers/$vserver/bcapabilities
 122         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
 123         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
 124         cap=$(grep ^CAP_IPC_LOCK /etc/vservers/$vserver/bcapabilities | wc -l)
 125         [ $cap -eq 0 ] && echo 'CAP_IPC_LOCK' >> /etc/vservers/$vserver/bcapabilities
 126     else
 127         ### capabilities required for a myplc vserver
 128         # for /etc/plc.d/gpg - need to init /dev/random
 129         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
 130         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
 131         cap=$(grep ^CAP_NET_BIND_SERVICE /etc/vservers/$vserver/bcapabilities | wc -l)
 132         [ $cap -eq 0 ] && echo 'CAP_NET_BIND_SERVICE' >> /etc/vservers/$vserver/bcapabilities
 133     fi
 134
 135     $personality vyum $vserver -- -y install yum
 136     # ditto
 137     for i in $(seq 20) ; do
 138         $personality vserver $VERBOSE $vserver pkgmgmt internalize && break || true
 139         echo "* ${i}-th attempt to 'vserver pkgmgmt internalize' failed - waiting for 3 seconds"
 140         sleep 3
 141     done
 142
 143     # start the vserver so we can do the following operations
 144     $personality vserver $VERBOSE $vserver start
 145     $personality vserver $VERBOSE $vserver exec sh -c "rm -f /var/lib/rpm/__db*"
 146     $personality vserver $VERBOSE $vserver exec rpm --rebuilddb
 147
 148     # with vserver 2.3, granting the vserver CAP_MKNOD is not enough
 149     # check whether we run vs2.3 or above
 150     vs_version=$(uname -a  | sed -e 's,.*[\.\-]vs\([0-9]\)\.\([0-9]\)\..*,\1\2,')
 151     # at this stage we have here 22 or 23
 152     need_vdevmap=$(( $vs_version >= 23 ))
 153
 154     if [ "$need_vdevmap" == 1 ] ; then
 155         util_vserver_215=0
 156         vdevmap --help | grep -- --set &> /dev/null && util_vserver_215=1
 157
 158         if [ "$util_vserver_215" == 1 ] ; then
 159             ctx=$(cat /etc/vservers/$vserver/context)
 160             vdevmap --set --xid $ctx --open --create --target /dev/null
 161             vdevmap --set --xid $ctx --open --create --target /dev/root
 162         else
 163             echo "You seem to be running vs2.3 with util-vserver < 0.30.215"
 164             echo "This combination is not supported by $COMMAND"
 165             echo "Please upgrade your environment"
 166             exit 1
 167 # this supposedly is an equivalent to using vdevmap as invoked above
 168 # but it's not going to work in this case
 169 #           mkdir -p /etc/vservers/$vserver/apps/vdevmap/default-{block,char}
 170 #           touch /etc/vservers/$vserver/apps/vdevmap/default-{block,char}/{open,create}
 171 #           echo /dev/root > /etc/vservers/$vserver/apps/vdevmap/default-block/target
 172 #           echo /dev/null > /etc/vservers/$vserver/apps/vdevmap/default-char/target
 173         fi
 174     fi
 175
 176     # minimal config in the vserver for yum to work
 177     configure_yum_in_vserver $vserver $fcdistro
 178
 179     # set up resolv.conf
 180     cp /etc/resolv.conf /vservers/$vserver/etc/resolv.conf
 181     # and /etc/hosts for at least localhost
 182     [ -f /vservers/$vserver/etc/hosts ] || echo "127.0.0.1 localhost localhost.localdomain" > /vservers/$vserver/etc/hosts
 183 }
 184
 185 function devel_or_vtest_tools () {
 186
 187     set -x
 188     set -e
 189     trap failure ERR INT
 190
 191     vserver=$1; shift
 192     fcdistro=$1; shift
 193     pldistro=$1; shift
 194     personality=$1; shift
 195
 196     # check for .pkgs file based on pldistro
 197     if [ -n "$VBUILD_MODE" ] ; then
 198         pkgsname=devel.pkgs
 199     else
 200         pkgsname=vtest.pkgs
 201     fi
 202     pkgsfile=$(pl_locateDistroFile $DIRNAME $pldistro $pkgsname)
 203
 204     # install individual packages, then groups
 205     packages=$(pl_getPackages $fcdistro $pldistro $pkgsfile)
 206     groups=$(pl_getGroups $fcdistro $pldistro $pkgsfile)
 207
 208     [ -n "$packages" ] && $personality vserver $vserver exec yum -y install $packages
 209     [ -n "$groups" ] && $personality vserver $vserver exec yum -y groupinstall $groups
 210     return 0
 211 }
 212
 213 function post_install () {
 214     if [ -n "$VBUILD_MODE" ] ; then
 215         post_install_vbuild "$@"
 216     else
 217         post_install_myplc "$@"
 218     fi
 219     # setup localtime from the host
 220     vserver=$1; shift
 221     cp /etc/localtime /vservers/$vserver/etc/localtime
 222 }
 223
 224 function post_install_vbuild () {
 225
 226     set -x
 227     set -e
 228     trap failure ERR INT
 229
 230     vserver=$1; shift
 231     personality=$1; shift
 232
 233 ### From myplc-devel-native.spec
 234 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 235     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
 236     # set up /dev/loop* in vserver
 237     for i in \$(seq 0 255) ; do
 238         mknod -m 640 /dev/loop\$i b 7 \$i
 239     done
 240
 241     # create symlink for /dev/fd
 242     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
 243
 244     # modify /etc/rpm/macros to not use /sbin/new-kernel-pkg
 245     sed -i 's,/sbin/new-kernel-pkg:,,' /etc/rpm/macros
 246     if [ -h "/sbin/new-kernel-pkg" ] ; then
 247         filename=\$(readlink -f /sbin/new-kernel-pkg)
 248         if [ "\$filename" == "/sbin/true" ] ; then
 249                 echo "WARNING: /sbin/new-kernel-pkg symlinked to /sbin/true"
 250                 echo "\tmost likely /etc/rpm/macros has /sbin/new-kernel-pkg declared in _netsharedpath."
 251                 echo "\tPlease remove /sbin/new-kernel-pkg from _netsharedpath and reintall mkinitrd."
 252                 exit 1
 253         fi
 254     fi
 255
 256     # customize root's prompt
 257     cat << PROFILE > /root/.profile
 258 export PS1="[$vserver] \\w # "
 259 PROFILE
 260
 261     uid=2000
 262     gid=2000
 263
 264     # add a "build" user to the system
 265     builduser=\$(grep "^build:" /etc/passwd | wc -l)
 266     if [ \$builduser -eq 0 ] ; then
 267         groupadd -o -g \$gid build;
 268         useradd -o -c 'Automated Build' -u \$uid -g \$gid -n -M -s /bin/bash build;
 269     fi
 270
 271 # Allow build user to build certain RPMs as root
 272     if [ -f /etc/sudoers ] ; then
 273         buildsudo=\$(grep "^build.*ALL=(ALL).*NOPASSWD:.*ALL"  /etc/sudoers | wc -l)
 274         if [ \$buildsudo -eq 0 ] ; then
 275             echo "build   ALL=(ALL)       NOPASSWD: ALL" >> /etc/sudoers
 276         fi
 277         sed -i 's,^Defaults.*requiretty,#Defaults requiretty,' /etc/sudoers
 278     fi
 279 #
 280 EOF
 281
 282 }
 283
 284 function post_install_myplc  () {
 285     set -x
 286     set -e
 287     trap failure ERR INT
 288
 289     vserver=$1; shift
 290     personality=$1; shift
 291
 292 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
 293     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
 294
 295     # create symlink for /dev/fd
 296     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
 297
 298     # customize root's prompt
 299     cat << PROFILE > /root/.profile
 300 export PS1="[$vserver] \\w # "
 301 PROFILE
 302
 303 EOF
 304 }
 305
 306 # parses ifconfig's output to find out ip address and mask
 307 # will then be passed to vserver as e.g. --interface 138.96.250.126/255.255.0.0
 308 # default is to use lo, that's enough for local mirrors
 309 # use -i eth0 in case your fedora mirror is on a separate box on the network
 310 function vserverIfconfig () {
 311     ifname=$1; shift
 312     local result=""
 313     line=$(ifconfig $ifname 2> /dev/null | grep 'inet addr')
 314     if [ -n "$line" ] ; then
 315         set $line
 316         for word in "$@" ; do
 317             addr=$(echo $word | sed -e s,[aA][dD][dD][rR]:,,)
 318             mask=$(echo $word | sed -e s,[mM][aA][sS][kK]:,,)
 319             if [ "$word" != "$addr" ] ; then
 320                 result="${addr}"
 321             elif [ "$word" != "$mask" ] ; then
 322                 result="${result}/${mask}"
 323             fi
 324         done
 325     fi
 326     if [ -z "$result" ] ; then
 327         echo "vserverIfconfig failed to locate $ifname"
 328         exit 1
 329     else
 330         echo $result
 331     fi
 332 }
 333
 334 function usage () {
 335     set +x
 336     echo "Usage: $COMMAND_VBUILD [options] vserver-name [ -- vserver-options ]"
 337     echo "Usage: $COMMAND_MYPLC [options] vserver-name repo-url [ -- vserver-options ]"
 338     echo "Requirements: you need to have a vserver-compliant kernel,"
 339     echo "   as well as the util-vserver RPM installed"
 340     echo "Description:"
 341     echo "   This command creates a fresh vserver instance, for building, or running, myplc"
 342     echo "Supported options"
 343     echo " -f fcdistro - for creating the root filesystem - defaults to $DEFAULT_FCDISTRO"
 344     echo " -d pldistro - defaults to $DEFAULT_PLDISTRO"
 345     echo " -p personality - defaults to $DEFAULT_PERSONALITY"
 346     echo " -i ifname: determines ip and netmask attached to ifname, and passes it to the vserver"
 347     echo " -v : verbose - passes -v to calls to vserver"
 348     echo "vserver-options"
 349     echo "  all args after the optional -- are passed to vserver <name> build <options>"
 350     echo "  typical usage is e.g. --interface eth0:200.150.100.10/24"
 351     exit 1
 352 }
 353
 354 ### parse args and
 355 function main () {
 356
 357     set -e
 358     trap failure ERR INT
 359
 360     case "$COMMAND" in
 361         $COMMAND_VBUILD)
 362             VBUILD_MODE=true ;;
 363         $COMMAND_MYPLC)
 364             MYPLC_MODE=true;;
 365         *)
 366             usage ;;
 367     esac
 368
 369     VERBOSE=
 370     IFNAME=""
 371     VSERVER_OPTIONS=""
 372     while getopts "f:d:p:i:v" opt ; do
 373         case $opt in
 374             f) fcdistro=$OPTARG;;
 375             d) pldistro=$OPTARG;;
 376             p) personality=$OPTARG;;
 377             i) IFNAME=$OPTARG;;
 378             v) VERBOSE="-v" ;;
 379             *) usage ;;
 380         esac
 381     done
 382
 383     shift $(($OPTIND - 1))
 384
 385     # parse fixed arguments
 386     [[ -z "$@" ]] && usage
 387     vserver=$1 ; shift
 388     if [ -n "$MYPLC_MODE" ] ; then
 389         [[ -z "$@" ]] && usage
 390         REPO_URL=$1 ; shift
 391     fi
 392
 393     # parse vserver options
 394     if [[ -n "$@" ]] ; then
 395         if [ "$1" == "--" ] ; then
 396             shift
 397             VSERVER_OPTIONS="$@"
 398         else
 399             usage
 400         fi
 401     fi
 402
 403     # with new util-vserver, it is mandatory to provide an IP even for building
 404     if [ -n "$VBUILD_MODE" ] ; then
 405         [ -z "$IFNAME" ] && IFNAME=$DEFAULT_IFNAME
 406     fi
 407     if [ -n "$IFNAME" ] ; then
 408         localip=$(vserverIfconfig $IFNAME)
 409         VSERVER_OPTIONS="$VSERVER_OPTIONS --interface $localip"
 410     fi
 411
 412     [ -z "$fcdistro" ] && fcdistro=$DEFAULT_FCDISTRO
 413     [ -z "$pldistro" ] && pldistro=$DEFAULT_PLDISTRO
 414     [ -z "$personality" ] && personality=$DEFAULT_PERSONALITY
 415
 416     setup_vserver $vserver $fcdistro $personality
 417     devel_or_vtest_tools $vserver $fcdistro $pldistro $personality
 418     post_install $vserver $personality
 419
 420 }
 421
 422 main "$@"