scripts/nightly-build.sh

   1 #!/bin/bash
   2
   3 # use svn propset svn:keywords Revision to enable this
   4 REVISION=$(echo '$Revision$' | sed -e 's,\$,,g' -e 's,^\w*:\s,,' )
   5
   6 COMMAND=$(basename $0)
   7 ROOT=/build
   8 CHROOTBINDIR=/root/bin
   9
  10 # default values, tunable with command-line options
  11 SVNPATH="svn+ssh://build@svn.one-lab.org/svn/build/trunk"
  12 DISTRO=onelab
  13 MAILTO="onelab-build@one-lab.org"
  14 DISTROMAKETAGS=onelab-tags.mk
  15
  16 TESTBUILDURL="http://build.one-lab.org/"
  17 TESTBOXSSH=root@onelab-test.inria.fr
  18 TESTSVNPATH="svn+ssh://build@svn.one-lab.org/svn/new_plc_api/trunk/plctest"
  19 TESTSCRIPT=TestMain.py
  20
  21 ####################
  22 # plc chroot runs in UTC
  23 DATE=$(date -u +'%Y.%m.%d')
  24
  25 ### in the root context
  26 function do_chroot () {
  27     chroot /plc/devel/root su - build <<EOF
  28 $CHROOTBINDIR/$COMMAND $@
  29 EOF
  30 }
  31
  32 # Notify recipient of failure or success, manage various stamps
  33 function failure() {
  34     set -x
  35     (echo -n "============================== $COMMAND: failure at" ; date ; tail -c 20k ${BUILD}/log-build.txt) >> ${BUILD}.broken
  36     if [ -n "$MAILTO" ] ; then
  37         tail -c 8k ${BUILD}/log-build.txt | mail -s "Failures for ${BUILD}" $MAILTO
  38     fi
  39     exit 1
  40 }
  41
  42 function success () {
  43     set -x
  44     touch ${BUILD}.ok
  45     if [ -n "$MAILTO" ] ; then
  46         (echo "http://build.one-lab.org/$DISTRO/$BASE" ; echo "Completed on $(date)" ) | mail -s "Successfull build in ${BUILD}" $MAILTO
  47     fi
  48     cd ${ROOT}
  49     rm -f latest
  50     ln -s $BASE latest
  51     exit 0
  52 }
  53
  54 function create_base () {
  55     i=
  56     while ! mkdir ${BASE}${i} 2>/dev/null ; do
  57         [ -z ${i} ] && BASE=${BASE}.
  58         i=$((${i}+1))
  59         if [ $i -gt 100 ] ; then
  60             echo "$0: Failed to create release directory `pwd`/${BASE}${i}"
  61             exit 1
  62         fi
  63     done
  64     BASE=${BASE}${i}
  65 }
  66
  67 function use_base () {
  68     [ ! -d $BASE ] && mkdir $BASE
  69     if [ ! -d $BASE ] ; then
  70         echo $COMMAND failed to create base $BASE
  71         exit 1
  72     fi
  73 }
  74
  75 function build () {
  76     set -x
  77     set -e
  78     trap failure ERR INT
  79
  80     echo -n "============================== Starting $COMMAND:build on "
  81     date
  82
  83     cd $ROOT
  84     svn co $SVNPATH $BASE
  85
  86   # if TAGSTAG specified : update DISTROMAKETAGS with this tag
  87     if [ -n "$TAGSTAG" ] ; then
  88         cd $BASE
  89         svn up -r $TAGSTAG $DISTROMAKETAGS
  90         cd -
  91     fi
  92
  93     show_env
  94
  95     echo "Running make IN build $(pwd)"
  96     make stage1=true ${MAKEOPTS[@]} DISTROMAKETAGS=${DISTROMAKETAGS} PLDISTRO=${DISTRO} ${MAKEVARS[@]} -C $BASE
  97     # in case we use an older build
  98     set +e
  99     make ${MAKEOPTS[@]} DISTROMAKETAGS=${DISTROMAKETAGS} PLDISTRO=${DISTRO} ${MAKEVARS[@]} -C $BASE versions
 100     set -e
 101     make ${MAKEOPTS[@]} DISTROMAKETAGS=${DISTROMAKETAGS} PLDISTRO=${DISTRO} ${MAKEVARS[@]} -C $BASE $MAKETARGETS
 102
 103     # restore silent mode - otherwise cron gets it
 104     set +x
 105 }
 106
 107 function runtest () {
 108     set -x
 109     set -e
 110     trap failure ERR INT
 111
 112     echo -n "============================== Starting $COMMAND:runtest on "
 113     date
 114
 115   ### compute URL to the myplc package
 116     build=$1; shift
 117     buildname=$(basename $build)
 118     cd $build
 119     rpm=$(find RPMS -name myplc\*.rpm )
 120     url=${TESTBUILDURL}${DISTRO}/${buildname}/${rpm}
 121   ### checkout the test material
 122     svn co ${TESTSVNPATH} plctest
 123   # compute test directory name on test box
 124     testdir=plctest-${buildname}
 125   # rsync/push test material onto the test box
 126     ssh ${TESTBOXSSH} mkdir -p ${testdir}
 127     rsync -a -v plctest/ ${TESTBOXSSH}:${testdir}
 128   # invoke test on testbox
 129     ssh ${TESTBOXSSH} python -u ${testdir}/${TESTSCRIPT} ${url}
 130   #invoke make install from build to the testbox
 131   ## (echo "cd build/${DISTRO}/${buildname}/ &&  make install PLCHOST=${TESTBOXSSH}") | chroot /plc/devel/root
 132     if [ "$?" != 0 ] ; then
 133         failure
 134     fi
 135
 136     set +x
 137 }
 138
 139 function show_env () {
 140     echo ROOT=$ROOT
 141     echo DISTRO=$DISTRO
 142     echo BASE=$BASE
 143     echo SVNPATH=$SVNPATH
 144     echo MAKEVARS="${MAKEVARS[@]}"
 145     echo MAKEOPTS="${MAKEOPTS[@]}"
 146     echo DISTROMAKETAGS="$DISTROMAKETAGS"
 147     echo TAGSTAG="$TAGSTAG"
 148     echo "XXXXXXXXXXXXXXXXXXXX Contents of tags definition file $DISTROMAKETAGS"
 149     cat $BASE/$DISTROMAKETAGS
 150     echo "XXXXXXXXXXXXXXXXXXXX end tags definition"
 151 }
 152
 153 function usage () {
 154     echo "Usage: $COMMAND [option] make-targets"
 155     echo "This is revision $REVISION"
 156     echo "Supported options"
 157     echo " -b BASE - may include @, then replaced with current date"
 158     echo " -u : uses directory given as BASE as is, even if already exists"
 159     echo " -d DISTRO"
 160     echo " -t DISTROMAKETAGS"
 161     echo " -r TAGSTAG - a tag that refers to DISTROMAKETAGS - defaults to HEAD"
 162     echo " -s MAKEVAR=value - spaces in value are not supported"
 163     echo " -n dry-run : -n passed to make - no mail sent"
 164     echo " -m MAILTO"
 165     echo " -s SVNPATH"
 166     echo " -B : run build only"
 167     echo " -T : run test only"
 168     exit 1
 169 }
 170
 171 function main () {
 172
 173     if [ -d /plc/devel/data ] ; then
 174         do_chroot "$@"
 175     else
 176         MAKEVARS=()
 177         MAKEOPTS=()
 178         DO_BUILD=true
 179         DO_TEST=true
 180         while getopts "b:ud:t:r:s:nm:s:BTh" opt ; do
 181             case $opt in
 182                 b) BASE=$OPTARG ;;
 183                 u) USEOLD=true ;;
 184                 d) DISTRO=$OPTARG ;;
 185                 t) DISTROMAKETAGS=$OPTARG ;;
 186                 r) TAGSTAG=$OPTARG ;;
 187                 s) MAKEVARS=(${MAKEVARS[@]} $OPTARG) ;;
 188                 n) MAILTO="" ; MAKEOPTS=(${MAKEOPTS[@]} -n) ;;
 189                 m) MAILTO=$OPTARG ;;
 190                 s) SVNPATH=$OPTARG ;;
 191                 B) DO_TEST= ;;
 192                 T) DO_BUILD= ; USEOLD=true ;;
 193                 h|*) usage ;;
 194             esac
 195         done
 196
 197         shift $(($OPTIND - 1))
 198
 199         ROOT=$ROOT/$DISTRO
 200         cd $ROOT
 201
 202         MAKETARGETS="$@"
 203
 204     ### set BASE from DISTRO, if unspecified
 205         [ -z "$BASE" ] && BASE=${DISTRO}
 206         BASE=$(echo ${BASE} | sed -e "s,@,${DATE},g")
 207
 208         if [ -n "$USEOLD" ] ; then
 209             use_base $BASE
 210         else
 211             create_base
 212         fi
 213         BUILD=$ROOT/$BASE
 214
 215         if [ -n "$DO_BUILD" ] ; then
 216             build >> ${BUILD}/log-build.txt 2>&1
 217             touch ${BUILD}.build-ok
 218         fi
 219
 220         if [ -n "$DO_TEST" ] ; then
 221             runtest ${BUILD} >> ${BUILD}/log-build.txt 2>&1
 222         fi
 223
 224         success >> ${BUILD}/log-build.txt 2>&1
 225
 226     fi
 227 }
 228
 229 ##########
 230 main "$@"