scripts/nightly-build.sh

   1 #!/bin/bash
   2
   3 # use svn propset svn:keywords Revision to enable this
   4 REVISION=$(echo '$Revision$' | sed -e 's,\$,,g' -e 's,^\w*:\s,,' )
   5
   6 COMMAND=$(basename $0)
   7 ROOT=/build
   8 CHROOTBINDIR=/root/bin
   9
  10 # default values, tunable with command-line options
  11 SVNPATH="svn+ssh://build@svn.one-lab.org/svn/build/trunk"
  12 DISTRO=onelab
  13 MAILTO="onelab-build@one-lab.org"
  14 DISTROMAKETAGS=onelab-tags.mk
  15 PLEBOX=root@planet-lab.eu
  16 TESTBUILDURL="http://build.one-lab.org/"
  17 TESTBOXSSH=root@onelab-test.inria.fr
  18 TESTSVNPATH="svn+ssh://build@svn.one-lab.org/svn/new_plc_api/trunk/plctest"
  19 TESTSCRIPT=TestMain.py
  20 TESTSEND=test_sendmail.py
  21 ####################
  22 # plc chroot runs in UTC
  23 DATE=$(date -u +'%Y.%m.%d')
  24
  25 ### in the root context
  26 function do_chroot () {
  27     chroot /plc/devel/root su - build <<EOF
  28 $CHROOTBINDIR/$COMMAND $@
  29 EOF
  30 }
  31
  32 # Notify recipient of failure or success, manage various stamps
  33 function failure() {
  34     set -x
  35     (echo -n "============================== $COMMAND: failure at" ; date ; tail -c 20k ${BUILD}/log-build.txt) >> ${BUILD}.broken
  36     if [ -n "$MAILTO" ] ; then
  37         tail -c 8k ${BUILD}/log-build.txt | mail -s "Failures for ${BUILD}" $MAILTO
  38     fi
  39     exit 1
  40 }
  41
  42 function success () {
  43     set -x
  44     touch ${BUILD}.ok
  45     if [ -n "$MAILTO" ] ; then
  46         (echo "http://build.one-lab.org/$DISTRO/$BASE" ; echo "Completed on $(date)" ) | mail -s "Successfull build in ${BUILD}" $MAILTO
  47     fi
  48     cd ${ROOT}
  49     rm -f latest
  50     ln -s $BASE latest
  51     exit 0
  52 }
  53
  54 function create_base () {
  55     i=
  56     while ! mkdir ${BASE}${i} 2>/dev/null ; do
  57         [ -z ${i} ] && BASE=${BASE}.
  58         i=$((${i}+1))
  59         if [ $i -gt 100 ] ; then
  60             echo "$0: Failed to create release directory `pwd`/${BASE}${i}"
  61             exit 1
  62         fi
  63     done
  64     BASE=${BASE}${i}
  65 }
  66
  67 function use_base () {
  68     [ ! -d $BASE ] && mkdir $BASE
  69     if [ ! -d $BASE ] ; then
  70         echo $COMMAND failed to create base $BASE
  71         exit 1
  72     fi
  73 }
  74 function test_sendmail(){
  75     set -x
  76     #under the chroot jail launch an ssh on ple and the script is run there
  77     chroot /plc/devel/root/ ssh ${PLEBOX} /root/${TESTSEND}
  78     if [ "$?" != 0 ] ; then
  79         failure
  80     fi
  81     set +x
  82 }
  83 function build () {
  84     set -x
  85     set -e
  86     trap failure ERR INT
  87
  88     echo -n "============================== Starting $COMMAND:build on "
  89     date
  90
  91     cd $ROOT
  92     svn co $SVNPATH $BASE
  93
  94   # if TAGSTAG specified : update DISTROMAKETAGS with this tag
  95     if [ -n "$TAGSTAG" ] ; then
  96         cd $BASE
  97         svn up -r $TAGSTAG $DISTROMAKETAGS
  98         cd -
  99     fi
 100
 101     show_env
 102
 103     echo "Running make IN build $(pwd)"
 104     make stage1=true ${MAKEOPTS[@]} DISTROMAKETAGS=${DISTROMAKETAGS} PLDISTRO=${DISTRO} ${MAKEVARS[@]} -C $BASE
 105     # in case we use an older build
 106     set +e
 107     make ${MAKEOPTS[@]} DISTROMAKETAGS=${DISTROMAKETAGS} PLDISTRO=${DISTRO} ${MAKEVARS[@]} -C $BASE versions
 108     set -e
 109     make ${MAKEOPTS[@]} DISTROMAKETAGS=${DISTROMAKETAGS} PLDISTRO=${DISTRO} ${MAKEVARS[@]} -C $BASE $MAKETARGETS
 110
 111     # restore silent mode - otherwise cron gets it
 112     set +x
 113 }
 114
 115 function runtest () {
 116     set -x
 117     set -e
 118     trap failure ERR INT
 119
 120     echo -n "============================== Starting $COMMAND:runtest on "
 121     date
 122
 123   ### compute URL to the myplc package
 124     build=$1; shift
 125     buildname=$(basename $build)
 126     cd $build
 127     rpm=$(find RPMS -name myplc\*.rpm )
 128     url=${TESTBUILDURL}${DISTRO}/${buildname}/${rpm}
 129   ### checkout the test material
 130     svn co ${TESTSVNPATH} plctest
 131   # compute test directory name on test box
 132     testdir=plctest-${buildname}
 133   # rsync/push test material onto the test box
 134     ssh ${TESTBOXSSH} mkdir -p ${testdir}
 135     rsync -a -v plctest/ ${TESTBOXSSH}:${testdir}
 136   # invoke test on testbox
 137     ssh ${TESTBOXSSH} python -u ${testdir}/${TESTSCRIPT} ${url}
 138   #invoke make install from build to the testbox
 139   ## (echo "cd build/${DISTRO}/${buildname}/ &&  make install PLCHOST=${TESTBOXSSH}") | chroot /plc/devel/root
 140     if [ "$?" != 0 ] ; then
 141         failure
 142     fi
 143
 144     set +x
 145 }
 146
 147 function show_env () {
 148     echo ROOT=$ROOT
 149     echo DISTRO=$DISTRO
 150     echo BASE=$BASE
 151     echo SVNPATH=$SVNPATH
 152     echo MAKEVARS="${MAKEVARS[@]}"
 153     echo MAKEOPTS="${MAKEOPTS[@]}"
 154     echo DISTROMAKETAGS="$DISTROMAKETAGS"
 155     echo TAGSTAG="$TAGSTAG"
 156     echo "XXXXXXXXXXXXXXXXXXXX Contents of tags definition file $DISTROMAKETAGS"
 157     cat $BASE/$DISTROMAKETAGS
 158     echo "XXXXXXXXXXXXXXXXXXXX end tags definition"
 159 }
 160
 161 function usage () {
 162     echo "Usage: $COMMAND [option] make-targets"
 163     echo "This is revision $REVISION"
 164     echo "Supported options"
 165     echo " -b BASE - may include @, then replaced with current date"
 166     echo " -u : uses directory given as BASE as is, even if already exists"
 167     echo " -d DISTRO"
 168     echo " -t DISTROMAKETAGS"
 169     echo " -r TAGSTAG - a tag that refers to DISTROMAKETAGS - defaults to HEAD"
 170     echo " -s MAKEVAR=value - spaces in value are not supported"
 171     echo " -n dry-run : -n passed to make - no mail sent"
 172     echo " -m MAILTO"
 173     echo " -s SVNPATH"
 174     echo " -B : run build only"
 175     echo " -T : run test only"
 176     exit 1
 177 }
 178
 179 function main () {
 180
 181     if [ -d /plc/devel/data ] ; then
 182         do_chroot "$@"
 183     else
 184         MAKEVARS=()
 185         MAKEOPTS=()
 186         DO_BUILD=true
 187         DO_TEST=true
 188         while getopts "b:e:ud:t:r:s:nm:s:BTh" opt ; do
 189             case $opt in
 190                 b) BASE=$OPTARG ;;
 191                 e) DO_SEND= ;;
 192                 u) USEOLD=true ;;
 193                 d) DISTRO=$OPTARG ;;
 194                 t) DISTROMAKETAGS=$OPTARG ;;
 195                 r) TAGSTAG=$OPTARG ;;
 196                 s) MAKEVARS=(${MAKEVARS[@]} $OPTARG) ;;
 197                 n) MAILTO="" ; MAKEOPTS=(${MAKEOPTS[@]} -n) ;;
 198                 m) MAILTO=$OPTARG ;;
 199                 s) SVNPATH=$OPTARG ;;
 200                 B) DO_TEST= ;;
 201                 T) DO_BUILD= ; USEOLD=true ;;
 202                 h|*) usage ;;
 203             esac
 204         done
 205
 206         shift $(($OPTIND - 1))
 207
 208         ROOT=$ROOT/$DISTRO
 209         cd $ROOT
 210
 211         MAKETARGETS="$@"
 212
 213     ### set BASE from DISTRO, if unspecified
 214         [ -z "$BASE" ] && BASE=${DISTRO}
 215         BASE=$(echo ${BASE} | sed -e "s,@,${DATE},g")
 216
 217         if [ -n "$USEOLD" ] ; then
 218             use_base $BASE
 219         else
 220             create_base
 221         fi
 222         BUILD=$ROOT/$BASE
 223
 224         if [ -n "$DO_SEND" ] ; then
 225             test_sendmail  ${BUILD} >> ${BUILD}/log-build.txt 2>&1
 226         fi
 227
 228         if [ -n "$DO_BUILD" ] ; then
 229             build >> ${BUILD}/log-build.txt 2>&1
 230             touch ${BUILD}.build-ok
 231         fi
 232
 233         if [ -n "$DO_TEST" ] ; then
 234             runtest ${BUILD} >> ${BUILD}/log-build.txt 2>&1
 235         fi
 236
 237         success >> ${BUILD}/log-build.txt 2>&1
 238
 239     fi
 240 }
 241
 242 ##########
 243 main "$@"