automate-default.sh

   1 #!/bin/bash
   2
   3 # NOTE: Must be an absolute path to guarantee it is read.
   4 INSTALLPATH=/usr/share/monitor/
   5 # Generate an 'sh' style file full of variables in monitor.conf
   6 $INSTALLPATH/shconfig.py >  $INSTALLPATH/monitorconfig.sh
   7 source $INSTALLPATH/monitorconfig.sh
   8 cd ${MONITOR_SCRIPT_ROOT}
   9 set -e
  10 DATE=`date +%Y-%m-%d-%T`
  11 MONITOR_PID="${MONITOR_SCRIPT_ROOT}/SKIP"
  12
  13 echo "#######################################"; echo "Running Monitor at $DATE"; echo "######################################"
  14 echo "Performing API test"
  15 API=$(./testapi.py)
  16 if [ "$API" != "ok" ] ; then
  17         # NOTE: Do not try to run any commands if the API is obviously broken.
  18         echo "API IS DOWN : "`date`
  19         exit 1
  20 fi
  21
  22 if [ -f $MONITOR_PID ] ; then
  23         if [ -z "$1" ] ; then
  24                 echo "KILLING Monitor"
  25                 PID=`cat $MONITOR_PID`
  26                 rm -f $MONITOR_PID
  27                 if [ -z $PID ] ; then
  28                         ${MONITOR_SCRIPT_ROOT}/kill.cmd.sh $PID
  29                         echo "done."
  30                 else
  31                         echo "No PID to be killed."
  32                 fi
  33         else
  34                 # skipping monitor
  35                 echo "SKIPPING Monitor"
  36                 exit
  37         fi
  38 fi
  39 echo $$ > $MONITOR_PID
  40
  41 # SETUP act_all database if it's not there.
  42 if [ ! -f ${MONITOR_SCRIPT_ROOT}/actallsetup.flag ]; then
  43         if ! python -c 'import database; database.dbLoad("act_all")' 2>/dev/null ; then
  44                 touch ${MONITOR_SCRIPT_ROOT}/actallsetup.flag
  45         fi
  46 fi
  47
  48
  49 set +e
  50 AGENT=`ps ax | grep ssh-agent | grep -v grep`
  51 set -e
  52 if [ -z "$AGENT" ] ; then
  53         echo "starting ssh agent"
  54         # if no agent is running, set it up.
  55         ssh-agent > ${MONITOR_SCRIPT_ROOT}/agent.sh
  56         source ${MONITOR_SCRIPT_ROOT}/agent.sh
  57         ssh-add /etc/planetlab/debug_ssh_key.rsa
  58         ssh-add /etc/planetlab/root_ssh_key.rsa
  59 fi
  60 #TODO: should add a call to ssh-add -l to check if the keys are loaded or not.
  61 source ${MONITOR_SCRIPT_ROOT}/agent.sh
  62
  63
  64 echo "Performing Findbad Nodes"
  65 #########################
  66 # 1. FINDBAD NODES
  67 ${MONITOR_SCRIPT_ROOT}/findbad.py --increment $DATE || :
  68 ps ax | grep BatchMode | grep -v grep | awk '{print $1}' | xargs -r kill || :
  69
  70 echo "Performing Findbad PCUs"
  71 #########################
  72 # 2. FINDBAD PCUS
  73 ${MONITOR_SCRIPT_ROOT}/findbadpcu.py --increment $DATE || :
  74 # clean up stray 'locfg' processes that hang around inappropriately...
  75 ps ax | grep locfg | grep -v grep | awk '{print $1}' | xargs -r kill || :
  76
  77 echo "Performing uptime changes for sites, nodes, and pcus"
  78 ########################
  79 # 3. record last-changed for sites, nodes and pcus.
  80 ${MONITOR_SCRIPT_ROOT}/sitebad.py || :
  81 ${MONITOR_SCRIPT_ROOT}/nodebad.py || :
  82 ${MONITOR_SCRIPT_ROOT}/pcubad.py || :
  83
  84 echo "Archiving pkl files"
  85 #########################
  86 # Archive pkl files.
  87 for f in findbad act_all findbadpcus l_plcnodes site_persistflags node_persistflags pcu_persistflags ; do
  88         if [ -f ${MONITOR_DATA_ROOT}/production.$f.pkl ] ; then
  89                 cp ${MONITOR_DATA_ROOT}/production.$f.pkl ${MONITOR_ARCHIVE_ROOT}/`date +%F-%H:%M`.production.$f.pkl
  90         else
  91                 echo "Warning: It failed to archive ${MONITOR_DATA_ROOT}/production.$f.pkl"
  92         fi
  93 done
  94
  95 #echo "Running grouprins on all dbg nodes"
  96 ############################
  97 # 5. Check if there are any nodes in dbg state.  Clean up afterward.
  98 #${MONITOR_SCRIPT_ROOT}/grouprins.py --mail=1 --reboot --nodeselect 'state=DOWN&&boot_state=(boot|rins|dbg|diag)' --stopselect "state=BOOT" || :
  99 #${MONITOR_SCRIPT_ROOT}/grouprins.py --mail=1 --reboot --nodeselect 'state=DEBUG&&boot_state=(rins|dbg|boot)' --stopselect 'state=BOOT' || :
 100
 101 cp ${MONITOR_SCRIPT_ROOT}/monitor.log ${MONITOR_ARCHIVE_ROOT}/`date +%F-%H:%M`.monitor.log
 102 rm -f $MONITOR_PID