Support to build bootstrap filesystems (i.e. PlanetLab-Bootstrap*.tar.bz2)
[bootstrapfs.git] / build.sh
1 #!/bin/bash
2 #
3 # Build PlanetLab-Bootstrap.tar.bz2, the reference image for PlanetLab
4 # nodes.
5 #
6 # Mark Huang <mlhuang@cs.princeton.edu>
7 # Marc E. Fiuczynski <mef@cs.princeton.edu>
8 # Copyright (C) 2005-2007 The Trustees of Princeton University
9 #
10 # $Id: buildnode.sh,v 1.12.6.1 2007/08/30 20:09:20 mef Exp $
11 #
12
13 PATH=/sbin:/bin:/usr/sbin:/usr/bin
14
15 # In both a normal CVS environment and a PlanetLab RPM
16 # build environment, all of our dependencies are checked out into
17 # directories at the same level as us.
18 if [ -d ../build ] ; then
19     PATH=$PATH:../build
20     srcdir=../
21 else
22     echo "Error: Could not find $(cd ../.. && pwd -P)/build/"
23     exit 1
24 fi
25
26 export PATH
27
28 . build.common
29
30 pl_process_fedora_options $@
31 shiftcount=$?
32 shift $shiftcount
33
34 # Do not tolerate errors
35 set -e
36
37 # Some of the PlanetLab RPMs attempt to (re)start themselves in %post,
38 # unless the installation is running inside the BootCD environment. We
39 # would like to pretend that we are.
40 export PL_BOOTCD=1
41
42 # "Parse" out the packages and groups into the options passed to mkfedora
43 # -k = exclude kernel* packages
44 options="-k"
45 packages=$(grep "^package:.*" base.lst | awk '{print $2}')
46 groups=$(grep "^group:.*" base.lst | awk '{print $2}')
47 for package in ${packages} ; do  options="$options -p $package"; done
48 for group in ${groups} ; do options="$options -g $group"; done
49
50 # Populate a minimal /dev and then the files for the base PlanetLab-Bootstrap content
51 vref=${PWD}/base
52 install -d -m 755 ${vref}
53 pl_makedevs ${vref}
54 pl_setup_chroot ${vref} -k ${options}
55
56 # Build the base Bootstrap filesystem
57 echo "--------STARTING tar'ing PlanetLab-Bootstrap.tar.bz2: $(date)"
58 tar -cpjf PlanetLab-Bootstrap.tar.bz2 -C ${vref} .
59 echo "--------FINISHED tar'ing PlanetLab-Bootstrap.tar.bz2: $(date)"
60
61 for bootstrapfs in bootstrap-filesystems/*.lst ; do
62     NAME=$(basename $bootstrapfs .lst)
63
64     echo "--------START BUILDING PlanetLab-Bootstrap-${NAME}: $(date)"
65
66     # "Parse" out the packages and groups for yum
67     packages=$(grep "^package:.*" $bootstrapfs | awk '{print $2}')
68     groups=$(grep "^group:.*" $bootstrapfs | awk '{print $2}')
69
70     vdir=${PWD}/bootstrap-filesystems/${NAME}
71     rm -rf ${vdir}/*
72     install -d -m 755 ${vdir}
73
74     # Clone the base reference to the bootstrap fs
75     (cd ${vref} && find . | cpio -m -d -u -p ${vdir})
76     rm -f ${vdir}/var/lib/rpm/__db*
77
78     # Install the system vserver specific packages
79     [ -n "$systempackages" ] && yum -c ${vdir}/etc/yum.conf --installroot=${vdir} -y install $systempackages
80     [ -n "$systemgroups" ] && yum -c ${vdir}/etc/yum.conf --installroot=${vdir} -y groupinstall $systemgroups
81
82     # Create a copy of the system vserver w/o the vserver reference files and make it smaller. 
83     # This is a three step process:
84
85     # step 1: clean out yum cache to reduce space requirements
86     yum -c ${vdir}/etc/yum.conf --installroot=${vdir} -y clean all
87
88     # step 2: figure out the new/changed files in ${vdir} vs. ${vref} and compute ${vdir}.changes
89     rsync -anv ${vdir}/ ${vref}/ > ${vdir}.changes
90     linecount=$(wc -l ${vdir}.changes | awk ' { print $1 } ')
91     let headcount=$linecount-3
92     let tailcount=$headcount-1
93     # get rid of the last 3 lines of the rsync output
94     head -${headcount} ${vdir}.changes > ${vdir}.changes.1
95     # get rid of the first line of the rsync output
96     tail -${tailcount} ${vdir}.changes.1 > ${vdir}.changes.2
97     # post process rsync output to get rid of symbolic link embellish output
98     awk ' { print $1 } ' ${vdir}.changes.2 > ${vdir}.changes
99     rm -f ${vdir}.changes.*
100
101     # step 3: create the ${vdir} with just the list given in ${vdir}.changes 
102     install -d -m 755 ${vdir}-tmp/
103     rm -rf ${vdir}-tmp/*
104     (cd ${vdir} && cpio -m -d -u -p ${vdir}-tmp < ${vdir}.changes)
105     rm -rf ${vdir}
106     rm -f  ${vdir}.changes
107     mv ${vdir}-tmp ${vdir}
108
109     echo "--------STARTING tar'ing PlanetLab-Bootstrap-${NAME}.tar.bz2: $(date)"
110     tar -cpjf bootstrap-filesystems/PlanetLab-Bootstrap-${NAME}.tar.bz2 -C ${vdir} .
111     echo "--------FINISHED tar'ing PlanetLab-Bootstrap-${NAME}.tar.bz2: $(date)"
112     echo "--------DONE BUILDING PlanetLab-Bootstrap-${NAME}: $(date)"
113 done
114
115 exit 0