Checking why trunk breaks build.
[build.git] / vbuild-init-vserver.sh
1 #!/bin/bash
2 # -*-shell-*-
3 # $Id$
4
5 COMMAND=$(basename $0)
6 DIRNAME=$(dirname $0)
7
8 # pkgs parsing utilities
9 PATH=$(dirname $0):$PATH . build.common
10
11 DEFAULT_FCDISTRO=f8
12 DEFAULT_PLDISTRO=planetlab
13 DEFAULT_PERSONALITY=linux32
14 DEFAULT_IFNAME=eth0
15
16 COMMAND_VBUILD="vbuild-init-vserver.sh"
17 COMMAND_MYPLC="vtest-init-vserver.sh"
18
19 function failure () {
20     echo "$COMMAND : Bailing out"
21     exit 1
22 }
23
24 # overwrite vserver's internal yum config from what is in
25 # .distributions/<distrib>/yum/yum.conf and /yum.repos.d 
26
27 function configure_yum_in_vserver () {
28     set -x 
29     set -e 
30     trap failure ERR INT
31
32     vserver=$1; shift
33     fcdistro=$1; shift
34
35     pushd /etc/vservers/.distributions/${fcdistro}
36     if [ -f yum/yum.conf ] ; then
37         echo "Initializing yum.conf in $vserver from $(pwd)/yum"
38         sed -e "s!@YUMETCDIR@!/etc!g;
39                 s!@YUMCACHEDIR@!/var/cache/yum!g;
40                 s!@YUMLOGDIR@!/var/log!g;
41                 s!@YUMLOCKDIR@!/var/lock!g;
42                " yum/yum.conf > /vservers/$vserver/etc/yum.conf
43
44         # post process the various @...@ variables from this yum.conf file.
45     else
46         echo "Using $fcdistro default for yum.conf"
47     fi
48
49     if [ -d yum.repos.d ] ; then
50         echo "Initializing yum.repos.d in $vserver from $(pwd)/yum.repos.d"
51         rm -rf /vservers/$vserver/etc/yum.repos.d
52         tar cf - yum.repos.d | tar -C /vservers/$vserver/etc -xvf -
53     else
54         echo "Cannot initialize yum.repos.d in $vserver"
55     fi
56
57     if [ -n "$MYPLC_MODE" ] ; then
58         if [ ! -d /vservers/$vserver/etc/yum.repos.d ] ; then
59             echo "WARNING : cannot create myplc repo"
60         else
61             # exclude kernel from fedora repos 
62             for i in /vservers/$vserver/etc/yum.repos.d/* ; do
63                 [ -f $i ] && echo "exclude=kernel* ulogd iptables" >> $i
64             done
65             # the build repo is not signed at this stage
66             cat > /vservers/$vserver/etc/yum.repos.d/myplc.repo <<EOF
67 [myplc]
68 name= MyPLC
69 baseurl=$REPO_URL
70 enabled=1
71 gpgcheck=0
72 EOF
73         fi
74     fi
75     popd
76 }    
77
78 function setup_vserver () {
79
80     set -x
81     set -e
82     trap failure ERR INT
83
84     vserver=$1; shift
85     fcdistro=$1; shift
86     personality=$1; shift
87
88     if [ -d /vservers/$vserver ] ; then
89         echo "$COMMAND : vserver $vserver seems to exist - bailing out"
90         exit 1
91     fi
92
93     # create it
94     # try to work around the vserver issue:
95     # vc_ctx_migrate: No such process
96     # rpm-fake.so: failed to initialize communication with resolver
97     for i in $(seq 20) ; do
98         $personality vserver $VERBOSE $vserver build $VSERVER_OPTIONS -m yum -- -d $fcdistro && break || true
99         echo "* ${i}-th attempt to 'vserver build' failed - waiting for 3 seconds"
100         sleep 3
101     done
102     # check success
103     [ -d /vservers/$vserver ] 
104
105     if [ ! -z "$personality" ] ; then
106         if [ -f "/etc/vservers/$vserver/personality" ] ; then
107             registered_personality=$(grep $personality /etc/vservers/$vserver/personality | wc -l)
108         else
109             registered_personality=0
110         fi
111         if [ $registered_personality -eq 0 -a "$personality" != "linux64" ] ; then
112             echo $personality >> /etc/vservers/$vserver/personality
113         fi
114     fi
115
116     if [ -n "$VBUILD_MODE" ] ; then 
117         ### capabilities required for a build vserver
118         # set up appropriate vserver capabilities to mount, mknod and IPC_LOCK
119         BCAPFILE=/etc/vservers/$vserver/bcapabilities
120         touch $BCAPFILE
121         cap=$(grep ^CAP_SYS_ADMIN /etc/vservers/$vserver/bcapabilities | wc -l)
122         [ $cap -eq 0 ] && echo 'CAP_SYS_ADMIN' >> /etc/vservers/$vserver/bcapabilities
123         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
124         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
125         cap=$(grep ^CAP_IPC_LOCK /etc/vservers/$vserver/bcapabilities | wc -l)
126         [ $cap -eq 0 ] && echo 'CAP_IPC_LOCK' >> /etc/vservers/$vserver/bcapabilities
127     else
128         ### capabilities required for a myplc vserver
129         # for /etc/plc.d/gpg - need to init /dev/random
130         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
131         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
132         cap=$(grep ^CAP_NET_BIND_SERVICE /etc/vservers/$vserver/bcapabilities | wc -l)
133         [ $cap -eq 0 ] && echo 'CAP_NET_BIND_SERVICE' >> /etc/vservers/$vserver/bcapabilities
134     fi
135
136     $personality vyum $vserver -- -y install yum
137     # ditto
138     for i in $(seq 20) ; do
139         $personality vserver $VERBOSE $vserver pkgmgmt internalize && break || true
140         echo "* ${i}-th attempt to 'vserver pkgmgmt internalize' failed - waiting for 3 seconds"
141         sleep 3
142     done
143
144     # start the vserver so we can do the following operations
145     $personality vserver $VERBOSE $vserver start
146     $personality vserver $VERBOSE $vserver exec sh -c "rm -f /var/lib/rpm/__db*"
147     $personality vserver $VERBOSE $vserver exec rpm --rebuilddb
148
149     # with vserver 2.3, granting the vserver CAP_MKNOD is not enough
150     # check whether we run vs2.3 or above
151     vs_version=$(uname -a  | sed -e 's,.*[\.\-]vs\([0-9]\)\.\([0-9]\)\..*,\1\2,')
152     # at this stage we have here 22 or 23
153     need_vdevmap=$(( $vs_version >= 23 ))
154
155     if [ "$need_vdevmap" == 1 ] ; then
156         util_vserver_215=0
157         vdevmap --help | grep -- --set &> /dev/null && util_vserver_215=1
158         
159         if [ "$util_vserver_215" == 1 ] ; then
160             ctx=$(cat /etc/vservers/$vserver/context)
161             vdevmap --set --xid $ctx --open --create --target /dev/null
162             vdevmap --set --xid $ctx --open --create --target /dev/root
163         else
164             echo "You seem to be running vs2.3 with util-vserver < 0.30.215"
165             echo "This combination is not supported by $COMMAND"
166             echo "Please upgrade your environment"
167             exit 1
168 # this supposedly is an equivalent to using vdevmap as invoked above
169 # but it's not going to work in this case
170 #           mkdir -p /etc/vservers/$vserver/apps/vdevmap/default-{block,char}
171 #           touch /etc/vservers/$vserver/apps/vdevmap/default-{block,char}/{open,create}
172 #           echo /dev/root > /etc/vservers/$vserver/apps/vdevmap/default-block/target
173 #           echo /dev/null > /etc/vservers/$vserver/apps/vdevmap/default-char/target
174         fi
175     fi
176             
177     # minimal config in the vserver for yum to work
178     configure_yum_in_vserver $vserver $fcdistro 
179
180     # set up resolv.conf
181     cp /etc/resolv.conf /vservers/$vserver/etc/resolv.conf
182     # and /etc/hosts for at least localhost
183     [ -f /vservers/$vserver/etc/hosts ] || echo "127.0.0.1 localhost localhost.localdomain" > /vservers/$vserver/etc/hosts
184 }
185
186 function devel_or_vtest_tools () {
187
188     set -x 
189     set -e 
190     trap failure ERR INT
191
192     vserver=$1; shift
193     fcdistro=$1; shift
194     pldistro=$1; shift
195     personality=$1; shift
196
197     # check for .pkgs file based on pldistro
198     if [ -n "$VBUILD_MODE" ] ; then
199         pkgsname=devel.pkgs
200     else
201         pkgsname=vtest.pkgs
202     fi
203     pkgsfile=$(pl_locateDistroFile $DIRNAME $pldistro $pkgsname)
204
205     ### install individual packages, then groups
206     # get target arch - use uname -i here (we want either x86_64 or i386)
207     vserver_arch=$($personality vserver $vserver exec uname -i)
208     
209     packages=$(pl_getPackages -a $vserver_arch $fcdistro $pldistro $pkgsfile)
210     groups=$(pl_getGroups -a $vserver_arch $fcdistro $pldistro $pkgsfile)
211
212     [ -n "$packages" ] && $personality vserver $vserver exec yum -y install $packages
213     [ -n "$groups" ] && $personality vserver $vserver exec yum -y groupinstall $groups
214     return 0
215 }
216
217 function post_install () {
218     if [ -n "$VBUILD_MODE" ] ; then
219         post_install_vbuild "$@" 
220     else
221         post_install_myplc "$@"
222     fi
223     # setup localtime from the host
224     vserver=$1; shift 
225     cp /etc/localtime /vservers/$vserver/etc/localtime
226 }
227
228 function post_install_vbuild () {
229
230     set -x 
231     set -e 
232     trap failure ERR INT
233
234     vserver=$1; shift
235     personality=$1; shift
236
237 ### From myplc-devel-native.spec
238 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
239     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
240     # set up /dev/loop* in vserver
241     for i in \$(seq 0 255) ; do
242         mknod -m 640 /dev/loop\$i b 7 \$i
243     done
244     
245     # create symlink for /dev/fd
246     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
247
248     # modify /etc/rpm/macros to not use /sbin/new-kernel-pkg
249     sed -i 's,/sbin/new-kernel-pkg:,,' /etc/rpm/macros
250     if [ -h "/sbin/new-kernel-pkg" ] ; then
251         filename=\$(readlink -f /sbin/new-kernel-pkg)
252         if [ "\$filename" == "/sbin/true" ] ; then
253                 echo "WARNING: /sbin/new-kernel-pkg symlinked to /sbin/true"
254                 echo "\tmost likely /etc/rpm/macros has /sbin/new-kernel-pkg declared in _netsharedpath."
255                 echo "\tPlease remove /sbin/new-kernel-pkg from _netsharedpath and reintall mkinitrd."
256                 exit 1
257         fi
258     fi
259     
260     # customize root's prompt
261     cat << PROFILE > /root/.profile
262 export PS1="[$vserver] \\w # "
263 PROFILE
264
265     uid=2000
266     gid=2000
267     
268     # add a "build" user to the system
269     builduser=\$(grep "^build:" /etc/passwd | wc -l)
270     if [ \$builduser -eq 0 ] ; then
271         groupadd -o -g \$gid build;
272         useradd -o -c 'Automated Build' -u \$uid -g \$gid -n -M -s /bin/bash build;
273     fi
274
275 # Allow build user to build certain RPMs as root
276     if [ -f /etc/sudoers ] ; then
277         buildsudo=\$(grep "^build.*ALL=(ALL).*NOPASSWD:.*ALL"  /etc/sudoers | wc -l)
278         if [ \$buildsudo -eq 0 ] ; then
279             echo "build   ALL=(ALL)       NOPASSWD: ALL" >> /etc/sudoers
280         fi
281         sed -i 's,^Defaults.*requiretty,#Defaults requiretty,' /etc/sudoers
282     fi
283 #
284 EOF
285
286 }
287
288 function post_install_myplc  () {
289     set -x 
290     set -e 
291     trap failure ERR INT
292
293     vserver=$1; shift
294     personality=$1; shift
295
296 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
297     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
298
299     # create symlink for /dev/fd
300     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
301
302     # turn off regular crond, as plc invokes plc_crond
303     chkconfig crond off
304
305     # customize root's prompt
306     cat << PROFILE > /root/.profile
307 export PS1="[$vserver] \\w # "
308 PROFILE
309
310 EOF
311 }
312
313 # parses ifconfig's output to find out ip address and mask
314 # will then be passed to vserver as e.g. --interface 138.96.250.126/255.255.0.0
315 # default is to use lo, that's enough for local mirrors
316 # use -i eth0 in case your fedora mirror is on a separate box on the network
317 function vserverIfconfig () {
318     ifname=$1; shift
319     local result="" 
320     line=$(ifconfig $ifname 2> /dev/null | grep 'inet addr')
321     if [ -n "$line" ] ; then
322         set $line
323         for word in "$@" ; do
324             addr=$(echo $word | sed -e s,[aA][dD][dD][rR]:,,)
325             mask=$(echo $word | sed -e s,[mM][aA][sS][kK]:,,)
326             if [ "$word" != "$addr" ] ; then
327                 result="${addr}"
328             elif [ "$word" != "$mask" ] ; then
329                 result="${result}/${mask}"
330             fi
331         done
332     fi
333     if [ -z "$result" ] ; then 
334         echo "vserverIfconfig failed to locate $ifname"
335         exit 1
336     else
337         echo $result
338     fi
339 }
340
341 function usage () {
342     set +x 
343     echo "Usage: $COMMAND_VBUILD [options] vserver-name [ -- vserver-options ]"
344     echo "Usage: $COMMAND_MYPLC [options] vserver-name repo-url [ -- vserver-options ]"
345     echo "Requirements: you need to have a vserver-compliant kernel,"
346     echo "   as well as the util-vserver RPM installed"
347     echo "Description:"
348     echo "   This command creates a fresh vserver instance, for building, or running, myplc"
349     echo "Supported options"
350     echo " -f fcdistro - for creating the root filesystem - defaults to $DEFAULT_FCDISTRO"
351     echo " -d pldistro - defaults to $DEFAULT_PLDISTRO"
352     echo " -p personality - defaults to $DEFAULT_PERSONALITY"
353     echo " -i ifname: determines ip and netmask attached to ifname, and passes it to the vserver"
354     echo " -v : verbose - passes -v to calls to vserver"
355     echo "vserver-options"
356     echo "  all args after the optional -- are passed to vserver <name> build <options>"
357     echo "  typical usage is e.g. --interface eth0:200.150.100.10/24"
358     exit 1
359 }
360
361 ### parse args and 
362 function main () {
363
364     set -e
365     trap failure ERR INT
366
367     case "$COMMAND" in
368         $COMMAND_VBUILD)
369             VBUILD_MODE=true ;;
370         $COMMAND_MYPLC)
371             MYPLC_MODE=true;;
372         *)
373             usage ;;
374     esac
375
376     VERBOSE=
377     IFNAME=""
378     VSERVER_OPTIONS=""
379     while getopts "f:d:p:i:v" opt ; do
380         case $opt in
381             f) fcdistro=$OPTARG;;
382             d) pldistro=$OPTARG;;
383             p) personality=$OPTARG;;
384             i) IFNAME=$OPTARG;;
385             v) VERBOSE="-v" ;;
386             *) usage ;;
387         esac
388     done
389         
390     shift $(($OPTIND - 1))
391
392     # parse fixed arguments
393     [[ -z "$@" ]] && usage
394     vserver=$1 ; shift
395     if [ -n "$MYPLC_MODE" ] ; then
396         [[ -z "$@" ]] && usage
397         REPO_URL=$1 ; shift
398     fi
399
400     # parse vserver options
401     if [[ -n "$@" ]] ; then
402         if [ "$1" == "--" ] ; then
403             shift
404             VSERVER_OPTIONS="$@"
405         else
406             usage
407         fi
408     fi
409
410     # with new util-vserver, it is mandatory to provide an IP even for building
411     if [ -n "$VBUILD_MODE" ] ; then
412         [ -z "$IFNAME" ] && IFNAME=$DEFAULT_IFNAME
413     fi
414     if [ -n "$IFNAME" ] ; then
415         localip=$(vserverIfconfig $IFNAME)
416         VSERVER_OPTIONS="$VSERVER_OPTIONS --interface $localip"
417     fi
418
419     [ -z "$fcdistro" ] && fcdistro=$DEFAULT_FCDISTRO
420     [ -z "$pldistro" ] && pldistro=$DEFAULT_PLDISTRO
421     [ -z "$personality" ] && personality=$DEFAULT_PERSONALITY
422
423     setup_vserver $vserver $fcdistro $personality 
424     devel_or_vtest_tools $vserver $fcdistro $pldistro $personality
425     post_install $vserver $personality
426
427 }
428
429 main "$@"