moved convenience function for detecting local IP from nightly to init-vserver -...
[build.git] / vbuild-init-vserver.sh
1 #!/bin/bash
2 # -*-shell-*-
3
4 COMMAND=$(basename $0)
5 DIRNAME=$(dirname $0)
6
7 # pkgs parsing utilities
8 PATH=$(dirname $0):$PATH . build.common
9
10 DEFAULT_FCDISTRO=f8
11 DEFAULT_PLDISTRO=planetlab
12 DEFAULT_PERSONALITY=linux32
13 DEFAULT_IFNAME=eth0
14
15 COMMAND_VBUILD="vbuild-init-vserver.sh"
16 COMMAND_MYPLC="vtest-init-vserver.sh"
17
18 function failure () {
19     echo "$COMMAND : Bailing out"
20     exit 1
21 }
22
23 # overwrite vserver's internal yum config from what is in
24 # .distributions/<distrib>/yum/yum.conf and /yum.repos.d 
25
26 function configure_yum_in_vserver () {
27     set -x 
28     set -e 
29     trap failure ERR INT
30
31     vserver=$1; shift
32     fcdistro=$1; shift
33
34     pushd /etc/vservers/.distributions/${fcdistro}
35     if [ -f yum/yum.conf ] ; then
36         echo "Initializing yum.conf in $vserver from $(pwd)/yum"
37         sed -e "s!@YUMETCDIR@!/etc!g;
38                 s!@YUMCACHEDIR@!/var/cache/yum!g;
39                 s!@YUMLOGDIR@!/var/log!g;
40                 s!@YUMLOCKDIR@!/var/lock!g;
41                " yum/yum.conf > /vservers/$vserver/etc/yum.conf
42
43         # post process the various @...@ variables from this yum.conf file.
44     else
45         echo "Using $fcdistro default for yum.conf"
46     fi
47
48     if [ -d yum.repos.d ] ; then
49         echo "Initializing yum.repos.d in $vserver from $(pwd)/yum.repos.d"
50         rm -rf /vservers/$vserver/etc/yum.repos.d
51         tar cf - yum.repos.d | tar -C /vservers/$vserver/etc -xvf -
52     else
53         echo "Cannot initialize yum.repos.d in $vserver"
54     fi
55
56     if [ -n "$MYPLC_MODE" ] ; then
57         if [ ! -d /vservers/$vserver/etc/yum.repos.d ] ; then
58             echo "WARNING : cannot create myplc repo"
59         else
60             # exclude kernel from fedora repos 
61             for i in /vservers/$vserver/etc/yum.repos.d/* ; do
62                 [ -f $i ] && echo "exclude=kernel* ulogd iptables" >> $i
63             done
64             # the build repo is not signed at this stage
65             cat > /vservers/$vserver/etc/yum.repos.d/myplc.repo <<EOF
66 [myplc]
67 name= MyPLC
68 baseurl=$REPO_URL
69 enabled=1
70 gpgcheck=0
71 EOF
72         fi
73     fi
74     popd
75 }    
76
77 function setup_vserver () {
78
79     set -x
80     set -e
81     trap failure ERR INT
82
83     vserver=$1; shift
84     fcdistro=$1; shift
85     personality=$1; shift
86
87     if [ -d /vservers/$vserver ] ; then
88         echo "$COMMAND : vserver $vserver seems to exist - bailing out"
89         exit 1
90     fi
91
92     # create it
93     # try to work around the vserver issue:
94     # vc_ctx_migrate: No such process
95     # rpm-fake.so: failed to initialize communication with resolver
96     for i in $(seq 20) ; do
97         $personality vserver $VERBOSE $vserver build $VSERVER_OPTIONS -m yum -- -d $fcdistro && break || true
98         echo "* ${i}-th attempt to 'vserver build' failed - waiting for 3 seconds"
99         sleep 3
100     done
101     # check success
102     [ -d /vservers/$vserver ] 
103
104     if [ ! -z "$personality" ] ; then
105         if [ -f "/etc/vservers/$vserver/personality" ] ; then
106             registered_personality=$(grep $personality /etc/vservers/$vserver/personality | wc -l)
107         else
108             registered_personality=0
109         fi
110         if [ $registered_personality -eq 0 -a "$personality" != "linux64" ] ; then
111             echo $personality >> /etc/vservers/$vserver/personality
112         fi
113     fi
114
115     if [ -n "$VBUILD_MODE" ] ; then 
116         ### capabilities required for a build vserver
117         # set up appropriate vserver capabilities to mount, mknod and IPC_LOCK
118         BCAPFILE=/etc/vservers/$vserver/bcapabilities
119         touch $BCAPFILE
120         cap=$(grep ^CAP_SYS_ADMIN /etc/vservers/$vserver/bcapabilities | wc -l)
121         [ $cap -eq 0 ] && echo 'CAP_SYS_ADMIN' >> /etc/vservers/$vserver/bcapabilities
122         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
123         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
124         cap=$(grep ^CAP_IPC_LOCK /etc/vservers/$vserver/bcapabilities | wc -l)
125         [ $cap -eq 0 ] && echo 'CAP_IPC_LOCK' >> /etc/vservers/$vserver/bcapabilities
126     else
127         ### capabilities required for a myplc vserver
128         # for /etc/plc.d/gpg - need to init /dev/random
129         cap=$(grep ^CAP_MKNOD /etc/vservers/$vserver/bcapabilities | wc -l)
130         [ $cap -eq 0 ] && echo 'CAP_MKNOD' >> /etc/vservers/$vserver/bcapabilities
131         cap=$(grep ^CAP_NET_BIND_SERVICE /etc/vservers/$vserver/bcapabilities | wc -l)
132         [ $cap -eq 0 ] && echo 'CAP_NET_BIND_SERVICE' >> /etc/vservers/$vserver/bcapabilities
133     fi
134
135     $personality vyum $vserver -- -y install yum
136     # ditto
137     for i in $(seq 20) ; do
138         $personality vserver $VERBOSE $vserver pkgmgmt internalize && break || true
139         echo "* ${i}-th attempt to 'vserver pkgmgmt internalize' failed - waiting for 3 seconds"
140         sleep 3
141     done
142
143     # start the vserver so we can do the following operations
144     $personality vserver $VERBOSE $vserver start
145     $personality vserver $VERBOSE $vserver exec sh -c "rm -f /var/lib/rpm/__db*"
146     $personality vserver $VERBOSE $vserver exec rpm --rebuilddb
147
148     # with vserver 2.3, granting the vserver CAP_MKNOD is not enough
149     # check whether we run vs2.3 or above
150     vs_version=$(uname -a  | sed -e 's,.*[\.\-]vs\([0-9]\)\.\([0-9]\)\..*,\1\2,')
151     # at this stage we have here 22 or 23
152     need_vdevmap=$(( $vs_version >= 23 ))
153
154     if [ "$need_vdevmap" == 1 ] ; then
155         util_vserver_215=0
156         vdevmap --help | grep -- --set &> /dev/null && util_vserver_215=1
157         
158         if [ "$util_vserver_215" == 1 ] ; then
159             ctx=$(cat /etc/vservers/$vserver/context)
160             vdevmap --set --xid $ctx --open --create --target /dev/null
161             vdevmap --set --xid $ctx --open --create --target /dev/root
162         else
163             echo "You seem to be running vs2.3 with util-vserver < 0.30.215"
164             echo "This combination is not supported by $COMMAND"
165             echo "Please upgrade your environment"
166             exit 1
167 # this supposedly is an equivalent to using vdevmap as invoked above
168 # but it's not going to work in this case
169 #           mkdir -p /etc/vservers/$vserver/apps/vdevmap/default-{block,char}
170 #           touch /etc/vservers/$vserver/apps/vdevmap/default-{block,char}/{open,create}
171 #           echo /dev/root > /etc/vservers/$vserver/apps/vdevmap/default-block/target
172 #           echo /dev/null > /etc/vservers/$vserver/apps/vdevmap/default-char/target
173         fi
174     fi
175             
176     # minimal config in the vserver for yum to work
177     configure_yum_in_vserver $vserver $fcdistro 
178
179     # set up resolv.conf
180     cp /etc/resolv.conf /vservers/$vserver/etc/resolv.conf
181     # and /etc/hosts for at least localhost
182     [ -f /vservers/$vserver/etc/hosts ] || echo "127.0.0.1 localhost localhost.localdomain" > /vservers/$vserver/etc/hosts
183 }
184
185 function devel_or_vtest_tools () {
186
187     set -x 
188     set -e 
189     trap failure ERR INT
190
191     vserver=$1; shift
192     fcdistro=$1; shift
193     pldistro=$1; shift
194     personality=$1; shift
195
196     # check for .pkgs file based on pldistro
197     if [ -n "$VBUILD_MODE" ] ; then
198         pkgsname=devel.pkgs
199     else
200         pkgsname=vtest.pkgs
201     fi
202     pkgsfile=$(pl_locateDistroFile $DIRNAME $pldistro $pkgsname)
203
204     # install individual packages, then groups
205     packages=$(pl_getPackages $fcdistro $pldistro $pkgsfile)
206     groups=$(pl_getGroups $fcdistro $pldistro $pkgsfile)
207
208     [ -n "$packages" ] && $personality vserver $vserver exec yum -y install $packages
209     [ -n "$groups" ] && $personality vserver $vserver exec yum -y groupinstall $groups
210     return 0
211 }
212
213 function post_install () {
214     if [ -n "$VBUILD_MODE" ] ; then
215         post_install_vbuild "$@" 
216     else
217         post_install_myplc "$@"
218     fi
219 }
220
221 function post_install_vbuild () {
222
223     set -x 
224     set -e 
225     trap failure ERR INT
226
227     vserver=$1; shift
228     personality=$1; shift
229
230 ### From myplc-devel-native.spec
231 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
232     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
233     # set up /dev/loop* in vserver
234     for i in \$(seq 0 255) ; do
235         mknod -m 640 /dev/loop\$i b 7 \$i
236     done
237     
238     # create symlink for /dev/fd
239     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
240
241     # modify /etc/rpm/macros to not use /sbin/new-kernel-pkg
242     sed -i 's,/sbin/new-kernel-pkg:,,' /etc/rpm/macros
243     if [ -h "/sbin/new-kernel-pkg" ] ; then
244         filename=\$(readlink -f /sbin/new-kernel-pkg)
245         if [ "\$filename" == "/sbin/true" ] ; then
246                 echo "WARNING: /sbin/new-kernel-pkg symlinked to /sbin/true"
247                 echo "\tmost likely /etc/rpm/macros has /sbin/new-kernel-pkg declared in _netsharedpath."
248                 echo "\tPlease remove /sbin/new-kernel-pkg from _netsharedpath and reintall mkinitrd."
249                 exit 1
250         fi
251     fi
252     
253     # customize root's prompt
254     cat << PROFILE > /root/.profile
255 export PS1="[$vserver] \\w # "
256 PROFILE
257
258     uid=2000
259     gid=2000
260     
261     # add a "build" user to the system
262     builduser=\$(grep "^build:" /etc/passwd | wc -l)
263     if [ \$builduser -eq 0 ] ; then
264         groupadd -o -g \$gid build;
265         useradd -o -c 'Automated Build' -u \$uid -g \$gid -n -M -s /bin/bash build;
266     fi
267
268 # Allow build user to build certain RPMs as root
269     if [ -f /etc/sudoers ] ; then
270         buildsudo=\$(grep "^build.*ALL=(ALL).*NOPASSWD:.*ALL"  /etc/sudoers | wc -l)
271         if [ \$buildsudo -eq 0 ] ; then
272             echo "build   ALL=(ALL)       NOPASSWD: ALL" >> /etc/sudoers
273         fi
274         sed -i 's,^Defaults.*requiretty,#Defaults requiretty,' /etc/sudoers
275     fi
276 #
277 EOF
278
279 }
280
281 function post_install_myplc  () {
282     set -x 
283     set -e 
284     trap failure ERR INT
285
286     vserver=$1; shift
287     personality=$1; shift
288
289 # be careful to backslash $ in this, otherwise it's the root context that's going to do the evaluation
290     cat << EOF | $personality vserver $VERBOSE $vserver exec bash -x
291
292     # create symlink for /dev/fd
293     [ ! -e "/dev/fd" ] && ln -s /proc/self/fd /dev/fd
294
295     # customize root's prompt
296     cat << PROFILE > /root/.profile
297 export PS1="[$vserver] \\w # "
298 PROFILE
299
300 EOF
301 }
302
303 # parses ifconfig's output to find out ip address and mask
304 # will then be passed to vserver as e.g. --interface 138.96.250.126/255.255.0.0
305 # default is to use lo, that's enough for local mirrors
306 # use -i eth0 in case your fedora mirror is on a separate box on the network
307 function vserverIfconfig () {
308     ifname=$1; shift
309     local result="" 
310     line=$(ifconfig $ifname 2> /dev/null | grep 'inet addr')
311     if [ -n "$line" ] ; then
312         set $line
313         for word in "$@" ; do
314             addr=$(echo $word | sed -e s,[aA][dD][dD][rR]:,,)
315             mask=$(echo $word | sed -e s,[mM][aA][sS][kK]:,,)
316             if [ "$word" != "$addr" ] ; then
317                 result="${addr}"
318             elif [ "$word" != "$mask" ] ; then
319                 result="${result}/${mask}"
320             fi
321         done
322     fi
323     if [ -z "$result" ] ; then 
324         echo "vserverIfconfig failed to locate $ifname"
325         exit 1
326     else
327         echo $result
328     fi
329 }
330
331 function usage () {
332     set +x 
333     echo "Usage: $COMMAND_VBUILD [options] vserver-name [ -- vserver-options ]"
334     echo "Usage: $COMMAND_MYPLC [options] vserver-name repo-url [ -- vserver-options ]"
335     echo "Requirements: you need to have a vserver-compliant kernel,"
336     echo "   as well as the util-vserver RPM installed"
337     echo "Description:"
338     echo "   This command creates a fresh vserver instance, for building, or running, myplc"
339     echo "Supported options"
340     echo " -f fcdistro - for creating the root filesystem - defaults to $DEFAULT_FCDISTRO"
341     echo " -d pldistro - defaults to $DEFAULT_PLDISTRO"
342     echo " -p personality - defaults to $DEFAULT_PERSONALITY"
343     echo " -i ifname: determines ip and netmask attached to ifname, and passes it to the vserver"
344     echo " -v : verbose - passes -v to calls to vserver"
345     echo "vserver-options"
346     echo "  all args after the optional -- are passed to vserver <name> build <options>"
347     echo "  typical usage is e.g. --interface eth0:200.150.100.10/24"
348     exit 1
349 }
350
351 ### parse args and 
352 function main () {
353
354     set -e
355     trap failure ERR INT
356
357     case "$COMMAND" in
358         $COMMAND_VBUILD)
359             VBUILD_MODE=true ;;
360         $COMMAND_MYPLC)
361             MYPLC_MODE=true;;
362         *)
363             usage ;;
364     esac
365
366     VERBOSE=
367     IFNAME=""
368     VSERVER_OPTIONS=""
369     while getopts "f:d:p:i:v" opt ; do
370         case $opt in
371             f) fcdistro=$OPTARG;;
372             d) pldistro=$OPTARG;;
373             p) personality=$OPTARG;;
374             i) IFNAME=$OPTARG;;
375             v) VERBOSE="-v" ;;
376             *) usage ;;
377         esac
378     done
379         
380     shift $(($OPTIND - 1))
381
382     # parse fixed arguments
383     [[ -z "$@" ]] && usage
384     vserver=$1 ; shift
385     if [ -n "$MYPLC_MODE" ] ; then
386         [[ -z "$@" ]] && usage
387         REPO_URL=$1 ; shift
388     fi
389
390     # parse vserver options
391     if [[ -n "$@" ]] ; then
392         if [ "$1" == "--" ] ; then
393             shift
394             VSERVER_OPTIONS="$@"
395         else
396             usage
397         fi
398     fi
399
400     # with new util-vserver, it is mandatory to provide an IP even for building
401     if [ -n "$VBUILD_MODE" ] ; then
402         [ -z "$IFNAME" ] && IFNAME=$DEFAULT_IFNAME
403     fi
404     if [ -n "$IFNAME" ] ; then
405         localip=$(vserverIfconfig $IFNAME)
406         VSERVER_OPTIONS="$VSERVER_OPTIONS --interface $localip"
407     fi
408
409     [ -z "$fcdistro" ] && fcdistro=$DEFAULT_FCDISTRO
410     [ -z "$pldistro" ] && pldistro=$DEFAULT_PLDISTRO
411     [ -z "$personality" ] && personality=$DEFAULT_PERSONALITY
412
413     setup_vserver $vserver $fcdistro $personality 
414     devel_or_vtest_tools $vserver $fcdistro $pldistro $personality
415     post_install $vserver $personality
416
417 }
418
419 main "$@"