log more details
[bootmanager.git] / source / steps / InstallBootstrapFS.py
1 #!/usr/bin/python
2 #
3 # Copyright (c) 2003 Intel Corporation
4 # All rights reserved.
5 #
6 # Copyright (c) 2004-2007 The Trustees of Princeton University
7 # All rights reserved.
8 # expected /proc/partitions format
9
10 import os, sys, string
11 import popen2
12 import shutil
13 import traceback 
14 import time
15
16 from Exceptions import *
17 import utils
18 import BootServerRequest
19 import BootAPI
20
21
22 def Run( vars, log ):
23     """
24     Download core + extensions bootstrapfs tarballs and install on the hard drive
25     
26     Expect the following variables from the store:
27     SYSIMG_PATH          the path where the system image will be mounted
28     PARTITIONS           dictionary of generic part. types (root/swap)
29                          and their associated devices.
30     NODE_ID              the id of this machine
31     
32     Sets the following variables:
33     TEMP_BOOTCD_PATH     where the boot cd is remounted in the temp
34                          path
35     ROOT_MOUNTED         set to 1 when the the base logical volumes
36                          are mounted.
37     """
38
39     log.write( "\n\nStep: Install: bootstrapfs tarball.\n" )
40
41     # make sure we have the variables we need
42     try:
43         SYSIMG_PATH= vars["SYSIMG_PATH"]
44         if SYSIMG_PATH == "":
45             raise ValueError, "SYSIMG_PATH"
46
47         PARTITIONS= vars["PARTITIONS"]
48         if PARTITIONS == None:
49             raise ValueError, "PARTITIONS"
50
51         NODE_ID= vars["NODE_ID"]
52         if NODE_ID == "":
53             raise ValueError, "NODE_ID"
54
55         VERSION=vars['VERSION'] or 'unknown'
56
57     except KeyError, var:
58         raise BootManagerException, "Missing variable in vars: %s\n" % var
59     except ValueError, var:
60         raise BootManagerException, "Variable in vars, shouldn't be: %s\n" % var
61
62
63     try:
64         # make sure the required partitions exist
65         val= PARTITIONS["root"]
66         val= PARTITIONS["swap"]
67         val= PARTITIONS["vservers"]
68     except KeyError, part:
69         log.write( "Missing partition in PARTITIONS: %s\n" % part )
70         return 0   
71
72     bs_request= BootServerRequest.BootServerRequest(vars)
73     
74     log.write( "turning on swap space\n" )
75     utils.sysexec( "swapon %s" % PARTITIONS["swap"], log )
76
77     # make sure the sysimg dir is present
78     utils.makedirs( SYSIMG_PATH )
79
80     log.write( "mounting root file system\n" )
81     utils.sysexec( "mount -t ext3 %s %s" % (PARTITIONS["root"],SYSIMG_PATH), log )
82
83     log.write( "mounting vserver partition in root file system\n" )
84     utils.makedirs( SYSIMG_PATH + "/vservers" )
85     utils.sysexec( "mount -t ext3 %s %s/vservers" % (PARTITIONS["vservers"],
86                                                      SYSIMG_PATH), log )
87
88     vars['ROOT_MOUNTED']= 1
89
90     # call getNodeFlavour
91     try:
92         node_flavour = BootAPI.call_api_function(vars, "GetNodeFlavour", (NODE_ID,) )
93         nodefamily = node_flavour['nodefamily']
94         extensions = node_flavour['extensions']
95         plain = node_flavour['plain']
96     except:
97         exc_type, exc_value, exc_traceback = sys.exc_info()
98         lines=traceback.format_exception(exc_type,exc_value,exc_traceback)
99         for line in lines: log.write(line)
100         raise BootManagerException ("Could not call GetNodeFlavour - need PLCAPI-5.0")
101     
102     log.write ("Retrieved 'virt' style %s from GetNodeFlavour\n"%node_flavour['virt'])
103     # the 'plain' option is for tests mostly
104     if plain:
105         download_suffix=".tar"
106         uncompress_option=""
107         log.write("Using plain bootstrapfs images\n")
108     else:
109         download_suffix=".tar.bz2"
110         uncompress_option="-j"
111         log.write("Using compressed bootstrapfs images\n")
112
113     log.write ("Using nodefamily=%s\n"%(nodefamily))
114     if not extensions:
115         log.write("Installing only core software\n")
116     else:
117         log.write("Requested extensions %r\n" % extensions)
118     
119     bootstrapfs_names = [ nodefamily ] + extensions
120
121     for name in bootstrapfs_names:
122         tarball = "bootstrapfs-%s%s"%(name,download_suffix)
123         source_file= "/boot/%s" % (tarball)
124         dest_file= "%s/%s" % (SYSIMG_PATH, tarball)
125
126         source_hash_file= "/boot/%s.sha1sum" % (tarball)
127         dest_hash_file= "%s/%s.sha1sum" % (SYSIMG_PATH, tarball)
128
129         time_beg=time.time()
130         log.write( "downloading %s\n" % source_file )
131         # 30 is the connect timeout, 14400 is the max transfer time in
132         # seconds (4 hours)
133         result = bs_request.DownloadFile( source_file, None, None,
134                                          1, 1, dest_file,
135                                          30, 14400)
136         time_end=time.time()
137         duration=int(time_end-time_beg)
138         log.write("Done downloading (%s seconds)\n"%duration)
139         if result:
140             # Download SHA1 checksum file
141             log.write( "downloading sha1sum for %s\n"%source_file)
142             result = bs_request.DownloadFile( source_hash_file, None, None,
143                                          1, 1, dest_hash_file,
144                                          30, 14400)
145  
146             log.write( "verifying sha1sum for %s\n"%source_file)
147             if not utils.check_file_hash(dest_file, dest_hash_file):
148                 raise BootManagerException, "FATAL: SHA1 checksum does not match between %s and %s" % (source_file, source_hash_file)
149                 
150             
151             time_beg=time.time()
152             log.write( "extracting %s in %s\n" % (dest_file,SYSIMG_PATH) )
153             result = utils.sysexec( "tar -C %s -xpf %s %s" % (SYSIMG_PATH,dest_file,uncompress_option), log )
154             time_end=time.time()
155             duration=int(time_end-time_beg)
156             log.write( "Done extracting (%s seconds)\n"%duration)
157             utils.removefile( dest_file )
158         else:
159             # the main tarball is required
160             if name == nodefamily:
161                 raise BootManagerException, "FATAL: Unable to download main tarball %s from server." % \
162                     source_file
163             # for extensions, just print a warning
164             else:
165                 log.write("WARNING: tarball for extension %s not found\n"%(name))
166
167     # copy resolv.conf from the base system into our temp dir
168     # so DNS lookups work correctly while we are chrooted
169     log.write( "Copying resolv.conf to temp dir\n" )
170     utils.sysexec( "cp /etc/resolv.conf %s/etc/" % SYSIMG_PATH, log )
171
172     # Copy the boot server certificate(s) and GPG public key to
173     # /usr/boot in the temp dir.
174     log.write( "Copying boot server certificates and public key\n" )
175
176     if os.path.exists("/usr/boot"):
177         utils.makedirs(SYSIMG_PATH + "/usr")
178         shutil.copytree("/usr/boot", SYSIMG_PATH + "/usr/boot")
179     elif os.path.exists("/usr/bootme"):
180         utils.makedirs(SYSIMG_PATH + "/usr/boot")
181         boot_server = file("/usr/bootme/BOOTSERVER").readline().strip()
182         shutil.copy("/usr/bootme/cacert/" + boot_server + "/cacert.pem",
183                     SYSIMG_PATH + "/usr/boot/cacert.pem")
184         file(SYSIMG_PATH + "/usr/boot/boot_server", "w").write(boot_server)
185         shutil.copy("/usr/bootme/pubring.gpg", SYSIMG_PATH + "/usr/boot/pubring.gpg")
186         
187     # For backward compatibility
188     if os.path.exists("/usr/bootme"):
189         utils.makedirs(SYSIMG_PATH + "/mnt/cdrom")
190         shutil.copytree("/usr/bootme", SYSIMG_PATH + "/mnt/cdrom/bootme")
191
192     # Import the GPG key into the RPM database so that RPMS can be verified
193     utils.makedirs(SYSIMG_PATH + "/etc/pki/rpm-gpg")
194     utils.sysexec("gpg --homedir=/root --export --armor" \
195                   " --no-default-keyring --keyring %s/usr/boot/pubring.gpg" \
196                   " >%s/etc/pki/rpm-gpg/RPM-GPG-KEY-planetlab" % (SYSIMG_PATH, SYSIMG_PATH), log)
197     utils.sysexec_chroot(SYSIMG_PATH, "rpm --import /etc/pki/rpm-gpg/RPM-GPG-KEY-planetlab", log)
198
199     # keep a log on the installed hdd
200     stamp=file(SYSIMG_PATH + "/bm-install.txt",'w')
201     now=time.strftime("%Y-%b-%d @ %H:%M %Z", time.gmtime())
202     stamp.write("Hard drive installed by BootManager %s\n"%VERSION)
203     stamp.write("Finished extraction of bootstrapfs on %s\n"%now)
204     stamp.write("Using nodefamily %s\n"%nodefamily)
205     stamp.close()
206
207     return 1