invoke mkfs.btrfs with -f only if supported
[bootmanager.git] / source / steps / InstallPartitionDisks.py
1 #!/usr/bin/python
2 #
3 # Copyright (c) 2003 Intel Corporation
4 # All rights reserved.
5 #
6 # Copyright (c) 2004-2006 The Trustees of Princeton University
7 # All rights reserved.
8 # expected /proc/partitions format
9
10 import os, sys
11 import string
12 import popen2
13 import time
14
15 from Exceptions import *
16 import utils
17 import BootServerRequest
18 import BootAPI
19 import ModelOptions
20
21 def Run( vars, log ):
22     """
23     Setup the block devices for install, partition them w/ LVM
24     
25     Expect the following variables from the store:
26     INSTALL_BLOCK_DEVICES    list of block devices to install onto
27     TEMP_PATH                somewhere to store what we need to run
28     ROOT_SIZE                the size of the root logical volume
29     SWAP_SIZE                the size of the swap partition
30     """
31
32     log.write( "\n\nStep: Install: partitioning disks.\n" )
33         
34     # make sure we have the variables we need
35     try:
36         TEMP_PATH= vars["TEMP_PATH"]
37         if TEMP_PATH == "":
38             raise ValueError, "TEMP_PATH"
39
40         INSTALL_BLOCK_DEVICES= vars["INSTALL_BLOCK_DEVICES"]
41         if( len(INSTALL_BLOCK_DEVICES) == 0 ):
42             raise ValueError, "INSTALL_BLOCK_DEVICES is empty"
43
44         # use vs_ROOT_SIZE or lxc_ROOT_SIZE as appropriate
45         varname=vars['virt']+"_ROOT_SIZE"
46         ROOT_SIZE= vars[varname]
47         if ROOT_SIZE == "" or ROOT_SIZE == 0:
48             raise ValueError, "ROOT_SIZE invalid"
49
50         SWAP_SIZE= vars["SWAP_SIZE"]
51         if SWAP_SIZE == "" or SWAP_SIZE == 0:
52             raise ValueError, "SWAP_SIZE invalid"
53
54         NODE_MODEL_OPTIONS= vars["NODE_MODEL_OPTIONS"]
55
56         PARTITIONS= vars["PARTITIONS"]
57         if PARTITIONS == None:
58             raise ValueError, "PARTITIONS"
59
60         if NODE_MODEL_OPTIONS & ModelOptions.RAWDISK:
61             VSERVERS_SIZE= "-1"
62             if "VSERVERS_SIZE" in vars:
63                 VSERVERS_SIZE= vars["VSERVERS_SIZE"]
64                 if VSERVERS_SIZE == "" or VSERVERS_SIZE == 0:
65                     raise ValueError, "VSERVERS_SIZE"
66
67     except KeyError, var:
68         raise BootManagerException, "Missing variable in vars: %s\n" % var
69     except ValueError, var:
70         raise BootManagerException, "Variable in vars, shouldn't be: %s\n" % var
71
72     bs_request= BootServerRequest.BootServerRequest(vars)
73
74     
75     # disable swap if its on
76     utils.sysexec_noerr( "swapoff %s" % PARTITIONS["swap"], log )
77
78     # shutdown and remove any lvm groups/volumes
79     utils.sysexec_noerr( "vgscan", log )
80     utils.sysexec_noerr( "vgchange -ay", log )        
81     utils.sysexec_noerr( "lvremove -f %s" % PARTITIONS["root"], log )
82     utils.sysexec_noerr( "lvremove -f %s" % PARTITIONS["swap"], log )
83     utils.sysexec_noerr( "lvremove -f %s" % PARTITIONS["vservers"], log )
84     utils.sysexec_noerr( "vgchange -an", log )
85     utils.sysexec_noerr( "vgremove -f planetlab", log )
86
87     log.write( "Running vgscan for devices\n" )
88     utils.sysexec_noerr( "vgscan", log )
89     
90     used_devices= []
91
92     INSTALL_BLOCK_DEVICES.sort()
93     for device in INSTALL_BLOCK_DEVICES:
94
95         if single_partition_device( device, vars, log ):
96             if (len(used_devices) > 0 and
97                 (vars['NODE_MODEL_OPTIONS'] & ModelOptions.RAWDISK)):
98                 log.write( "Running in raw disk mode, not using %s.\n" % device )
99             else:
100                 used_devices.append( device )
101                 log.write( "Successfully initialized %s\n" % device )
102         else:
103             log.write( "Unable to partition %s, not using it.\n" % device )
104             continue
105
106     # list of devices to be used with vgcreate
107     vg_device_list= ""
108
109     # get partitions
110     partitions = []
111     for device in used_devices:
112         part_path= get_partition_path_from_device( device, vars, log )
113         partitions.append(part_path)
114    
115     # create raid partition
116     raid_partition = create_raid_partition(partitions, vars, log)
117     if raid_partition != None:
118         partitions = [raid_partition]      
119     log.write("PARTITIONS %s\n" %  str(partitions)) 
120     # initialize the physical volumes
121     for part_path in partitions:
122         if not create_lvm_physical_volume( part_path, vars, log ):
123             raise BootManagerException, "Could not create lvm physical volume " \
124                   "on partition %s" % part_path
125         vg_device_list = vg_device_list + " " + part_path
126
127     # create an lvm volume group
128     utils.sysexec( "vgcreate -s32M planetlab %s" % vg_device_list, log)
129
130     # create swap logical volume
131     utils.sysexec( "lvcreate -L%s -nswap planetlab" % SWAP_SIZE, log )
132
133     # create root logical volume
134     utils.sysexec( "lvcreate -L%s -nroot planetlab" % ROOT_SIZE, log )
135
136     if vars['NODE_MODEL_OPTIONS'] & ModelOptions.RAWDISK and VSERVERS_SIZE != "-1":
137         utils.sysexec( "lvcreate -L%s -nvservers planetlab" % VSERVERS_SIZE, log )
138         remaining_extents= get_remaining_extents_on_vg( vars, log )
139         utils.sysexec( "lvcreate -l%s -nrawdisk planetlab" % remaining_extents, log )
140     else:
141         # create vservers logical volume with all remaining space
142         # first, we need to get the number of remaining extents we can use
143         remaining_extents= get_remaining_extents_on_vg( vars, log )
144         
145         utils.sysexec( "lvcreate -l%s -nvservers planetlab" % remaining_extents, log )
146
147     # activate volume group (should already be active)
148     #utils.sysexec( TEMP_PATH + "vgchange -ay planetlab", log )
149
150     # make swap
151     utils.sysexec( "mkswap -f %s" % PARTITIONS["swap"], log )
152
153     # check if badhd option has been set
154     option = ''
155     txt = ''
156     if NODE_MODEL_OPTIONS & ModelOptions.BADHD:
157         option = '-c'
158         txt = " with bad block search enabled, which may take a while"
159     
160     # filesystems partitions names and their corresponding
161     # reserved-blocks-percentages
162     filesystems = {"root":5,"vservers":0}
163
164     # ROOT filesystem is always with ext2
165     fs = 'root'
166     rbp = filesystems[fs]
167     devname = PARTITIONS[fs]
168     log.write("formatting %s partition (%s)%s.\n" % (fs,devname,txt))
169     utils.sysexec( "mkfs.ext2 -q %s -m %d -j %s" % (option,rbp,devname), log )
170     # disable time/count based filesystems checks
171     utils.sysexec_noerr( "tune2fs -c -1 -i 0 %s" % devname, log)
172
173     # VSERVER filesystem with btrfs to support snapshoting and stuff
174     fs = 'vservers'
175     rbp = filesystems[fs]
176     devname = PARTITIONS[fs]
177     if vars['virt']=='vs':
178         log.write("formatting %s partition (%s)%s.\n" % (fs,devname,txt))
179         utils.sysexec( "mkfs.ext2 -q %s -m %d -j %s" % (option,rbp,devname), log )
180         # disable time/count based filesystems checks
181         utils.sysexec_noerr( "tune2fs -c -1 -i 0 %s" % devname, log)
182     else:
183         log.write("formatting %s btrfs partition (%s).\n" % (fs,devname))
184         # early BootCD's seem to come with a version of mkfs.btrfs that does not support -f
185         # let's check for that before invoking it
186         mkfs="mkfs.btrfs"
187         if os.system("mkfs.btrfs --help 2>&1 | grep force")==0:
188             mkfs+=" -f"
189         mkfs+=" %s"%devname
190         utils.sysexec( mkfs, log )
191         # as of 2013/02 it looks like there's not yet an option to set fsck frequency with btrfs
192
193     # save the list of block devices in the log
194     log.write( "Block devices used (in lvm): %s\n" % repr(used_devices))
195
196     # list of block devices used may be updated
197     vars["INSTALL_BLOCK_DEVICES"]= used_devices
198
199     return 1
200
201
202 import parted
203 def single_partition_device( device, vars, log ):
204     """
205     initialize a disk by removing the old partition tables,
206     and creating a new single partition that fills the disk.
207
208     return 1 if sucessful, 0 otherwise
209     """
210
211     # two forms, depending on which version of pyparted we have
212     # v1 does not have a 'version' method
213     # v2 and above does, but to make it worse, 
214     # parted-3.4 on f14 has parted.version broken and raises SystemError
215     try:
216         parted.version()
217         return single_partition_device_2_x (device, vars, log)
218     except AttributeError:
219         # old parted does not have version at all
220         return single_partition_device_1_x (device, vars, log)
221     except SystemError:
222         # let's assume this is >=2
223         return single_partition_device_2_x (device, vars, log)
224     except:
225         raise
226
227 def single_partition_device_1_x ( device, vars, log):
228     
229     lvm_flag= parted.partition_flag_get_by_name('lvm')
230     
231     try:
232         log.write("Using pyparted 1.x\n")
233         # wipe the old partition table
234         utils.sysexec( "dd if=/dev/zero of=%s bs=512 count=1" % device, log )
235
236         # get the device
237         dev= parted.PedDevice.get(device)
238
239         # create a new partition table
240         disk= dev.disk_new_fresh(parted.disk_type_get("msdos"))
241
242         # create one big partition on each block device
243         constraint= dev.constraint_any()
244
245         new_part= disk.partition_new(
246             parted.PARTITION_PRIMARY,
247             parted.file_system_type_get("ext2"),
248             0, 1 )
249
250         # make it an lvm partition
251         new_part.set_flag(lvm_flag,1)
252
253         # actually add the partition to the disk
254         disk.add_partition(new_part, constraint)
255
256         disk.maximize_partition(new_part,constraint)
257
258         disk.commit()
259         del disk
260             
261     except BootManagerException, e:
262         log.write( "BootManagerException while running: %s\n" % str(e) )
263         return 0
264
265     except parted.error, e:
266         log.write( "parted exception while running: %s\n" % str(e) )
267         return 0
268                    
269     return 1
270
271
272
273 def single_partition_device_2_x ( device, vars, log):
274     try:
275         log.write("Using pyparted 2.x\n")
276
277         # Thierry june 2012 -- for disks larger than 2TB
278         # calling this with part_type='msdos' would fail at the maximizePartition stage
279         # create a new partition table
280         def partition_table (device, part_type, fs_type):
281             # wipe the old partition table
282             utils.sysexec( "dd if=/dev/zero of=%s bs=512 count=1" % device, log )
283             # get the device
284             dev= parted.Device(device)
285             disk = parted.freshDisk(dev,part_type)
286             # create one big partition on each block device
287             constraint= parted.constraint.Constraint (device=dev)
288             geometry = parted.geometry.Geometry (device=dev, start=0, end=1)
289             fs = parted.filesystem.FileSystem (type=fs_type,geometry=geometry)
290             new_part= parted.partition.Partition (disk, type=parted.PARTITION_NORMAL,
291                                                   fs=fs, geometry=geometry)
292             # make it an lvm partition
293             new_part.setFlag(parted.PARTITION_LVM)
294             # actually add the partition to the disk
295             disk.addPartition(new_part, constraint)
296             disk.maximizePartition(new_part,constraint)
297             disk.commit()
298             log.write ("Current disk for %s - partition type %s\n%s\n"%(device,part_type,disk))
299             log.write ("Current dev for %s\n%s\n"%(device,dev))
300             del disk
301
302         try:
303             partition_table (device, 'msdos', 'ext2')
304         except:
305             partition_table (device, 'gpt', 'ext2')
306
307     except Exception, e:
308         log.write( "Exception inside single_partition_device_2_x : %s\n" % str(e) )
309         import traceback
310         traceback.print_exc(file=log)
311         return 0
312                    
313     return 1
314
315
316
317 def create_lvm_physical_volume( part_path, vars, log ):
318     """
319     make the specificed partition a lvm physical volume.
320
321     return 1 if successful, 0 otherwise.
322     """
323
324     try:
325         # again, wipe any old data, this time on the partition
326         utils.sysexec( "dd if=/dev/zero of=%s bs=512 count=1" % part_path, log )
327         ### patch Thierry Parmentelat, required on some hardware
328         import time
329         time.sleep(1)
330         utils.sysexec( "pvcreate -ffy %s" % part_path, log )
331     except BootManagerException, e:
332         log.write( "create_lvm_physical_volume failed.\n" )
333         return 0
334
335     return 1
336
337
338 def create_raid_partition(partitions, vars, log):
339     """
340     create raid array using specified partitions.  
341     """ 
342     raid_part = None
343     raid_enabled = False
344     node_tags = BootAPI.call_api_function( vars, "GetNodeTags",
345                                         ({'node_id': vars['NODE_ID']},))
346     for node_tag in node_tags:
347         if node_tag['tagname'] == 'raid_enabled' and \
348            node_tag['value'] == '1':
349             raid_enabled = True
350             break
351     if not raid_enabled:
352         return raid_part
353
354     try:
355         log.write( "Software raid enabled.\n" )
356         # wipe everything
357         utils.sysexec_noerr("mdadm --stop /dev/md0", log)
358         time.sleep(1)
359         for part_path in partitions:
360             utils.sysexec_noerr("mdadm --zero-superblock %s " % part_path, log)
361
362         # assume each partiton is on a separate disk
363         num_parts = len(partitions)
364         if num_parts < 2:
365             log.write( "Not enough disks for raid. Found: %s\n" % partitions )
366             raise BootManagerException("Not enough disks for raid. Found: %s\n" % partitions)  
367         if num_parts == 2:
368             lvl = 1
369         else:
370             lvl = 5   
371         
372         # make the array
373         part_list = " ".join(partitions)
374         raid_part = "/dev/md0"
375         cmd = "mdadm --create %(raid_part)s --chunk=128 --level=raid%(lvl)s " % locals() + \
376               "--raid-devices=%(num_parts)s %(part_list)s" % locals()
377         utils.sysexec(cmd, log)        
378
379     except BootManagerException, e:
380         log.write("create_raid_partition failed.\n")
381         raid_part = None
382
383     return raid_part  
384
385
386 def get_partition_path_from_device( device, vars, log ):
387     """
388     given a device, return the path of the first partition on the device
389     """
390
391     # those who wrote the cciss driver just had to make it difficult
392     cciss_test= "/dev/cciss"
393     if device[:len(cciss_test)] == cciss_test:
394         part_path= device + "p1"
395     else:
396         part_path= device + "1"
397
398     return part_path
399
400
401
402 def get_remaining_extents_on_vg( vars, log ):
403     """
404     return the free amount of extents on the planetlab volume group
405     """
406     
407     c_stdout, c_stdin = popen2.popen2("vgdisplay -c planetlab")
408     result= string.strip(c_stdout.readline())
409     c_stdout.close()
410     c_stdin.close()
411     remaining_extents= string.split(result,":")[15]
412     
413     return remaining_extents