scripts/alpha-repo.py

   1 #!/usr/bin/python
   2 # $Id$
   3 # expected argument is a URL on build.onelab.eu
   4 # this would then update the alpha node repo from that place
   5 # NOTE
   6 # the actual list of rpms that are needed or nodes is hard-coded
   7
   8 import sys, os, os.path, glob, commands
   9 from optparse import OptionParser
  10
  11 standard_repo = '/var/www/html/install-rpms/onelab-i386'
  12 alpha_repo = '%s-alpha'%standard_repo
  13
  14 #################### from module-tools
  15 def prompt (question,default=True):
  16
  17     choices = []
  18     if default is True: choices.append('[y]')
  19     else : choices.append('y')
  20     if default is False: choices.append('[n]')
  21     else : choices.append('n')
  22
  23     try:
  24         answer=raw_input(question + " " + "/".join(choices) + " ? ")
  25         if not answer:
  26             return default
  27         answer=answer[0].lower()
  28         if answer == 'y':
  29             return True
  30         elif answer == 'n':
  31             return False
  32         return prompt(question,default)
  33     except:
  34         raise
  35
  36 ##########
  37 def run (command,options,force=False):
  38     if ( force or not options.dry_run):
  39         print 'Running',command
  40         os.system(command)
  41     else:
  42         print 'Would run',command
  43
  44 # rewrite the http part into a rsync part
  45 def http_to_rsync (http):
  46     result = http.replace ('http://build.onelab.eu/','root@build.onelab.eu:/build/')
  47     # canonicalize : strip last / if present
  48     while (result[-1]=='/'): result=result[0:-1]
  49     return result
  50
  51 def rsync_xfer(http,repo,options):
  52     xfer='%s/xfer'%repo
  53     command='mkdir -p %s' % xfer
  54     run(command,options)
  55
  56     command='rsync -av'
  57     if options.dry_run: command += ' -n'
  58     command += ' ' + http_to_rsync(http) +  ' ' + xfer
  59     run (command,options)
  60
  61 def rpm_name (rpm_file):
  62     status,output = commands.getstatusoutput("rpm -q --qf '%%{NAME}' -p %s " % rpm_file)
  63     return output
  64
  65 def extract_contents (standard):
  66     patt= '%s/*.rpm' % standard
  67     rpm_files=glob.glob(patt)
  68     contents = [ rpm_name(rpm_file) for rpm_file in rpm_files]
  69     return contents
  70
  71 def install_xfer (repo,rpm_name,options):
  72     xfer_patt= '%s/xfer/RPMS/*/%s*.rpm' % (repo, rpm_name);
  73     xfer_rpm_names=glob.glob(xfer_patt)
  74     for xfer_rpm_name in xfer_rpm_names:
  75         command = 'mv %s %s' % ( xfer_rpm_name, repo)
  76         if prompt('Adopt %s'%os.path.basename(xfer_rpm_name)):
  77             run(command,options)
  78
  79 def remaining_rpms (root):
  80     command="find %s -name '*.rpm'"%root
  81     status,output = commands.getstatusoutput(command)
  82     return output.split("\n")
  83
  84 def scan_remaining (repo,options):
  85     for rpm in remaining_rpms('%s/xfer' % repo):
  86         basename=os.path.basename(rpm)
  87         command="mv %s %s/%s"%(rpm,repo,basename)
  88         if prompt('Adopt %s'%basename,False):
  89             run (command,options)
  90
  91 def main ():
  92     usage="Usage:%prog http://build.onelab.eu/.../RPMS"
  93     parser=OptionParser(usage=usage)
  94     parser.add_option("-n","--dry-run",action="store_true",dest="dry_run",default=False,
  95                       help="dry run")
  96     parser.add_option("-r","--repo",action="store",dest="repo",default=alpha_repo,
  97                       help="the repo to populate")
  98     parser.add_option("-s","--std",action="store",dest="standard",default=standard_repo,
  99                       help="the standard repo, used to compute the set of rpms")
 100     (options, args) = parser.parse_args()
 101     if len(args) != 1:
 102         parser.print_help()
 103         sys.exit(1)
 104
 105     http=args[0]
 106     repo=options.repo
 107     standard=options.standard
 108
 109     xfer='%s/xfer'%repo
 110     if os.path.isdir(xfer):
 111         if prompt('Want to clean up %s'%xfer,False):
 112             run('rm -rf %s'%xfer,options)
 113
 114     if prompt ('Need to fetch rpms from %s ' % http):
 115         rsync_xfer(http,repo,options)
 116
 117     if prompt ('Install yumgroups'):
 118         command="mv %s/xfer/RPMS/yumgroups.xml %s/"%(repo,repo)
 119         run(command,options)
 120
 121     if prompt ('Get list of standard rpms from %s ' % standard):
 122         rpm_names=extract_contents(standard)
 123
 124     if prompt ('Moving standard rpms to %s' % repo):
 125         for rpm_name in rpm_names:
 126             install_xfer(repo,rpm_name,options)
 127
 128     # once here, we have moved all the rpms that belonged to the standard noderepo
 129     # let's manually scan the other ones as there might be new rpms needed
 130     # the list proposed here contains mostly server-side rpms,
 131     # so the prompt default is False
 132     if prompt ('Scan remaining rpms for double-check'):
 133         scan_remaining(repo,options)
 134
 135     if prompt ('Nuke repodata (force complete reindexing)'):
 136         command="rm -rf %s/repodata %s/signed-stamps"%(repo,repo)
 137         run(command,options)
 138
 139     if prompt ('Reindex'):
 140         run('service plc start packages',options)
 141
 142 if __name__ == '__main__':
 143     main()
 144
 145
 146