sfa/plc/sfaImport.py

   1 #
   2 # The import tool assumes that the existing PLC hierarchy should all be part
   3 # of "planetlab.us" (see the root_auth and level1_auth variables below).
   4 #
   5 # Public keys are extracted from the users' SSH keys automatically and used to
   6 # create GIDs. This is relatively experimental as a custom tool had to be
   7 # written to perform conversion from SSH to OpenSSL format. It only supports
   8 # RSA keys at this time, not DSA keys.
   9 ##
  10
  11 import getopt
  12 import sys
  13 import tempfile
  14
  15 from sfa.util.record import *
  16 from sfa.util.genitable import GeniTable
  17 from sfa.util.misc import *
  18 from sfa.util.config import Config
  19 from sfa.util.report import trace, error
  20
  21 from sfa.trust.certificate import convert_public_key, Keypair
  22 from sfa.trust.trustedroot import *
  23 from sfa.trust.hierarchy import *
  24 from sfa.trust.gid import create_uuid
  25
  26
  27 def un_unicode(str):
  28    if isinstance(str, unicode):
  29        return str.encode("ascii", "ignore")
  30    else:
  31        return str
  32
  33 def cleanup_string(str):
  34     # pgsql has a fit with strings that have high ascii in them, so filter it
  35     # out when generating the hrns.
  36     tmp = ""
  37     for c in str:
  38         if ord(c) < 128:
  39             tmp = tmp + c
  40     str = tmp
  41
  42     str = un_unicode(str)
  43     str = str.replace(" ", "_")
  44     str = str.replace(".", "_")
  45     str = str.replace("(", "_")
  46     str = str.replace("'", "_")
  47     str = str.replace(")", "_")
  48     str = str.replace('"', "_")
  49     return str
  50
  51 class sfaImport:
  52
  53     def __init__(self):
  54         self.AuthHierarchy = Hierarchy()
  55         self.TrustedRoots = TrustedRootList()
  56
  57         self.config = Config()
  58         self.plc_auth = self.config.get_plc_auth()
  59         self.root_auth = self.config.SFA_REGISTRY_ROOT_AUTH
  60         self.level1_auth = self.config.SFA_REGISTRY_LEVEL1_AUTH
  61         if not self.level1_auth or self.level1_auth in ['']:
  62             self.level1_auth = None
  63
  64         # connect to planetlab
  65         self.shell = None
  66         if "Url" in self.plc_auth:
  67             from sfa.plc.remoteshell import RemoteShell
  68             self.shell = RemoteShell()
  69         else:
  70             import PLC.Shell
  71             self.shell = PLC.Shell.Shell(globals = globals())
  72
  73
  74     def create_top_level_auth_records(self, hrn):
  75         AuthHierarchy = self.AuthHierarchy
  76
  77         # if auth records for this hrn dont exist, create it
  78         if not AuthHierarchy.auth_exists(hrn):
  79             AuthHierarchy.create_auth(hrn)
  80
  81
  82         # get the auth info of the newly created root auth (parent)
  83         # or level1_auth if it exists
  84         if self.level1_auth:
  85             auth_info = AuthHierarchy.get_auth_info(hrn)
  86             parent_hrn = hrn
  87         else:
  88             parent_hrn = get_authority(hrn)
  89             if not parent_hrn:
  90                 parent_hrn = hrn
  91             auth_info = AuthHierarchy.get_auth_info(parent_hrn)
  92
  93         table = GeniTable()
  94         auth_record = table.find({'type': 'authority', 'hrn': hrn})
  95
  96         if not auth_record:
  97             auth_record = GeniRecord(hrn=hrn, gid=auth_info.get_gid_object(), type="authority", pointer=-1)
  98             trace("  inserting authority record for " + hrn)
  99             table.insert(auth_record)
 100
 101
 102     def import_person(self, parent_hrn, person):
 103         AuthHierarchy = self.AuthHierarchy
 104         hrn = email_to_hrn(parent_hrn, person['email'])
 105
 106         # ASN.1 will have problems with hrn's longer than 64 characters
 107         if len(hrn) > 64:
 108             hrn = hrn[:64]
 109
 110         trace("Import: importing person " + hrn)
 111         key_ids = []
 112         if 'key_ids' in person and person['key_ids']:
 113             key_ids = person["key_ids"]
 114             # get the user's private key from the SSH keys they have uploaded
 115             # to planetlab
 116             keys = self.shell.GetKeys(self.plc_auth, key_ids)
 117             key = keys[0]['key']
 118             pkey = convert_public_key(key)
 119             if not pkey:
 120                 pkey = Keypair(create=True)
 121         else:
 122             # the user has no keys
 123             trace("   person " + hrn + " does not have a PL public key")
 124             # if a key is unavailable, then we still need to put something in the
 125             # user's GID. So make one up.
 126             pkey = Keypair(create=True)
 127
 128         # create the gid
 129         person_gid = AuthHierarchy.create_gid(hrn, create_uuid(), pkey)
 130         table = GeniTable()
 131         person_record = GeniRecord(hrn=hrn, gid=person_gid, type="user", pointer=person['person_id'])
 132         try:
 133             table.insert(person_record)
 134         except:
 135             trace("Import: %s exists, updating " % hrn)
 136             existing_record = table.find(person_record)
 137             person_record['record_id'] = existing_record['record_id']
 138             table.update(person_record)
 139
 140     def import_slice(self, parent_hrn, slice):
 141         AuthHierarchy = self.AuthHierarchy
 142         slicename = slice['name'].split("_",1)[-1]
 143         slicename = cleanup_string(slicename)
 144
 145         if not slicename:
 146             error("Import_Slice: failed to parse slice name " + slice['name'])
 147             return
 148
 149         hrn = parent_hrn + "." + slicename
 150         trace("Import: importing slice " + hrn)
 151
 152         pkey = Keypair(create=True)
 153         slice_gid = AuthHierarchy.create_gid(hrn, create_uuid(), pkey)
 154         slice_record = GeniRecord(hrn=hrn, gid=slice_gid, type="slice", pointer=slice['slice_id'])
 155         table = GeniTable()
 156         try:
 157             table.insert(slice_record)
 158         except:
 159             trace("Import: %s exists, updating " % hrn)
 160             existing_record = table.find(slice_record)
 161             slice_record['record_id'] = existing_record['record_id']
 162             table.update(slice_record)
 163
 164     def import_node(self, parent_hrn, node):
 165         AuthHierarchy = self.AuthHierarchy
 166         nodename = node['hostname'].split(".")[0]
 167         nodename = cleanup_string(nodename)
 168
 169         if not nodename:
 170             error("Import_node: failed to parse node name " + node['hostname'])
 171             return
 172
 173         hrn = parent_hrn + "." + nodename
 174         trace("Import: importing node " + hrn)
 175         # ASN.1 will have problems with hrn's longer than 64 characters
 176         if len(hrn) > 64:
 177             hrn = hrn[:64]
 178
 179         table = GeniTable()
 180         node_record = table.find({'type': 'node', 'hrn': hrn})
 181         pkey = Keypair(create=True)
 182         node_gid = AuthHierarchy.create_gid(hrn, create_uuid(), pkey)
 183         node_record = GeniRecord(hrn=hrn, gid=node_gid, type="node", pointer=node['node_id'])
 184         try:
 185             table.insert(node_record)
 186         except:
 187             trace("Import: %s exists, updating " % hrn)
 188             existing_record = table.find(node_record)
 189             node_record['record_id'] = existing_record['record_id']
 190             table.update(node_record)
 191
 192
 193     def import_site(self, parent_hrn, site):
 194         AuthHierarchy = self.AuthHierarchy
 195         shell = self.shell
 196         plc_auth = self.plc_auth
 197         sitename = site['login_base']
 198         sitename = cleanup_string(sitename)
 199
 200         hrn = parent_hrn + "." + sitename
 201
 202         # Hardcode 'internet2' into the hrn for sites hosting
 203         # internet2 nodes. This is a special operation for some vini
 204         # sites only
 205         if ".vini" in parent_hrn and parent_hrn.endswith('vini'):
 206             if sitename.startswith("ii"):
 207                 sitename = sitename.replace("ii", "")
 208                 hrn = ".".join([parent_hrn, "internet2", sitename])
 209             elif sitename.startswith("nlr"):
 210                 hrn = ".".join([parent_hrn, "internet2", sitename])
 211                 sitename = sitename.replace("nlr", "")
 212
 213         trace("Import_Site: importing site " + hrn)
 214
 215         # create the authority
 216         if not AuthHierarchy.auth_exists(hrn):
 217             AuthHierarchy.create_auth(hrn)
 218
 219         auth_info = AuthHierarchy.get_auth_info(hrn)
 220
 221         table = GeniTable()
 222         auth_record = GeniRecord(hrn=hrn, gid=auth_info.get_gid_object(), type="authority", pointer=site['site_id'])
 223         try:
 224             table.insert(auth_record)
 225         except:
 226             trace("Import: %s exists, updating " % hrn)
 227             existing_record = table.find(auth_record)
 228             auth_record['record_id'] = existing_record['record_id']
 229             table.update(auth_record)
 230
 231
 232     def delete_record(self, hrn, type):
 233         # delete the record
 234         table = GeniTable()
 235         record_list = table.find({'type': type, 'hrn': hrn})
 236         for record in record_list:
 237             table.remove(record)