sfa/managers/aggregate_manager_pl.py

   1
   2
   3 import datetime
   4 import time
   5 import traceback
   6 import sys
   7 import re
   8 from types import StringTypes
   9
  10 from sfa.util.faults import *
  11 from sfa.util.xrn import get_authority, hrn_to_urn, urn_to_hrn, Xrn
  12 from sfa.util.plxrn import slicename_to_hrn, hrn_to_pl_slicename, hostname_to_urn
  13 from sfa.util.rspec import *
  14 from sfa.util.specdict import *
  15 from sfa.util.record import SfaRecord
  16 from sfa.util.policy import Policy
  17 from sfa.util.record import *
  18 from sfa.util.sfaticket import SfaTicket
  19 from sfa.plc.slices import Slices
  20 from sfa.trust.credential import Credential
  21 import sfa.plc.peers as peers
  22 from sfa.plc.network import *
  23 from sfa.plc.api import SfaAPI
  24 from sfa.plc.aggregate import Aggregate
  25 from sfa.plc.slices import *
  26 from sfa.util.version import version_core
  27 from sfa.rspecs.rspec_version import RSpecVersion
  28 from sfa.rspecs.sfa_rspec import sfa_rspec_version
  29 from sfa.rspecs.pg_rspec import pg_rspec_ad_version, pg_rspec_request_version
  30 from sfa.rspecs.rspec_parser import parse_rspec
  31 from sfa.util.sfatime import utcparse
  32 from sfa.util.callids import Callids
  33
  34 def GetVersion(api):
  35     xrn=Xrn(api.hrn)
  36     request_rspec_versions = [dict(pg_rspec_request_version), dict(sfa_rspec_version)]
  37     ad_rspec_versions = [dict(pg_rspec_ad_version), dict(sfa_rspec_version)]
  38     version_more = {'interface':'aggregate',
  39                     'testbed':'myplc',
  40                     'hrn':xrn.get_hrn(),
  41                     'request_rspec_versions': request_rspec_versions,
  42                     'ad_rspec_versions': ad_rspec_versions,
  43                     'default_ad_rspec': dict(sfa_rspec_version)
  44                     }
  45     return version_core(version_more)
  46
  47 def __get_registry_objects(slice_xrn, creds, users):
  48     """
  49
  50     """
  51     hrn, type = urn_to_hrn(slice_xrn)
  52
  53     hrn_auth = get_authority(hrn)
  54
  55     # Build up objects that an SFA registry would return if SFA
  56     # could contact the slice's registry directly
  57     reg_objects = None
  58
  59     if users:
  60         # dont allow special characters in the site login base
  61         #only_alphanumeric = re.compile('[^a-zA-Z0-9]+')
  62         #login_base = only_alphanumeric.sub('', hrn_auth[:20]).lower()
  63         slicename = hrn_to_pl_slicename(hrn)
  64         login_base = slicename.split('_')[0]
  65         reg_objects = {}
  66         site = {}
  67         site['site_id'] = 0
  68         site['name'] = 'geni.%s' % login_base
  69         site['enabled'] = True
  70         site['max_slices'] = 100
  71
  72         # Note:
  73         # Is it okay if this login base is the same as one already at this myplc site?
  74         # Do we need uniqueness?  Should use hrn_auth instead of just the leaf perhaps?
  75         site['login_base'] = login_base
  76         site['abbreviated_name'] = login_base
  77         site['max_slivers'] = 1000
  78         reg_objects['site'] = site
  79
  80         slice = {}
  81
  82         # get_expiration always returns a normalized datetime - no need to utcparse
  83         extime = Credential(string=creds[0]).get_expiration()
  84         # If the expiration time is > 60 days from now, set the expiration time to 60 days from now
  85         if extime > datetime.datetime.utcnow() + datetime.timedelta(days=60):
  86             extime = datetime.datetime.utcnow() + datetime.timedelta(days=60)
  87         slice['expires'] = int(time.mktime(extime.timetuple()))
  88         slice['hrn'] = hrn
  89         slice['name'] = hrn_to_pl_slicename(hrn)
  90         slice['url'] = hrn
  91         slice['description'] = hrn
  92         slice['pointer'] = 0
  93         reg_objects['slice_record'] = slice
  94
  95         reg_objects['users'] = {}
  96         for user in users:
  97             user['key_ids'] = []
  98             hrn, _ = urn_to_hrn(user['urn'])
  99             user['email'] = hrn_to_pl_slicename(hrn) + "@geni.net"
 100             user['first_name'] = hrn
 101             user['last_name'] = hrn
 102             reg_objects['users'][user['email']] = user
 103
 104         return reg_objects
 105
 106 def __get_hostnames(nodes):
 107     hostnames = []
 108     for node in nodes:
 109         hostnames.append(node.hostname)
 110     return hostnames
 111
 112 def SliverStatus(api, slice_xrn, creds, call_id):
 113     if Callids().already_handled(call_id): return {}
 114
 115     (hrn, type) = urn_to_hrn(slice_xrn)
 116     # find out where this slice is currently running
 117     api.logger.info(hrn)
 118     slicename = hrn_to_pl_slicename(hrn)
 119
 120     slices = api.plshell.GetSlices(api.plauth, [slicename], ['node_ids','person_ids','name','expires'])
 121     if len(slices) == 0:
 122         raise Exception("Slice %s not found (used %s as slicename internally)" % (slice_xrn, slicename))
 123     slice = slices[0]
 124
 125     # report about the local nodes only
 126     nodes = api.plshell.GetNodes(api.plauth, {'node_id':slice['node_ids'],'peer_id':None},
 127                                  ['hostname', 'site_id', 'boot_state', 'last_contact'])
 128     site_ids = [node['site_id'] for node in nodes]
 129     sites = api.plshell.GetSites(api.plauth, site_ids, ['site_id', 'login_base'])
 130     sites_dict = dict ( [ (site['site_id'],site['login_base'] ) for site in sites ] )
 131
 132     result = {}
 133     top_level_status = 'unknown'
 134     if nodes:
 135         top_level_status = 'ready'
 136     result['geni_urn'] = Xrn(slice_xrn, 'slice').get_urn()
 137     result['pl_login'] = slice['name']
 138     result['pl_expires'] = datetime.datetime.fromtimestamp(slice['expires']).ctime()
 139
 140     resources = []
 141     for node in nodes:
 142         res = {}
 143         res['pl_hostname'] = node['hostname']
 144         res['pl_boot_state'] = node['boot_state']
 145         res['pl_last_contact'] = node['last_contact']
 146         if node['last_contact'] is not None:
 147             res['pl_last_contact'] = datetime.datetime.fromtimestamp(node['last_contact']).ctime()
 148         res['geni_urn'] = hostname_to_urn(api.hrn, sites_dict[node['site_id']], node['hostname'])
 149         if node['boot_state'] == 'boot':
 150             res['geni_status'] = 'ready'
 151         else:
 152             res['geni_status'] = 'failed'
 153             top_level_staus = 'failed'
 154
 155         res['geni_error'] = ''
 156
 157         resources.append(res)
 158
 159     result['geni_status'] = top_level_status
 160     result['geni_resources'] = resources
 161     # XX remove me
 162     #api.logger.info(result)
 163     # XX remove me
 164     return result
 165
 166 def CreateSliver(api, slice_xrn, creds, rspec_string, users, call_id):
 167     """
 168     Create the sliver[s] (slice) at this aggregate.
 169     Verify HRN and initialize the slice record in PLC if necessary.
 170     """
 171     if Callids().already_handled(call_id): return ""
 172
 173     reg_objects = __get_registry_objects(slice_xrn, creds, users)
 174
 175     (hrn, type) = urn_to_hrn(slice_xrn)
 176     peer = None
 177     aggregate = Aggregate(api)
 178     slices = Slices(api)
 179     peer = slices.get_peer(hrn)
 180     sfa_peer = slices.get_sfa_peer(hrn)
 181     registry = api.registries[api.hrn]
 182     credential = api.getCredential()
 183     (site_id, remote_site_id) = slices.verify_site(registry, credential, hrn,
 184                                                    peer, sfa_peer, reg_objects)
 185
 186     slice = slices.verify_slice(registry, credential, hrn, site_id,
 187                                        remote_site_id, peer, sfa_peer, reg_objects)
 188
 189     nodes = api.plshell.GetNodes(api.plauth, slice['node_ids'], ['hostname'])
 190     current_slivers = [node['hostname'] for node in nodes]
 191     rspec = parse_rspec(rspec_string)
 192     requested_slivers = [str(host) for host in rspec.get_nodes_with_slivers()]
 193     # remove nodes not in rspec
 194     deleted_nodes = list(set(current_slivers).difference(requested_slivers))
 195
 196     # add nodes from rspec
 197     added_nodes = list(set(requested_slivers).difference(current_slivers))
 198
 199     # get sliver attributes
 200     requested_slice_attributes = rspec.get_slice_attributes()
 201     removed_slice_attributes = []
 202     existing_slice_attributes = []
 203     for slice_tag in api.plshell.GetSliceTags(api.plauth, {'slice_id': slice['slice_id']}):
 204         attribute_found=False
 205         for requested_attribute in requested_slice_attributes:
 206             if requested_attribute['name'] == slice_tag['tagname'] and \
 207                requested_attribute['value'] == slice_tag['value']:
 208                 attribute_found=True
 209
 210         if not attribute_found:
 211             removed_slice_attributes.append(slice_tag)
 212         else:
 213             existing_slice_attributes.append(slice_tag)
 214
 215     #api.logger.debug("requested slice attributes: %s" % str(requested_slice_attributes))
 216     #api.logger.debug("removed slice attributes: %s" % str(removed_slice_attributes))
 217     #api.logger.debug("existing slice attributes: %s" % str(existing_slice_attributes))
 218     try:
 219         if peer:
 220             api.plshell.UnBindObjectFromPeer(api.plauth, 'slice', slice['slice_id'], peer)
 221
 222         api.plshell.AddSliceToNodes(api.plauth, slice['name'], added_nodes)
 223         api.plshell.DeleteSliceFromNodes(api.plauth, slice['name'], deleted_nodes)
 224         # remove stale attributes
 225         for attribute in removed_slice_attributes:
 226             try:
 227                 api.plshell.DeleteSliceTag(api.plauth, attribute['slice_tag_id'])
 228             except Exception, e:
 229                 api.logger.warn('Failed to remove sliver attribute. name: %s, value: %s, node_id: %s\nCause:%s'\
 230                                 % (name, value,  node_id, str(e)))
 231
 232         # add requested_attributes
 233         for attribute in requested_slice_attributes:
 234             try:
 235                 name, value, node_id = attribute['name'], attribute['value'], attribute.get('node_id', None)
 236                 api.plshell.AddSliceTag(api.plauth, slice['name'], name, value, node_id)
 237             except Exception, e:
 238                 api.logger.warn('Failed to add sliver attribute. name: %s, value: %s, node_id: %s\nCause:%s'\
 239                                 % (name, value,  node_id, str(e)))
 240
 241     finally:
 242         if peer:
 243             api.plshell.BindObjectToPeer(api.plauth, 'slice', slice.id, peer,
 244                                          slice.peer_id)
 245
 246     return aggregate.get_rspec(slice_xrn=slice_xrn, version=rspec.version)
 247
 248
 249 def RenewSliver(api, xrn, creds, expiration_time, call_id):
 250     if Callids().already_handled(call_id): return True
 251     (hrn, type) = urn_to_hrn(xrn)
 252     slicename = hrn_to_pl_slicename(hrn)
 253     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 254     if not slices:
 255         raise RecordNotFound(hrn)
 256     slice = slices[0]
 257     requested_time = utcparse(expiration_time)
 258     record = {'expires': int(time.mktime(requested_time.timetuple()))}
 259     try:
 260         api.plshell.UpdateSlice(api.plauth, slice['slice_id'], record)
 261         return True
 262     except:
 263         return False
 264
 265 def start_slice(api, xrn, creds):
 266     hrn, type = urn_to_hrn(xrn)
 267     slicename = hrn_to_pl_slicename(hrn)
 268     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 269     if not slices:
 270         raise RecordNotFound(hrn)
 271     slice_id = slices[0]['slice_id']
 272     slice_tags = api.plshell.GetSliceTags(api.plauth, {'slice_id': slice_id, 'tagname': 'enabled'}, ['slice_tag_id'])
 273     # just remove the tag if it exists
 274     if slice_tags:
 275         api.plshell.DeleteSliceTag(api.plauth, slice_tags[0]['slice_tag_id'])
 276
 277     return 1
 278
 279 def stop_slice(api, xrn, creds):
 280     hrn, type = urn_to_hrn(xrn)
 281     slicename = hrn_to_pl_slicename(hrn)
 282     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 283     if not slices:
 284         raise RecordNotFound(hrn)
 285     slice_id = slices[0]['slice_id']
 286     slice_tags = api.plshell.GetSliceTags(api.plauth, {'slice_id': slice_id, 'tagname': 'enabled'})
 287     if not slice_tags:
 288         api.plshell.AddSliceTag(api.plauth, slice_id, 'enabled', '0')
 289     elif slice_tags[0]['value'] != "0":
 290         tag_id = attributes[0]['slice_tag_id']
 291         api.plshell.UpdateSliceTag(api.plauth, tag_id, '0')
 292     return 1
 293
 294 def reset_slice(api, xrn):
 295     # XX not implemented at this interface
 296     return 1
 297
 298 def DeleteSliver(api, xrn, creds, call_id):
 299     if Callids().already_handled(call_id): return ""
 300     (hrn, type) = urn_to_hrn(xrn)
 301     slicename = hrn_to_pl_slicename(hrn)
 302     slices = api.plshell.GetSlices(api.plauth, {'name': slicename})
 303     if not slices:
 304         return 1
 305     slice = slices[0]
 306
 307     # determine if this is a peer slice
 308     peer = peers.get_peer(api, hrn)
 309     try:
 310         if peer:
 311             api.plshell.UnBindObjectFromPeer(api.plauth, 'slice', slice['slice_id'], peer)
 312         api.plshell.DeleteSliceFromNodes(api.plauth, slicename, slice['node_ids'])
 313     finally:
 314         if peer:
 315             api.plshell.BindObjectToPeer(api.plauth, 'slice', slice['slice_id'], peer, slice['peer_slice_id'])
 316     return 1
 317
 318 # xxx Thierry : caching at the aggregate level sounds wrong...
 319 #caching=True
 320 caching=False
 321 def ListSlices(api, creds, call_id):
 322     if Callids().already_handled(call_id): return []
 323     # look in cache first
 324     if caching and api.cache:
 325         slices = api.cache.get('slices')
 326         if slices:
 327             return slices
 328
 329     # get data from db
 330     slices = api.plshell.GetSlices(api.plauth, {'peer_id': None}, ['name'])
 331     slice_hrns = [slicename_to_hrn(api.hrn, slice['name']) for slice in slices]
 332     slice_urns = [hrn_to_urn(slice_hrn, 'slice') for slice_hrn in slice_hrns]
 333
 334     # cache the result
 335     if caching and api.cache:
 336         api.cache.add('slices', slice_urns)
 337
 338     return slice_urns
 339
 340 def ListResources(api, creds, options,call_id):
 341     if Callids().already_handled(call_id): return ""
 342     # get slice's hrn from options
 343     xrn = options.get('geni_slice_urn', '')
 344     (hrn, type) = urn_to_hrn(xrn)
 345
 346     # get the rspec's return format from options
 347     rspec_version = RSpecVersion(options.get('rspec_version'))
 348     version_string = "rspec_%s" % (rspec_version.get_version_name())
 349
 350     #panos adding the info option to the caching key (can be improved)
 351     if options.get('info'):
 352         version_string = version_string + "_"+options.get('info', 'default')
 353
 354     # look in cache first
 355     if caching and api.cache and not xrn:
 356         rspec = api.cache.get(version_string)
 357         if rspec:
 358             api.logger.info("aggregate.ListResources: returning cached value for hrn %s"%hrn)
 359             return rspec
 360
 361     #aggregate = Aggregate(api)
 362     #panos: passing user-defined options
 363     #print "manager options = ",options
 364     aggregate = Aggregate(api, options)
 365
 366     rspec =  aggregate.get_rspec(slice_xrn=xrn, version=rspec_version)
 367
 368     # cache the result
 369     if caching and api.cache and not xrn:
 370         api.cache.add(version_string, rspec)
 371
 372     return rspec
 373
 374
 375 def get_ticket(api, xrn, creds, rspec, users):
 376
 377     reg_objects = __get_registry_objects(xrn, creds, users)
 378
 379     slice_hrn, type = urn_to_hrn(xrn)
 380     slices = Slices(api)
 381     peer = slices.get_peer(slice_hrn)
 382     sfa_peer = slices.get_sfa_peer(slice_hrn)
 383
 384     # get the slice record
 385     registry = api.registries[api.hrn]
 386     credential = api.getCredential()
 387     records = registry.Resolve(xrn, credential)
 388
 389     # similar to CreateSliver, we must verify that the required records exist
 390     # at this aggregate before we can issue a ticket
 391     site_id, remote_site_id = slices.verify_site(registry, credential, slice_hrn,
 392                                                  peer, sfa_peer, reg_objects)
 393     slice = slices.verify_slice(registry, credential, slice_hrn, site_id,
 394                                 remote_site_id, peer, sfa_peer, reg_objects)
 395
 396     # make sure we get a local slice record
 397     record = None
 398     for tmp_record in records:
 399         if tmp_record['type'] == 'slice' and \
 400            not tmp_record['peer_authority']:
 401             record = SliceRecord(dict=tmp_record)
 402     if not record:
 403         raise RecordNotFound(slice_hrn)
 404
 405     # get sliver info
 406     slivers = Slices(api).get_slivers(slice_hrn)
 407     if not slivers:
 408         raise SliverDoesNotExist(slice_hrn)
 409
 410     # get initscripts
 411     initscripts = []
 412     data = {
 413         'timestamp': int(time.time()),
 414         'initscripts': initscripts,
 415         'slivers': slivers
 416     }
 417
 418     # create the ticket
 419     object_gid = record.get_gid_object()
 420     new_ticket = SfaTicket(subject = object_gid.get_subject())
 421     new_ticket.set_gid_caller(api.auth.client_gid)
 422     new_ticket.set_gid_object(object_gid)
 423     new_ticket.set_issuer(key=api.key, subject=api.hrn)
 424     new_ticket.set_pubkey(object_gid.get_pubkey())
 425     new_ticket.set_attributes(data)
 426     new_ticket.set_rspec(rspec)
 427     #new_ticket.set_parent(api.auth.hierarchy.get_auth_ticket(auth_hrn))
 428     new_ticket.encode()
 429     new_ticket.sign()
 430
 431     return new_ticket.save_to_string(save_parents=True)
 432
 433
 434
 435 def main():
 436     api = SfaAPI()
 437     """
 438     rspec = ListResources(api, "plc.princeton.sapan", None, 'pl_test_sapan')
 439     #rspec = ListResources(api, "plc.princeton.coblitz", None, 'pl_test_coblitz')
 440     #rspec = ListResources(api, "plc.pl.sirius", None, 'pl_test_sirius')
 441     print rspec
 442     """
 443     f = open(sys.argv[1])
 444     xml = f.read()
 445     f.close()
 446     CreateSliver(api, "plc.princeton.sapan", xml, 'CreateSliver_sapan')
 447
 448 if __name__ == "__main__":
 449     main()