sfa/managers/aggregate_manager_slab.py

   1 #!/usr/bin/python
   2
   3 import datetime
   4 import time
   5 import traceback
   6 import sys
   7 import re
   8 from types import StringTypes
   9
  10 from sfa.util.faults import *
  11 from sfa.util.xrn import get_authority, hrn_to_urn, urn_to_hrn, Xrn
  12 from sfa.util.plxrn import slicename_to_hrn, hrn_to_pl_slicename, hostname_to_urn
  13 from sfa.util.rspec import *
  14 from sfa.util.specdict import *
  15 from sfa.util.record import SfaRecord
  16 from sfa.util.policy import Policy
  17 from sfa.util.record import *
  18 from sfa.util.sfaticket import SfaTicket
  19 from sfa.plc.slices import Slices
  20 from sfa.trust.credential import Credential
  21 import sfa.plc.peers as peers
  22 from sfa.plc.network import *
  23
  24 from sfa.senslab.OARrestapi import *
  25 from sfa.senslab.api import SfaAPI
  26 #from sfa.plc.aggregate import Aggregate
  27 from sfa.plc.slices import *
  28 from sfa.util.version import version_core
  29 from sfa.rspecs.rspec_version import RSpecVersion
  30 from sfa.rspecs.sfa_rspec import sfa_rspec_version
  31 from sfa.rspecs.pl_rspec_version import *
  32 #from sfa.rspecs.pg_rspec import pg_rspec_version
  33 from sfa.rspecs.pg_rspec import pg_rspec_ad_version, pg_rspec_request_version
  34 from sfa.rspecs.rspec_parser import parse_rspec
  35 from sfa.util.sfatime import utcparse
  36 from sfa.util.callids import Callids
  37 from sfa.senslab.OARrspec import *
  38 #from sfa.plc.aggregate import Aggregate
  39
  40 def GetVersion(api):
  41     print>>sys.stderr, "\r\n AGGREGATE GET_VERSION "
  42     xrn=Xrn(api.hrn)
  43     supported_rspecs = [dict(pg_rspec_request_version), dict(sfa_rspec_version)]
  44     ad_rspec_versions = [dict(pg_rspec_ad_version), dict(sfa_rspec_version)]
  45     version_more = {'interface':'aggregate',
  46                     'testbed':'senslab',
  47                     'hrn':xrn.get_hrn(),
  48                     'request_rspec_versions': request_rspec_versions,
  49                     'ad_rspec_versions': ad_rspec_versions,
  50                     'default_ad_rspec': dict(sfa_rspec_version)
  51                     }
  52     print>>sys.stderr, "\r\n AGGREGATE GET_VERSION : %s  \r\n \r\n" %(version_core(version_more))
  53     return version_core(version_more)
  54
  55 def __get_registry_objects(slice_xrn, creds, users):
  56     """
  57
  58     """
  59     hrn, type = urn_to_hrn(slice_xrn)
  60
  61     hrn_auth = get_authority(hrn)
  62
  63     # Build up objects that an SFA registry would return if SFA
  64     # could contact the slice's registry directly
  65     reg_objects = None
  66
  67     if users:
  68         # dont allow special characters in the site login base
  69         #only_alphanumeric = re.compile('[^a-zA-Z0-9]+')
  70         #login_base = only_alphanumeric.sub('', hrn_auth[:20]).lower()
  71         slicename = hrn_to_pl_slicename(hrn)
  72         login_base = slicename.split('_')[0]
  73         reg_objects = {}
  74         site = {}
  75         site['site_id'] = 0
  76         site['name'] = 'geni.%s' % login_base
  77         site['enabled'] = True
  78         site['max_slices'] = 100
  79
  80         # Note:
  81         # Is it okay if this login base is the same as one already at this myplc site?
  82         # Do we need uniqueness?  Should use hrn_auth instead of just the leaf perhaps?
  83         site['login_base'] = login_base
  84         site['abbreviated_name'] = login_base
  85         site['max_slivers'] = 1000
  86         reg_objects['site'] = site
  87
  88         slice = {}
  89
  90         #extime = Credential(string=creds[0]).get_expiration()
  91         ## If the expiration time is > 60 days from now, set the expiration time to 60 days from now
  92         #if extime > datetime.datetime.utcnow() + datetime.timedelta(days=60):
  93         extime = datetime.datetime.utcnow() + datetime.timedelta(days=60)
  94         slice['expires'] = int(time.mktime(extime.timetuple()))
  95         slice['hrn'] = hrn
  96         slice['name'] = hrn_to_pl_slicename(hrn)
  97         slice['url'] = hrn
  98         slice['description'] = hrn
  99         slice['pointer'] = 0
 100         reg_objects['slice_record'] = slice
 101
 102         reg_objects['users'] = {}
 103         for user in users:
 104             user['key_ids'] = []
 105             hrn, _ = urn_to_hrn(user['urn'])
 106             user['email'] = hrn_to_pl_slicename(hrn) + "@geni.net"
 107             user['first_name'] = hrn
 108             user['last_name'] = hrn
 109             reg_objects['users'][user['email']] = user
 110
 111         return reg_objects
 112
 113 def __get_hostnames(nodes):
 114     hostnames = []
 115     for node in nodes:
 116         hostnames.append(node.hostname)
 117     return hostnames
 118
 119 def SliverStatus(api, slice_xrn, creds, call_id):
 120     if Callids().already_handled(call_id): return {}
 121
 122     (hrn, type) = urn_to_hrn(slice_xrn)
 123     # find out where this slice is currently running
 124     api.logger.info(hrn)
 125     slicename = hrn_to_pl_slicename(hrn)
 126
 127     slices = api.plshell.GetSlices(api.plauth, [slicename], ['node_ids','person_ids','name','expires'])
 128     if len(slices) == 0:
 129         raise Exception("Slice %s not found (used %s as slicename internally)" % slice_xrn, slicename)
 130     slice = slices[0]
 131
 132     # report about the local nodes only
 133     nodes = api.plshell.GetNodes(api.plauth, {'node_id':slice['node_ids'],'peer_id':None},
 134                                  ['hostname', 'site_id', 'boot_state', 'last_contact'])
 135     site_ids = [node['site_id'] for node in nodes]
 136     sites = api.plshell.GetSites(api.plauth, site_ids, ['site_id', 'login_base'])
 137     sites_dict = dict ( [ (site['site_id'],site['login_base'] ) for site in sites ] )
 138
 139     result = {}
 140     top_level_status = 'unknown'
 141     if nodes:
 142         top_level_status = 'ready'
 143     result['geni_urn'] = Xrn(slice_xrn, 'slice').get_urn()
 144     result['pl_login'] = slice['name']
 145     result['pl_expires'] = datetime.datetime.fromtimestamp(slice['expires']).ctime()
 146
 147     resources = []
 148     for node in nodes:
 149         res = {}
 150         res['pl_hostname'] = node['hostname']
 151         res['pl_boot_state'] = node['boot_state']
 152         res['pl_last_contact'] = node['last_contact']
 153         if node['last_contact'] is not None:
 154             res['pl_last_contact'] = datetime.datetime.fromtimestamp(node['last_contact']).ctime()
 155         res['geni_urn'] = hostname_to_urn(api.hrn, sites_dict[node['site_id']], node['hostname'])
 156         if node['boot_state'] == 'boot':
 157             res['geni_status'] = 'ready'
 158         else:
 159             res['geni_status'] = 'failed'
 160             top_level_staus = 'failed'
 161
 162         res['geni_error'] = ''
 163
 164         resources.append(res)
 165
 166     result['geni_status'] = top_level_status
 167     result['geni_resources'] = resources
 168     # XX remove me
 169     #api.logger.info(result)
 170     # XX remove me
 171     return result
 172
 173 def CreateSliver(api, slice_xrn, creds, rspec_string, users, call_id):
 174     """
 175     Create the sliver[s] (slice) at this aggregate.
 176     Verify HRN and initialize the slice record in PLC if necessary.
 177     """
 178     print>>sys.stderr, " \r\n AGGREGATE CreateSliver-----------------> "
 179     if Callids().already_handled(call_id): return ""
 180
 181     reg_objects = __get_registry_objects(slice_xrn, creds, users)
 182
 183     (hrn, type) = urn_to_hrn(slice_xrn)
 184     peer = None
 185     aggregate = Aggregate(api)
 186     slices = Slices(api)
 187     peer = slices.get_peer(hrn)
 188     sfa_peer = slices.get_sfa_peer(hrn)
 189     registry = api.registries[api.hrn]
 190     credential = api.getCredential()
 191     (site_id, remote_site_id) = slices.verify_site(registry, credential, hrn,
 192                                                    peer, sfa_peer, reg_objects)
 193
 194     slice = slices.verify_slice(registry, credential, hrn, site_id,
 195                                        remote_site_id, peer, sfa_peer, reg_objects)
 196
 197     nodes = api.oar.GetNodes(slice['node_ids'], ['hostname'])
 198     current_slivers = [node['hostname'] for node in nodes]
 199     rspec = parse_rspec(rspec_string)
 200     requested_slivers = [str(host) for host in rspec.get_nodes_with_slivers()]
 201     # remove nodes not in rspec
 202     deleted_nodes = list(set(current_slivers).difference(requested_slivers))
 203
 204     # add nodes from rspec
 205     added_nodes = list(set(requested_slivers).difference(current_slivers))
 206
 207     try:
 208         if peer:
 209             api.plshell.UnBindObjectFromPeer(api.plauth, 'slice', slice['slice_id'], peer)
 210
 211         api.plshell.AddSliceToNodes(api.plauth, slice['name'], added_nodes)
 212         api.plshell.DeleteSliceFromNodes(api.plauth, slice['name'], deleted_nodes)
 213
 214         # TODO: update slice tags
 215         #network.updateSliceTags()
 216
 217     finally:
 218         if peer:
 219             api.plshell.BindObjectToPeer(api.plauth, 'slice', slice.id, peer,
 220                                          slice.peer_id)
 221
 222     return aggregate.get_rspec(slice_xrn=slice_xrn, version=rspec.version)
 223
 224
 225 def RenewSliver(api, xrn, creds, expiration_time, call_id):
 226     if Callids().already_handled(call_id): return True
 227     (hrn, type) = urn_to_hrn(xrn)
 228     slicename = hrn_to_pl_slicename(hrn)
 229     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 230     if not slices:
 231         raise RecordNotFound(hrn)
 232     slice = slices[0]
 233     requested_time = utcparse(expiration_time)
 234     record = {'expires': int(time.mktime(requested_time.timetuple()))}
 235     try:
 236         api.plshell.UpdateSlice(api.plauth, slice['slice_id'], record)
 237         return True
 238     except:
 239         return False
 240
 241 def start_slice(api, xrn, creds):
 242     hrn, type = urn_to_hrn(xrn)
 243     slicename = hrn_to_pl_slicename(hrn)
 244     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 245     if not slices:
 246         raise RecordNotFound(hrn)
 247     slice_id = slices[0]['slice_id']
 248     slice_tags = api.plshell.GetSliceTags(api.plauth, {'slice_id': slice_id, 'tagname': 'enabled'}, ['slice_tag_id'])
 249     # just remove the tag if it exists
 250     if slice_tags:
 251         api.plshell.DeleteSliceTag(api.plauth, slice_tags[0]['slice_tag_id'])
 252
 253     return 1
 254
 255 def stop_slice(api, xrn, creds):
 256     hrn, type = urn_to_hrn(xrn)
 257     slicename = hrn_to_pl_slicename(hrn)
 258     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 259     if not slices:
 260         raise RecordNotFound(hrn)
 261     slice_id = slices[0]['slice_id']
 262     slice_tags = api.plshell.GetSliceTags(api.plauth, {'slice_id': slice_id, 'tagname': 'enabled'})
 263     if not slice_tags:
 264         api.plshell.AddSliceTag(api.plauth, slice_id, 'enabled', '0')
 265     elif slice_tags[0]['value'] != "0":
 266         tag_id = attributes[0]['slice_tag_id']
 267         api.plshell.UpdateSliceTag(api.plauth, tag_id, '0')
 268     return 1
 269
 270 def reset_slice(api, xrn):
 271     # XX not implemented at this interface
 272     return 1
 273
 274 def DeleteSliver(api, xrn, creds, call_id):
 275     if Callids().already_handled(call_id): return ""
 276     (hrn, type) = urn_to_hrn(xrn)
 277     slicename = hrn_to_pl_slicename(hrn)
 278     slices = api.plshell.GetSlices(api.plauth, {'name': slicename})
 279     if not slices:
 280         return 1
 281     slice = slices[0]
 282
 283     # determine if this is a peer slice
 284     peer = peers.get_peer(api, hrn)
 285     try:
 286         if peer:
 287             api.plshell.UnBindObjectFromPeer(api.plauth, 'slice', slice['slice_id'], peer)
 288         api.plshell.DeleteSliceFromNodes(api.plauth, slicename, slice['node_ids'])
 289     finally:
 290         if peer:
 291             api.plshell.BindObjectToPeer(api.plauth, 'slice', slice['slice_id'], peer, slice['peer_slice_id'])
 292     return 1
 293
 294 # xxx Thierry : caching at the aggregate level sounds wrong...
 295 #caching=True
 296 caching=False
 297 def ListSlices(api, creds, call_id):
 298     if Callids().already_handled(call_id): return []
 299     # look in cache first
 300     if caching and api.cache:
 301         slices = api.cache.get('slices')
 302         if slices:
 303             return slices
 304
 305     # get data from db
 306     slices = api.plshell.GetSlices(api.plauth, {'peer_id': None}, ['name'])
 307     slice_hrns = [slicename_to_hrn(api.hrn, slice['name']) for slice in slices]
 308     slice_urns = [hrn_to_urn(slice_hrn, 'slice') for slice_hrn in slice_hrns]
 309
 310     # cache the result
 311     if caching and api.cache:
 312         api.cache.add('slices', slice_urns)
 313
 314     return slice_urns
 315
 316     #ajouter caching cf pl manager
 317 def ListResources(api, creds, options,call_id):
 318
 319     print >>sys.stderr, 'RESOURCES AGGREGATE'
 320     OARImporter = OARapi()
 321
 322     if Callids().already_handled(call_id): return ""
 323     # get slice's hrn from options
 324     xrn = options.get('geni_slice_urn', '')
 325     (hrn, type) = urn_to_hrn(xrn)
 326
 327     # get the rspec's return format from options
 328     rspec_version = RSpecVersion(options.get('rspec_version'))
 329     version_string = "rspec_%s" % (rspec_version.get_version_name())
 330
 331     #panos adding the info option to the caching key (can be improved)
 332     if options.get('info'):
 333         version_string = version_string + "_"+options.get('info')
 334
 335     print >>sys.stderr, "[aggregate] version string = %s "%(version_string)
 336
 337     rspec = None
 338
 339     if rspec_version['type'].lower() == 'protogeni':
 340         spec = PGRSpec()
 341         #panos pass user options to SfaRSpec
 342     elif rspec_version['type'].lower() == 'sfa':
 343         rspec = SfaRSpec("",{},options)
 344     else:
 345         rspec = SfaRSpec("",{},options)
 346
 347
 348     OAR_rspec = OARrspec()
 349
 350     rspec =  OAR_rspec.get_rspec(slice_xrn=xrn, version=rspec_version)
 351     print >>sys.stderr, '\r\n OARImporter.GetNodes()',  OARImporter.GetNodes()
 352
 353     print >>sys.stderr, '  \r\n **************RSPEC' , rspec
 354
 355
 356     return rspec
 357
 358
 359 def get_ticket(api, xrn, creds, rspec, users):
 360
 361     reg_objects = __get_registry_objects(xrn, creds, users)
 362
 363     slice_hrn, type = urn_to_hrn(xrn)
 364     slices = Slices(api)
 365     peer = slices.get_peer(slice_hrn)
 366     sfa_peer = slices.get_sfa_peer(slice_hrn)
 367
 368     # get the slice record
 369     registry = api.registries[api.hrn]
 370     credential = api.getCredential()
 371     records = registry.Resolve(xrn, credential)
 372
 373     # similar to CreateSliver, we must verify that the required records exist
 374     # at this aggregate before we can issue a ticket
 375     site_id, remote_site_id = slices.verify_site(registry, credential, slice_hrn,
 376                                                  peer, sfa_peer, reg_objects)
 377     slice = slices.verify_slice(registry, credential, slice_hrn, site_id,
 378                                 remote_site_id, peer, sfa_peer, reg_objects)
 379
 380     # make sure we get a local slice record
 381     record = None
 382     for tmp_record in records:
 383         if tmp_record['type'] == 'slice' and \
 384            not tmp_record['peer_authority']:
 385             record = SliceRecord(dict=tmp_record)
 386     if not record:
 387         raise RecordNotFound(slice_hrn)
 388
 389     # get sliver info
 390     slivers = Slices(api).get_slivers(slice_hrn)
 391     if not slivers:
 392         raise SliverDoesNotExist(slice_hrn)
 393
 394     # get initscripts
 395     initscripts = []
 396     data = {
 397         'timestamp': int(time.time()),
 398         'initscripts': initscripts,
 399         'slivers': slivers
 400     }
 401
 402     # create the ticket
 403     object_gid = record.get_gid_object()
 404     new_ticket = SfaTicket(subject = object_gid.get_subject())
 405     new_ticket.set_gid_caller(api.auth.client_gid)
 406     new_ticket.set_gid_object(object_gid)
 407     new_ticket.set_issuer(key=api.key, subject=api.hrn)
 408     new_ticket.set_pubkey(object_gid.get_pubkey())
 409     new_ticket.set_attributes(data)
 410     new_ticket.set_rspec(rspec)
 411     #new_ticket.set_parent(api.auth.hierarchy.get_auth_ticket(auth_hrn))
 412     new_ticket.encode()
 413     new_ticket.sign()
 414
 415     return new_ticket.save_to_string(save_parents=True)
 416
 417
 418
 419 def main():
 420     api = SfaAPI()
 421     """
 422     rspec = ListResources(api, "plc.princeton.sapan", None, 'pl_test_sapan')
 423     #rspec = ListResources(api, "plc.princeton.coblitz", None, 'pl_test_coblitz')
 424     #rspec = ListResources(api, "plc.pl.sirius", None, 'pl_test_sirius')
 425     print rspec
 426     """
 427     f = open(sys.argv[1])
 428     xml = f.read()
 429     f.close()
 430     CreateSliver(api, "plc.princeton.sapan", xml, 'CreateSliver_sapan')
 431
 432 if __name__ == "__main__":
 433     main()