sfa/managers/aggregate_manager_slab.py

   1 #!/usr/bin/python
   2
   3 import datetime
   4 import time
   5 import traceback
   6 import sys
   7 import re
   8 from types import StringTypes
   9
  10 from sfa.util.faults import *
  11 from sfa.util.xrn import get_authority, hrn_to_urn, urn_to_hrn, Xrn, urn_to_sliver_id
  12 from sfa.util.plxrn import slicename_to_hrn, hrn_to_pl_slicename, hostname_to_urn
  13 from sfa.util.rspec import *
  14 from sfa.util.specdict import *
  15 from sfa.util.record import SfaRecord
  16 from sfa.util.policy import Policy
  17 from sfa.util.record import *
  18 from sfa.util.sfaticket import SfaTicket
  19
  20 from sfa.senslab.slices import *
  21
  22 from sfa.trust.credential import Credential
  23 import sfa.plc.peers as peers
  24 from sfa.plc.network import *
  25 from sfa.senslab.OARrestapi import *
  26 from sfa.senslab.api import SfaAPI
  27 #from sfa.plc.aggregate import Aggregate
  28 #from sfa.plc.slices import *
  29 from sfa.util.version import version_core
  30 from sfa.rspecs.version_manager import VersionManager
  31 from sfa.rspecs.rspec import RSpec
  32 from sfa.util.sfatime import utcparse
  33 from sfa.util.callids import Callids
  34 from sfa.senslab.OARrspec import *
  35 #from sfa.plc.aggregate import Aggregate
  36
  37 def GetVersion(api):
  38         print>>sys.stderr, "\r\n AGGREGATE GET_VERSION "
  39         #xrn=Xrn(api.hrn)
  40         #supported_rspecs = [dict(pg_rspec_request_version), dict(sfa_rspec_version)]
  41         #ad_rspec_versions = [dict(pg_rspec_ad_version), dict(sfa_rspec_version)]
  42         version_manager = VersionManager()
  43         ad_rspec_versions = []
  44         request_rspec_versions = []
  45         for rspec_version in version_manager.versions:
  46                 if rspec_version.content_type in ['*', 'ad']:
  47                         ad_rspec_versions.append(rspec_version.to_dict())
  48                 if rspec_version.content_type in ['*', 'request']:
  49                         request_rspec_versions.append(rspec_version.to_dict())
  50         default_rspec_version = version_manager.get_version("sfa 1").to_dict()
  51         xrn=Xrn(api.hrn)
  52         version_more = {'interface':'aggregate',
  53                         'testbed':'senslab',
  54                         'hrn':xrn.get_hrn(),
  55                         'request_rspec_versions': request_rspec_versions,
  56                         'ad_rspec_versions': ad_rspec_versions,
  57                         'default_ad_rspec': default_rspec_version
  58                         }
  59         print>>sys.stderr, "\r\n AGGREGATE GET_VERSION : %s  \r\n \r\n" %(version_core(version_more))
  60         return version_core(version_more)
  61
  62 def __get_registry_objects(slice_xrn, creds, users):
  63     """
  64
  65     """
  66     hrn, type = urn_to_hrn(slice_xrn)
  67
  68     hrn_auth = get_authority(hrn)
  69
  70     # Build up objects that an SFA registry would return if SFA
  71     # could contact the slice's registry directly
  72     reg_objects = None
  73
  74     if users:
  75         # dont allow special characters in the site login base
  76         #only_alphanumeric = re.compile('[^a-zA-Z0-9]+')
  77         #login_base = only_alphanumeric.sub('', hrn_auth[:20]).lower()
  78         slicename = hrn_to_pl_slicename(hrn)
  79         login_base = slicename.split('_')[0]
  80         reg_objects = {}
  81         site = {}
  82         site['site_id'] = 0
  83         site['name'] = 'geni.%s' % login_base
  84         site['enabled'] = True
  85         site['max_slices'] = 100
  86
  87         # Note:
  88         # Is it okay if this login base is the same as one already at this myplc site?
  89         # Do we need uniqueness?  Should use hrn_auth instead of just the leaf perhaps?
  90         site['login_base'] = login_base
  91         site['abbreviated_name'] = login_base
  92         site['max_slivers'] = 1000
  93         reg_objects['site'] = site
  94
  95         slice = {}
  96
  97         #extime = Credential(string=creds[0]).get_expiration()
  98         ## If the expiration time is > 60 days from now, set the expiration time to 60 days from now
  99         #if extime > datetime.datetime.utcnow() + datetime.timedelta(days=60):
 100         extime = datetime.datetime.utcnow() + datetime.timedelta(days=60)
 101         slice['expires'] = int(time.mktime(extime.timetuple()))
 102         slice['hrn'] = hrn
 103         slice['name'] = hrn_to_pl_slicename(hrn)
 104         slice['url'] = hrn
 105         slice['description'] = hrn
 106         slice['pointer'] = 0
 107         reg_objects['slice_record'] = slice
 108
 109         reg_objects['users'] = {}
 110         for user in users:
 111             user['key_ids'] = []
 112             hrn, _ = urn_to_hrn(user['urn'])
 113             user['email'] = hrn_to_pl_slicename(hrn) + "@geni.net"
 114             user['first_name'] = hrn
 115             user['last_name'] = hrn
 116             reg_objects['users'][user['email']] = user
 117
 118         return reg_objects
 119
 120 def __get_hostnames(nodes):
 121     hostnames = []
 122     for node in nodes:
 123         hostnames.append(node.hostname)
 124     return hostnames
 125
 126 def SliverStatus(api, slice_xrn, creds, call_id):
 127     if Callids().already_handled(call_id): return {}
 128
 129     (hrn, type) = urn_to_hrn(slice_xrn)
 130     # find out where this slice is currently running
 131     api.logger.info(hrn)
 132     slicename = hrn_to_pl_slicename(hrn)
 133
 134     slices = api.plshell.GetSlices(api.plauth, [slicename], ['node_ids','person_ids','name','expires'])
 135     if len(slices) == 0:
 136         raise Exception("Slice %s not found (used %s as slicename internally)" % slice_xrn, slicename)
 137     slice = slices[0]
 138
 139     # report about the local nodes only
 140     nodes = api.plshell.GetNodes(api.plauth, {'node_id':slice['node_ids'],'peer_id':None},
 141                                  ['hostname', 'site_id', 'boot_state', 'last_contact'])
 142     site_ids = [node['site_id'] for node in nodes]
 143     sites = api.plshell.GetSites(api.plauth, site_ids, ['site_id', 'login_base'])
 144     sites_dict = dict ( [ (site['site_id'],site['login_base'] ) for site in sites ] )
 145
 146     result = {}
 147     top_level_status = 'unknown'
 148     if nodes:
 149         top_level_status = 'ready'
 150     result['geni_urn'] = Xrn(slice_xrn, 'slice').get_urn()
 151     result['pl_login'] = slice['name']
 152     result['pl_expires'] = datetime.datetime.fromtimestamp(slice['expires']).ctime()
 153
 154     resources = []
 155     for node in nodes:
 156         res = {}
 157         res['pl_hostname'] = node['hostname']
 158         res['pl_boot_state'] = node['boot_state']
 159         res['pl_last_contact'] = node['last_contact']
 160         if node['last_contact'] is not None:
 161             res['pl_last_contact'] = datetime.datetime.fromtimestamp(node['last_contact']).ctime()
 162         res['geni_urn'] = hostname_to_urn(api.hrn, sites_dict[node['site_id']], node['hostname'])
 163         if node['boot_state'] == 'boot':
 164             res['geni_status'] = 'ready'
 165         else:
 166             res['geni_status'] = 'failed'
 167             top_level_staus = 'failed'
 168
 169         res['geni_error'] = ''
 170
 171         resources.append(res)
 172
 173     result['geni_status'] = top_level_status
 174     result['geni_resources'] = resources
 175     # XX remove me
 176     #api.logger.info(result)
 177     # XX remove me
 178     return result
 179
 180 def CreateSliver(api, slice_xrn, creds, rspec_string, users, call_id):
 181     """
 182     Create the sliver[s] (slice) at this aggregate.
 183     Verify HRN and initialize the slice record in PLC if necessary.
 184     """
 185     print>>sys.stderr, " \r\n AGGREGATE CreateSliver-----------------> "
 186     if Callids().already_handled(call_id): return ""
 187
 188     #reg_objects = __get_registry_objects(slice_xrn, creds, users)
 189     #aggregate = Aggregate(api)
 190     aggregate = OARrspec(api)
 191     print>>sys.stderr, " \r\n AGGREGATE CreateSliver DAFUQ IS THIS ?-----------------> aggregate " , aggregate
 192     slices = Slices(api)
 193     print>>sys.stderr, " \r\n AGGREGATE CreateSliver DAFUQ IS THAT ?-----------------> Slices " , slices
 194     (hrn, type) = urn_to_hrn(slice_xrn)
 195
 196     peer = slices.get_peer(hrn)
 197     sfa_peer = slices.get_sfa_peer(hrn)
 198     slice_record=None
 199     if users:
 200         slice_record = users[0].get('slice_record', {})
 201
 202     #registry = api.registries[api.hrn]
 203     #credential = api.getCredential()
 204     #(site_id, remote_site_id) = slices.verify_site(registry, credential, hrn,
 205                                                    #peer, sfa_peer, reg_objects)
 206     # parse rspec
 207     rspec = RSpec(rspec_string)
 208     requested_attributes = rspec.version.get_slice_attributes()
 209
 210     # ensure site record exists
 211     site = slices.verify_site(hrn, slice_record, peer, sfa_peer)
 212     # ensure slice record exists
 213     slice = slices.verify_slice(hrn, slice_record, peer, sfa_peer)
 214     # ensure person records exists
 215     persons = slices.verify_persons(hrn, slice, users, peer, sfa_peer)
 216     # ensure slice attributes exists
 217     slices.verify_slice_attributes(slice, requested_attributes)
 218
 219     # add/remove slice from nodes
 220     requested_slivers = [str(host) for host in rspec.version.get_nodes_with_slivers()]
 221     slices.verify_slice_nodes(slice, requested_slivers, peer)
 222
 223
 224
 225     #nodes = api.oar.GetNodes(slice['node_ids'], ['hostname'])
 226     #current_slivers = [node['hostname'] for node in nodes]
 227     #rspec = parse_rspec(rspec_string)
 228     #requested_slivers = [str(host) for host in rspec.get_nodes_with_slivers()]
 229     ## remove nodes not in rspec
 230     #deleted_nodes = list(set(current_slivers).difference(requested_slivers))
 231
 232     ## add nodes from rspec
 233     #added_nodes = list(set(requested_slivers).difference(current_slivers))
 234
 235     #try:
 236         #if peer:
 237             #api.plshell.UnBindObjectFromPeer(api.plauth, 'slice', slice['slice_id'], peer)
 238
 239         #api.plshell.AddSliceToNodes(api.plauth, slice['name'], added_nodes)
 240         #api.plshell.DeleteSliceFromNodes(api.plauth, slice['name'], deleted_nodes)
 241
 242         ## TODO: update slice tags
 243         ##network.updateSliceTags()
 244
 245     #finally:
 246         #if peer:
 247             #api.plshell.BindObjectToPeer(api.plauth, 'slice', slice.id, peer,
 248                                          #slice.peer_id)
 249     # hanlde MyPLC peer association.
 250     # only used by plc and ple.
 251     #slices.handle_peer(site, slice, persons, peer)
 252
 253     return aggregate.get_rspec(slice_xrn=slice_xrn, version=rspec.version)
 254
 255
 256 def RenewSliver(api, xrn, creds, expiration_time, call_id):
 257     if Callids().already_handled(call_id): return True
 258     (hrn, type) = urn_to_hrn(xrn)
 259     slicename = hrn_to_pl_slicename(hrn)
 260     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 261     if not slices:
 262         raise RecordNotFound(hrn)
 263     slice = slices[0]
 264     requested_time = utcparse(expiration_time)
 265     record = {'expires': int(time.mktime(requested_time.timetuple()))}
 266     try:
 267         api.plshell.UpdateSlice(api.plauth, slice['slice_id'], record)
 268         return True
 269     except:
 270         return False
 271
 272 def start_slice(api, xrn, creds):
 273     hrn, type = urn_to_hrn(xrn)
 274     slicename = hrn_to_pl_slicename(hrn)
 275     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 276     if not slices:
 277         raise RecordNotFound(hrn)
 278     slice_id = slices[0]['slice_id']
 279     slice_tags = api.plshell.GetSliceTags(api.plauth, {'slice_id': slice_id, 'tagname': 'enabled'}, ['slice_tag_id'])
 280     # just remove the tag if it exists
 281     if slice_tags:
 282         api.plshell.DeleteSliceTag(api.plauth, slice_tags[0]['slice_tag_id'])
 283
 284     return 1
 285
 286 def stop_slice(api, xrn, creds):
 287     hrn, type = urn_to_hrn(xrn)
 288     slicename = hrn_to_pl_slicename(hrn)
 289     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 290     if not slices:
 291         raise RecordNotFound(hrn)
 292     slice_id = slices[0]['slice_id']
 293     slice_tags = api.plshell.GetSliceTags(api.plauth, {'slice_id': slice_id, 'tagname': 'enabled'})
 294     if not slice_tags:
 295         api.plshell.AddSliceTag(api.plauth, slice_id, 'enabled', '0')
 296     elif slice_tags[0]['value'] != "0":
 297         tag_id = attributes[0]['slice_tag_id']
 298         api.plshell.UpdateSliceTag(api.plauth, tag_id, '0')
 299     return 1
 300
 301 def reset_slice(api, xrn):
 302     # XX not implemented at this interface
 303     return 1
 304
 305 def DeleteSliver(api, xrn, creds, call_id):
 306     if Callids().already_handled(call_id): return ""
 307     (hrn, type) = urn_to_hrn(xrn)
 308     slicename = hrn_to_pl_slicename(hrn)
 309     slices = api.plshell.GetSlices(api.plauth, {'name': slicename})
 310     if not slices:
 311         return 1
 312     slice = slices[0]
 313
 314     # determine if this is a peer slice
 315     peer = peers.get_peer(api, hrn)
 316     try:
 317         if peer:
 318             api.plshell.UnBindObjectFromPeer(api.plauth, 'slice', slice['slice_id'], peer)
 319         api.plshell.DeleteSliceFromNodes(api.plauth, slicename, slice['node_ids'])
 320     finally:
 321         if peer:
 322             api.plshell.BindObjectToPeer(api.plauth, 'slice', slice['slice_id'], peer, slice['peer_slice_id'])
 323     return 1
 324
 325 # xxx Thierry : caching at the aggregate level sounds wrong...
 326 #caching=True
 327 caching=False
 328 def ListSlices(api, creds, call_id):
 329     if Callids().already_handled(call_id): return []
 330     # look in cache first
 331     if caching and api.cache:
 332         slices = api.cache.get('slices')
 333         if slices:
 334             return slices
 335
 336     # get data from db
 337     slices = api.plshell.GetSlices(api.plauth, {'peer_id': None}, ['name'])
 338     slice_hrns = [slicename_to_hrn(api.hrn, slice['name']) for slice in slices]
 339     slice_urns = [hrn_to_urn(slice_hrn, 'slice') for slice_hrn in slice_hrns]
 340
 341     # cache the result
 342     if caching and api.cache:
 343         api.cache.add('slices', slice_urns)
 344
 345     return slice_urns
 346
 347     #ajouter caching cf pl manager
 348 def ListResources(api, creds, options,call_id):
 349
 350     print >>sys.stderr, 'RESOURCES AGGREGATE'
 351     OARImporter = OARapi()
 352
 353     if Callids().already_handled(call_id): return ""
 354     # get slice's hrn from options
 355     xrn = options.get('geni_slice_urn', '')
 356     (hrn, type) = urn_to_hrn(xrn)
 357
 358     version_manager = VersionManager()
 359     # get the rspec's return format from options
 360     rspec_version = version_manager.get_version(options.get('rspec_version'))
 361     version_string = "rspec_%s" % (rspec_version.to_string())
 362
 363     #panos adding the info option to the caching key (can be improved)
 364     if options.get('info'):
 365         version_string = version_string + "_"+options.get('info', 'default')
 366
 367     print >>sys.stderr, "[aggregate] version string = %s "%(version_string)
 368
 369     # look in cache first
 370     if caching and api.cache and not xrn:
 371         rspec = api.cache.get(version_string)
 372         if rspec:
 373             api.logger.info("aggregate.ListResources: returning cached value for hrn %s"%hrn)
 374             return rspec
 375
 376     #panos: passing user-defined options
 377     #print "manager options = ",options
 378     OAR_rspec = OARrspec(api,options)
 379     #aggregate = Aggregate(api, options)
 380     rspec =  OAR_rspec.get_rspec(slice_xrn=xrn, version=rspec_version)
 381
 382     # cache the result
 383     if caching and api.cache and not xrn:
 384         api.cache.add(version_string, rspec)
 385
 386     #if rspec_version['type'].lower() == 'protogeni':
 387         #spec = PGRSpec()
 388         ##panos pass user options to SfaRSpec
 389     #elif rspec_version['type'].lower() == 'sfa':
 390         #rspec = SfaRSpec("",{},options)
 391     #else:
 392         #rspec = SfaRSpec("",{},options)
 393
 394
 395     rspec =  OAR_rspec.get_rspec(slice_xrn=xrn, version=rspec_version)
 396     print >>sys.stderr, '\r\n OARImporter.GetNodes()',  OARImporter.GetNodes()
 397
 398     print >>sys.stderr, '  \r\n **************RSPEC' , rspec
 399
 400
 401     return rspec
 402
 403
 404 def get_ticket(api, xrn, creds, rspec, users):
 405
 406     reg_objects = __get_registry_objects(xrn, creds, users)
 407
 408     slice_hrn, type = urn_to_hrn(xrn)
 409     slices = Slices(api)
 410     peer = slices.get_peer(slice_hrn)
 411     sfa_peer = slices.get_sfa_peer(slice_hrn)
 412
 413     # get the slice record
 414     registry = api.registries[api.hrn]
 415     credential = api.getCredential()
 416     records = registry.Resolve(xrn, credential)
 417
 418     # similar to CreateSliver, we must verify that the required records exist
 419     # at this aggregate before we can issue a ticket
 420     site_id, remote_site_id = slices.verify_site(registry, credential, slice_hrn,
 421                                                  peer, sfa_peer, reg_objects)
 422     slice = slices.verify_slice(registry, credential, slice_hrn, site_id,
 423                                 remote_site_id, peer, sfa_peer, reg_objects)
 424
 425     # make sure we get a local slice record
 426     record = None
 427     for tmp_record in records:
 428         if tmp_record['type'] == 'slice' and \
 429            not tmp_record['peer_authority']:
 430             record = SliceRecord(dict=tmp_record)
 431     if not record:
 432         raise RecordNotFound(slice_hrn)
 433
 434     # get sliver info
 435     slivers = Slices(api).get_slivers(slice_hrn)
 436     if not slivers:
 437         raise SliverDoesNotExist(slice_hrn)
 438
 439     # get initscripts
 440     initscripts = []
 441     data = {
 442         'timestamp': int(time.time()),
 443         'initscripts': initscripts,
 444         'slivers': slivers
 445     }
 446
 447     # create the ticket
 448     object_gid = record.get_gid_object()
 449     new_ticket = SfaTicket(subject = object_gid.get_subject())
 450     new_ticket.set_gid_caller(api.auth.client_gid)
 451     new_ticket.set_gid_object(object_gid)
 452     new_ticket.set_issuer(key=api.key, subject=api.hrn)
 453     new_ticket.set_pubkey(object_gid.get_pubkey())
 454     new_ticket.set_attributes(data)
 455     new_ticket.set_rspec(rspec)
 456     #new_ticket.set_parent(api.auth.hierarchy.get_auth_ticket(auth_hrn))
 457     new_ticket.encode()
 458     new_ticket.sign()
 459
 460     return new_ticket.save_to_string(save_parents=True)
 461
 462
 463
 464 def main():
 465     api = SfaAPI()
 466     """
 467     rspec = ListResources(api, "plc.princeton.sapan", None, 'pl_test_sapan')
 468     #rspec = ListResources(api, "plc.princeton.coblitz", None, 'pl_test_coblitz')
 469     #rspec = ListResources(api, "plc.pl.sirius", None, 'pl_test_sirius')
 470     print rspec
 471     """
 472     f = open(sys.argv[1])
 473     xml = f.read()
 474     f.close()
 475     CreateSliver(api, "plc.princeton.sapan", xml, 'CreateSliver_sapan')
 476
 477 if __name__ == "__main__":
 478     main()