sfa/managers/aggregate_manager.py

   1 import datetime
   2 import time
   3 import traceback
   4 import sys
   5 import re
   6 from types import StringTypes
   7
   8 from sfa.util.faults import *
   9 from sfa.util.xrn import get_authority, hrn_to_urn, urn_to_hrn, Xrn, urn_to_sliver_id
  10 from sfa.util.plxrn import slicename_to_hrn, hrn_to_pl_slicename, hostname_to_urn
  11 from sfa.util.rspec import *
  12 from sfa.util.specdict import *
  13 from sfa.util.record import SfaRecord
  14 from sfa.util.policy import Policy
  15 from sfa.util.record import *
  16 from sfa.util.sfaticket import SfaTicket
  17 from sfa.plc.slices import Slices
  18 from sfa.trust.credential import Credential
  19 import sfa.plc.peers as peers
  20 from sfa.plc.network import *
  21 from sfa.plc.api import SfaAPI
  22 from sfa.plc.aggregate import Aggregate
  23 from sfa.plc.slices import *
  24 from sfa.util.version import version_core
  25 from sfa.rspecs.version_manager import VersionManager
  26 from sfa.rspecs.rspec import RSpec
  27 from sfa.util.sfatime import utcparse
  28 from sfa.util.callids import Callids
  29
  30 def GetVersion(api):
  31
  32     version_manager = VersionManager()
  33     ad_rspec_versions = []
  34     request_rspec_versions = []
  35     for rspec_version in version_manager.versions:
  36         if rspec_version.content_type in ['*', 'ad']:
  37             ad_rspec_versions.append(rspec_version.to_dict())
  38         if rspec_version.content_type in ['*', 'request']:
  39             request_rspec_versions.append(rspec_version.to_dict())
  40     default_rspec_version = version_manager.get_version("sfa 1").to_dict()
  41     xrn=Xrn(api.hrn)
  42     version_more = {'interface':'aggregate',
  43                     'testbed':'myplc',
  44                     'hrn':xrn.get_hrn(),
  45                     'request_rspec_versions': request_rspec_versions,
  46                     'ad_rspec_versions': ad_rspec_versions,
  47                     'default_ad_rspec': default_rspec_version
  48                     }
  49     return version_core(version_more)
  50
  51 def __get_registry_objects(slice_xrn, creds, users):
  52     """
  53
  54     """
  55     hrn, type = urn_to_hrn(slice_xrn)
  56
  57     hrn_auth = get_authority(hrn)
  58
  59     # Build up objects that an SFA registry would return if SFA
  60     # could contact the slice's registry directly
  61     reg_objects = None
  62
  63     if users:
  64         # dont allow special characters in the site login base
  65         #only_alphanumeric = re.compile('[^a-zA-Z0-9]+')
  66         #login_base = only_alphanumeric.sub('', hrn_auth[:20]).lower()
  67         slicename = hrn_to_pl_slicename(hrn)
  68         login_base = slicename.split('_')[0]
  69         reg_objects = {}
  70         site = {}
  71         site['site_id'] = 0
  72         site['name'] = 'geni.%s' % login_base
  73         site['enabled'] = True
  74         site['max_slices'] = 100
  75
  76         # Note:
  77         # Is it okay if this login base is the same as one already at this myplc site?
  78         # Do we need uniqueness?  Should use hrn_auth instead of just the leaf perhaps?
  79         site['login_base'] = login_base
  80         site['abbreviated_name'] = login_base
  81         site['max_slivers'] = 1000
  82         reg_objects['site'] = site
  83
  84         slice = {}
  85
  86         # get_expiration always returns a normalized datetime - no need to utcparse
  87         extime = Credential(string=creds[0]).get_expiration()
  88         # If the expiration time is > 60 days from now, set the expiration time to 60 days from now
  89         if extime > datetime.datetime.utcnow() + datetime.timedelta(days=60):
  90             extime = datetime.datetime.utcnow() + datetime.timedelta(days=60)
  91         slice['expires'] = int(time.mktime(extime.timetuple()))
  92         slice['hrn'] = hrn
  93         slice['name'] = hrn_to_pl_slicename(hrn)
  94         slice['url'] = hrn
  95         slice['description'] = hrn
  96         slice['pointer'] = 0
  97         reg_objects['slice_record'] = slice
  98
  99         reg_objects['users'] = {}
 100         for user in users:
 101             user['key_ids'] = []
 102             hrn, _ = urn_to_hrn(user['urn'])
 103             user['email'] = hrn_to_pl_slicename(hrn) + "@geni.net"
 104             user['first_name'] = hrn
 105             user['last_name'] = hrn
 106             reg_objects['users'][user['email']] = user
 107
 108         return reg_objects
 109
 110 def __get_hostnames(nodes):
 111     hostnames = []
 112     for node in nodes:
 113         hostnames.append(node.hostname)
 114     return hostnames
 115
 116 def SliverStatus(api, slice_xrn, creds, call_id):
 117     if Callids().already_handled(call_id): return {}
 118
 119     (hrn, type) = urn_to_hrn(slice_xrn)
 120     # find out where this slice is currently running
 121     slicename = hrn_to_pl_slicename(hrn)
 122
 123     slices = api.plshell.GetSlices(api.plauth, [slicename], ['slice_id', 'node_ids','person_ids','name','expires'])
 124     if len(slices) == 0:
 125         raise Exception("Slice %s not found (used %s as slicename internally)" % (slice_xrn, slicename))
 126     slice = slices[0]
 127
 128     # report about the local nodes only
 129     nodes = api.plshell.GetNodes(api.plauth, {'node_id':slice['node_ids'],'peer_id':None},
 130                                  ['node_id', 'hostname', 'site_id', 'boot_state', 'last_contact'])
 131     site_ids = [node['site_id'] for node in nodes]
 132     sites = api.plshell.GetSites(api.plauth, site_ids, ['site_id', 'login_base'])
 133     sites_dict = dict ( [ (site['site_id'],site['login_base'] ) for site in sites ] )
 134
 135     result = {}
 136     top_level_status = 'unknown'
 137     if nodes:
 138         top_level_status = 'ready'
 139     slice_urn = Xrn(slice_xrn, 'slice').get_urn()
 140     result['geni_urn'] = slice_urn
 141     result['pl_login'] = slice['name']
 142     result['pl_expires'] = datetime.datetime.fromtimestamp(slice['expires']).ctime()
 143
 144     resources = []
 145     for node in nodes:
 146         res = {}
 147         res['pl_hostname'] = node['hostname']
 148         res['pl_boot_state'] = node['boot_state']
 149         res['pl_last_contact'] = node['last_contact']
 150         if node['last_contact'] is not None:
 151             res['pl_last_contact'] = datetime.datetime.fromtimestamp(node['last_contact']).ctime()
 152         sliver_id = urn_to_sliver_id(slice_urn, slice['slice_id'], node['node_id'])
 153         res['geni_urn'] = sliver_id
 154         if node['boot_state'] == 'boot':
 155             res['geni_status'] = 'ready'
 156         else:
 157             res['geni_status'] = 'failed'
 158             top_level_staus = 'failed'
 159
 160         res['geni_error'] = ''
 161
 162         resources.append(res)
 163
 164     result['geni_status'] = top_level_status
 165     result['geni_resources'] = resources
 166     return result
 167
 168 def CreateSliver(api, slice_xrn, creds, rspec_string, users, call_id):
 169     """
 170     Create the sliver[s] (slice) at this aggregate.
 171     Verify HRN and initialize the slice record in PLC if necessary.
 172     """
 173     if Callids().already_handled(call_id): return ""
 174
 175     aggregate = Aggregate(api)
 176     slices = Slices(api)
 177     (hrn, type) = urn_to_hrn(slice_xrn)
 178     peer = slices.get_peer(hrn)
 179     sfa_peer = slices.get_sfa_peer(hrn)
 180     slice_record=None
 181     if users:
 182         slice_record = users[0].get('slice_record', {})
 183
 184     # parse rspec
 185     rspec = RSpec(rspec_string)
 186     requested_attributes = rspec.version.get_slice_attributes()
 187
 188     # ensure site record exists
 189     site = slices.verify_site(hrn, slice_record, peer, sfa_peer)
 190     # ensure slice record exists
 191     slice = slices.verify_slice(hrn, slice_record, peer, sfa_peer)
 192     # ensure person records exists
 193     persons = slices.verify_persons(hrn, slice, users, peer, sfa_peer)
 194     # ensure slice attributes exists
 195     slices.verify_slice_attributes(slice, requested_attributes)
 196
 197     # add/remove slice from nodes
 198     requested_slivers = [str(host) for host in rspec.version.get_nodes_with_slivers()]
 199     slices.verify_slice_nodes(slice, requested_slivers, peer)
 200
 201     # hanlde MyPLC peer association.
 202     # only used by plc and ple.
 203     slices.handle_peer(site, slice, persons, peer)
 204
 205     return aggregate.get_rspec(slice_xrn=slice_xrn, version=rspec.version)
 206
 207
 208 def RenewSliver(api, xrn, creds, expiration_time, call_id):
 209     if Callids().already_handled(call_id): return True
 210     (hrn, type) = urn_to_hrn(xrn)
 211     slicename = hrn_to_pl_slicename(hrn)
 212     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 213     if not slices:
 214         raise RecordNotFound(hrn)
 215     slice = slices[0]
 216     requested_time = utcparse(expiration_time)
 217     record = {'expires': int(time.mktime(requested_time.timetuple()))}
 218     try:
 219         api.plshell.UpdateSlice(api.plauth, slice['slice_id'], record)
 220         return True
 221     except:
 222         return False
 223
 224 def start_slice(api, xrn, creds):
 225     hrn, type = urn_to_hrn(xrn)
 226     slicename = hrn_to_pl_slicename(hrn)
 227     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 228     if not slices:
 229         raise RecordNotFound(hrn)
 230     slice_id = slices[0]['slice_id']
 231     slice_tags = api.plshell.GetSliceTags(api.plauth, {'slice_id': slice_id, 'tagname': 'enabled'}, ['slice_tag_id'])
 232     # just remove the tag if it exists
 233     if slice_tags:
 234         api.plshell.DeleteSliceTag(api.plauth, slice_tags[0]['slice_tag_id'])
 235
 236     return 1
 237
 238 def stop_slice(api, xrn, creds):
 239     hrn, type = urn_to_hrn(xrn)
 240     slicename = hrn_to_pl_slicename(hrn)
 241     slices = api.plshell.GetSlices(api.plauth, {'name': slicename}, ['slice_id'])
 242     if not slices:
 243         raise RecordNotFound(hrn)
 244     slice_id = slices[0]['slice_id']
 245     slice_tags = api.plshell.GetSliceTags(api.plauth, {'slice_id': slice_id, 'tagname': 'enabled'})
 246     if not slice_tags:
 247         api.plshell.AddSliceTag(api.plauth, slice_id, 'enabled', '0')
 248     elif slice_tags[0]['value'] != "0":
 249         tag_id = attributes[0]['slice_tag_id']
 250         api.plshell.UpdateSliceTag(api.plauth, tag_id, '0')
 251     return 1
 252
 253 def reset_slice(api, xrn):
 254     # XX not implemented at this interface
 255     return 1
 256
 257 def DeleteSliver(api, xrn, creds, call_id):
 258     if Callids().already_handled(call_id): return ""
 259     (hrn, type) = urn_to_hrn(xrn)
 260     slicename = hrn_to_pl_slicename(hrn)
 261     slices = api.plshell.GetSlices(api.plauth, {'name': slicename})
 262     if not slices:
 263         return 1
 264     slice = slices[0]
 265
 266     # determine if this is a peer slice
 267     peer = peers.get_peer(api, hrn)
 268     try:
 269         if peer:
 270             api.plshell.UnBindObjectFromPeer(api.plauth, 'slice', slice['slice_id'], peer)
 271         api.plshell.DeleteSliceFromNodes(api.plauth, slicename, slice['node_ids'])
 272     finally:
 273         if peer:
 274             api.plshell.BindObjectToPeer(api.plauth, 'slice', slice['slice_id'], peer, slice['peer_slice_id'])
 275     return 1
 276
 277 # xxx Thierry : caching at the aggregate level sounds wrong...
 278 #caching=True
 279 caching=False
 280 def ListSlices(api, creds, call_id):
 281     if Callids().already_handled(call_id): return []
 282     # look in cache first
 283     if caching and api.cache:
 284         slices = api.cache.get('slices')
 285         if slices:
 286             return slices
 287
 288     # get data from db
 289     slices = api.plshell.GetSlices(api.plauth, {'peer_id': None}, ['name'])
 290     slice_hrns = [slicename_to_hrn(api.hrn, slice['name']) for slice in slices]
 291     slice_urns = [hrn_to_urn(slice_hrn, 'slice') for slice_hrn in slice_hrns]
 292
 293     # cache the result
 294     if caching and api.cache:
 295         api.cache.add('slices', slice_urns)
 296
 297     return slice_urns
 298
 299 def ListResources(api, creds, options, call_id):
 300     if Callids().already_handled(call_id): return ""
 301     # get slice's hrn from options
 302     xrn = options.get('geni_slice_urn', None)
 303     (hrn, type) = urn_to_hrn(xrn)
 304
 305     version_manager = VersionManager()
 306     # get the rspec's return format from options
 307     rspec_version = version_manager.get_version(options.get('rspec_version'))
 308     version_string = "rspec_%s" % (rspec_version.to_string())
 309
 310     #panos adding the info option to the caching key (can be improved)
 311     if options.get('info'):
 312         version_string = version_string + "_"+options.get('info', 'default')
 313
 314     # look in cache first
 315     if caching and api.cache and not xrn:
 316         rspec = api.cache.get(version_string)
 317         if rspec:
 318             api.logger.info("aggregate.ListResources: returning cached value for hrn %s"%hrn)
 319             return rspec
 320
 321     #panos: passing user-defined options
 322     #print "manager options = ",options
 323     aggregate = Aggregate(api, options)
 324     rspec =  aggregate.get_rspec(slice_xrn=xrn, version=rspec_version)
 325
 326     # cache the result
 327     if caching and api.cache and not xrn:
 328         api.cache.add(version_string, rspec)
 329
 330     return rspec
 331
 332
 333 def get_ticket(api, xrn, creds, rspec, users):
 334
 335     reg_objects = __get_registry_objects(xrn, creds, users)
 336
 337     slice_hrn, type = urn_to_hrn(xrn)
 338     slices = Slices(api)
 339     peer = slices.get_peer(slice_hrn)
 340     sfa_peer = slices.get_sfa_peer(slice_hrn)
 341
 342     # get the slice record
 343     registry = api.registries[api.hrn]
 344     credential = api.getCredential()
 345     records = registry.Resolve(xrn, credential)
 346
 347     # similar to CreateSliver, we must verify that the required records exist
 348     # at this aggregate before we can issue a ticket
 349     site_id, remote_site_id = slices.verify_site(registry, credential, slice_hrn,
 350                                                  peer, sfa_peer, reg_objects)
 351     slice = slices.verify_slice(registry, credential, slice_hrn, site_id,
 352                                 remote_site_id, peer, sfa_peer, reg_objects)
 353
 354     # make sure we get a local slice record
 355     record = None
 356     for tmp_record in records:
 357         if tmp_record['type'] == 'slice' and \
 358            not tmp_record['peer_authority']:
 359             record = SliceRecord(dict=tmp_record)
 360     if not record:
 361         raise RecordNotFound(slice_hrn)
 362
 363     # get sliver info
 364     slivers = Slices(api).get_slivers(slice_hrn)
 365     if not slivers:
 366         raise SliverDoesNotExist(slice_hrn)
 367
 368     # get initscripts
 369     initscripts = []
 370     data = {
 371         'timestamp': int(time.time()),
 372         'initscripts': initscripts,
 373         'slivers': slivers
 374     }
 375
 376     # create the ticket
 377     object_gid = record.get_gid_object()
 378     new_ticket = SfaTicket(subject = object_gid.get_subject())
 379     new_ticket.set_gid_caller(api.auth.client_gid)
 380     new_ticket.set_gid_object(object_gid)
 381     new_ticket.set_issuer(key=api.key, subject=api.hrn)
 382     new_ticket.set_pubkey(object_gid.get_pubkey())
 383     new_ticket.set_attributes(data)
 384     new_ticket.set_rspec(rspec)
 385     #new_ticket.set_parent(api.auth.hierarchy.get_auth_ticket(auth_hrn))
 386     new_ticket.encode()
 387     new_ticket.sign()
 388
 389     return new_ticket.save_to_string(save_parents=True)
 390
 391
 392
 393 def main():
 394     api = SfaAPI()
 395     """
 396     rspec = ListResources(api, "plc.princeton.sapan", None, 'pl_test_sapan')
 397     #rspec = ListResources(api, "plc.princeton.coblitz", None, 'pl_test_coblitz')
 398     #rspec = ListResources(api, "plc.pl.sirius", None, 'pl_test_sirius')
 399     print rspec
 400     """
 401     f = open(sys.argv[1])
 402     xml = f.read()
 403     f.close()
 404     CreateSliver(api, "plc.princeton.sapan", xml, 'CreateSliver_sapan')
 405
 406 if __name__ == "__main__":
 407     main()