sfa/senslab/slabaggregate.py

   1 # import modules used here -- sys is a very standard one
   2 import sys
   3 import httplib
   4 import json
   5
   6
   7
   8 #from sfa.senslab.OARrestapi import *
   9
  10 from sfa.util.config import Config
  11 from sfa.util.xrn import hrn_to_urn, urn_to_hrn, urn_to_sliver_id
  12 from sfa.util.plxrn import PlXrn, hostname_to_urn, hrn_to_pl_slicename
  13
  14 from sfa.rspecs.rspec import RSpec
  15 from sfa.rspecs.elements.location import Location
  16 from sfa.rspecs.elements.hardware_type import HardwareType
  17 from sfa.rspecs.elements.node import Node
  18 #from sfa.rspecs.elements.login import Login
  19 #from sfa.rspecs.elements.services import Services
  20 from sfa.rspecs.elements.sliver import Sliver
  21
  22 from sfa.rspecs.version_manager import VersionManager
  23
  24 from sfa.util.sfatime import datetime_to_epoch
  25
  26 def hostname_to_hrn(root_auth,login_base,hostname):
  27     return PlXrn(auth=root_auth,hostname=login_base+'_'+hostname).get_hrn()
  28
  29 class SlabAggregate:
  30
  31     sites = {}
  32     nodes = {}
  33     api = None
  34     interfaces = {}
  35     links = {}
  36     node_tags = {}
  37
  38     prepared=False
  39
  40     user_options = {}
  41
  42     def __init__(self ,driver):
  43         self.driver = driver
  44
  45     def get_slice_and_slivers(self, slice_xrn):
  46         """
  47         Returns a dict of slivers keyed on the sliver's node_id
  48         """
  49         slivers = {}
  50         slice = None
  51         if not slice_xrn:
  52             return (slice, slivers)
  53         slice_urn = hrn_to_urn(slice_xrn, 'slice')
  54         slice_hrn, _ = urn_to_hrn(slice_xrn)
  55         slice_name = slice_hrn
  56         print >>sys.stderr,"\r\n \r\n \t\t_____________ Slabaggregate api get_slice_and_slivers "
  57         slices = self.driver.GetSlices(slice_filter= str(slice_name), filter_type = 'slice_hrn')
  58         print >>sys.stderr,"\r\n \r\n \t\t_____________ Slabaggregate api get_slice_and_slivers  slices %s " %(slices)
  59         if not slices:
  60             return (slice, slivers)
  61         if isinstance(slice, list):
  62             slice = slices[0]
  63         else:
  64            slice =slices
  65
  66         # sort slivers by node id , if there is a job
  67         #and therfore, node allocated to this slice
  68         if slice['oar_job_id'] is not -1:
  69             try:
  70
  71                 for node_id in slice['node_ids']:
  72                     #node_id = self.driver.root_auth + '.' + node_id
  73                     sliver = Sliver({'sliver_id': urn_to_sliver_id(slice_urn, slice['record_id_slice'], node_id),
  74                                     'name': slice['slice_hrn'],
  75                                     'type': 'slab-node',
  76                                     'tags': []})
  77                     slivers[node_id]= sliver
  78             except KeyError:
  79                     print>>sys.stderr, " \r\n \t\t get_slice_and_slivers KeyError "
  80         ## sort sliver attributes by node id
  81         ##tags = self.driver.GetSliceTags({'slice_tag_id': slice['slice_tag_ids']})
  82         ##for tag in tags:
  83             ### most likely a default/global sliver attribute (node_id == None)
  84             ##if tag['node_id'] not in slivers:
  85                 ##sliver = Sliver({'sliver_id': urn_to_sliver_id(slice_urn, slice['slice_id'], ""),
  86                                  ##'name': 'slab-vm',
  87                                  ##'tags': []})
  88                 ##slivers[tag['node_id']] = sliver
  89             ##slivers[tag['node_id']]['tags'].append(tag)
  90         print >>sys.stderr,"\r\n \r\n \t\t_____________ Slabaggregate api get_slice_and_slivers  slivers %s " %(slivers)
  91         return (slice, slivers)
  92
  93
  94
  95     def get_nodes(self, slice=None,slivers=[], options={}):
  96         # NT: the semantic of this function is not clear to me :
  97         # if slice is not defined, then all the nodes should be returned
  98         # if slice is defined, we should return only the nodes that are part of this slice
  99         # but what is the role of the slivers parameter ?
 100         # So i assume that slice['node_ids'] will be the same as slivers for us
 101         filter = {}
 102         tags_filter = {}
 103
 104         # Commenting this part since all nodes should be returned, even if a slice is provided
 105         #if slice :
 106         #    if 'node_ids' in slice and slice['node_ids']:
 107         #        #first case, a non empty slice was provided
 108         #        filter['hostname'] = slice['node_ids']
 109         #        tags_filter=filter.copy()
 110         #        nodes = self.driver.GetNodes(filter['hostname'])
 111         #    else :
 112         #        #second case, a slice was provided, but is empty
 113         #        nodes={}
 114         #else :
 115         #    #third case, no slice was provided
 116         #    nodes = self.driver.GetNodes()
 117         nodes = self.driver.GetNodes()
 118         #geni_available = options.get('geni_available')
 119         #if geni_available:
 120             #filter['boot_state'] = 'boot'
 121
 122         #filter.update({'peer_id': None})
 123         #nodes = self.driver.GetNodes(filter['hostname'])
 124         #print>>sys.stderr, "\r\n \r\n \t get_nodes nodes %s" %(nodes)
 125
 126         #site_ids = []
 127         #interface_ids = []
 128         #tag_ids = []
 129         nodes_dict = {}
 130         for node in nodes:
 131             #site_ids.append(node['site_id'])
 132             #interface_ids.extend(node['interface_ids'])
 133             #tag_ids.extend(node['node_tag_ids'])
 134             nodes_dict[node['node_id']] = node
 135
 136         # get sites
 137         #sites_dict  = self.get_sites({'site_id': site_ids})
 138         # get interfaces
 139         #interfaces = self.get_interfaces({'interface_id':interface_ids})
 140         # get tags
 141         #node_tags = self.get_node_tags(tags_filter)
 142
 143
 144         reserved_nodes=self.driver.GetReservedNodes()
 145         rspec_nodes = []
 146         for node in nodes:
 147             # skip whitelisted nodes
 148             #if node['slice_ids_whitelist']:
 149                 #if not slice or slice['slice_id'] not in node['slice_ids_whitelist']:
 150                     #continue
 151             rspec_node = Node()
 152             # xxx how to retrieve site['login_base']
 153             #site_id=node['site_id']
 154             #site=sites_dict[site_id]
 155             rspec_node['component_id'] = hostname_to_urn(self.driver.root_auth, node['site'], node['hostname'])
 156             rspec_node['component_name'] = node['hostname']
 157             rspec_node['component_manager_id'] = hrn_to_urn(self.driver.root_auth, 'authority+sa')
 158             #rspec_node['component_manager_id'] = Xrn(self.driver.root_auth, 'authority+sa').get_urn()
 159             rspec_node['authority_id'] = hrn_to_urn(PlXrn.site_hrn(self.driver.root_auth, node['site']), 'authority+sa')
 160             # do not include boot state (<available> element) in the manifest rspec
 161
 162             #if not slice:
 163             #    rspec_node['boot_state'] = node['boot_state']
 164             #    if node['hostname'] in reserved_nodes:
 165             #        rspec_node['boot_state'] = "Reserved"
 166             rspec_node['boot_state'] = node['boot_state']
 167             if node['hostname'] in reserved_nodes:
 168                 rspec_node['boot_state'] = "Reserved"
 169             rspec_node['exclusive'] = 'True'
 170             rspec_node['hardware_types'] = [HardwareType({'name': 'slab-node'})]
 171
 172             # only doing this because protogeni rspec needs
 173             # to advertise available initscripts
 174             #rspec_node['pl_initscripts'] = None
 175             # add site/interface info to nodes.
 176             # assumes that sites, interfaces and tags have already been prepared.
 177             #site = sites_dict[node['site_id']]
 178
 179             if node['posx'] and node['posy']:
 180                 location = Location({'longitude':node['posx'], 'latitude': node['posy']})
 181                 rspec_node['location'] = location
 182             #rspec_node['interfaces'] = []
 183             #if_count=0
 184             #for if_id in node['interface_ids']:
 185                 #interface = Interface(interfaces[if_id])
 186                 #interface['ipv4'] = interface['ip']
 187                 #interface['component_id'] = PlXrn(auth=self.driver.hrn,
 188                                                 #interface='node%s:eth%s' % (node['node_id'], if_count)).get_urn()
 189                 # interfaces in the manifest need a client id
 190                 #if slice:
 191                     #interface['client_id'] = "%s:%s" % (node['node_id'], if_id)
 192                 #rspec_node['interfaces'].append(interface)
 193                 #if_count+=1
 194
 195             #tags = [PLTag(node_tags[tag_id]) for tag_id in node['node_tag_ids']]
 196             rspec_node['tags'] = []
 197             if node['hostname'] in slivers:
 198                 # add sliver info
 199                 sliver = slivers[node['hostname']]
 200                 rspec_node['sliver_id'] = sliver['sliver_id']
 201                 rspec_node['client_id'] = node['hostname']
 202                 rspec_node['slivers'] = [sliver]
 203
 204                 # slivers always provide the ssh service
 205                 #login = Login({'authentication': 'ssh-keys', 'hostname': node['hostname'], 'port':'22', 'username': sliver['name']})
 206                 #service = Services({'login': login})
 207                 #rspec_node['services'] = [service]
 208             rspec_nodes.append(rspec_node)
 209
 210         return (rspec_nodes)
 211
 212 #from plc/aggregate.py
 213     def get_rspec(self, slice_xrn=None, version = None, options={}):
 214
 215         rspec = None
 216         version_manager = VersionManager()
 217
 218         version = version_manager.get_version(version)
 219         print>>sys.stderr, " \r\n SlabAggregate \t\t get_rspec ************** version %s version.type %s  version.version %s options %s \r\n" %(version,version.type,version.version,options)
 220
 221         if not slice_xrn:
 222             rspec_version = version_manager._get_version(version.type, version.version, 'ad')
 223
 224         else:
 225             rspec_version = version_manager._get_version(version.type, version.version, 'manifest')
 226
 227         slice, slivers = self.get_slice_and_slivers(slice_xrn)
 228         #at this point sliver my be {} if no senslab job is running for this user/slice.
 229         rspec = RSpec(version=rspec_version, user_options=options)
 230
 231
 232         #if slice and 'expires' in slice:
 233            #rspec.xml.set('expires',  datetime_to_epoch(slice['expires']))
 234          # add sliver defaults
 235         #nodes, links = self.get_nodes(slice, slivers)
 236         nodes = self.get_nodes(slice,slivers)
 237         print>>sys.stderr, " \r\n SlabAggregate \t\t get_rspec ************** options %s rspec_version %s version_manager %s  rspec.version %s \r\n" %(options, rspec_version,version_manager, rspec.version)
 238         rspec.version.add_nodes(nodes)
 239
 240
 241         default_sliver = slivers.get(None, [])
 242         if default_sliver:
 243             default_sliver_attribs = default_sliver.get('tags', [])
 244             print>>sys.stderr, " \r\n SlabAggregate \t\t get_rspec ************** default_sliver_attribs %s \r\n" %(default_sliver_attribs)
 245             for attrib in default_sliver_attribs:
 246                 print>>sys.stderr, " \r\n SlabAggregate \t\t get_rspec ************** attrib %s \r\n" %(attrib)
 247                 logger.info(attrib)
 248                 rspec.version.add_default_sliver_attribute(attrib['tagname'], attrib['value'])
 249
 250         return rspec.toxml()