sfa/senslab/slabaggregate.py

   1
   2 #!/usr/bin/python
   3
   4 # import modules used here -- sys is a very standard one
   5 import sys
   6 import httplib
   7 import json
   8
   9
  10 from sfa.rspecs.version_manager import VersionManager
  11 from sfa.senslab.OARrestapi import *
  12 #from sfa.senslab.slabdriver import SlabDriver
  13 from sfa.util.config import Config
  14 from sfa.util.xrn import hrn_to_urn, urn_to_hrn, urn_to_sliver_id
  15 from sfa.util.plxrn import PlXrn, hostname_to_urn, hrn_to_pl_slicename
  16
  17 from sfa.rspecs.rspec import RSpec
  18 from sfa.rspecs.elements.location import Location
  19 from sfa.rspecs.elements.hardware_type import HardwareType
  20 from sfa.rspecs.elements.node import Node
  21 #from sfa.rspecs.elements.link import Link
  22 from sfa.rspecs.elements.sliver import Sliver
  23 #from sfa.rspecs.elements.login import Login
  24 #from sfa.rspecs.elements.location import Location
  25 #from sfa.rspecs.elements.interface import Interface
  26 #from sfa.rspecs.elements.services import Services
  27 #from sfa.rspecs.elements.pltag import PLTag
  28
  29 from sfa.rspecs.version_manager import VersionManager
  30 #from sfa.plc.vlink import get_tc_rate
  31 from sfa.util.sfatime import datetime_to_epoch
  32
  33 def hostname_to_hrn(root_auth,login_base,hostname):
  34     return PlXrn(auth=root_auth,hostname=login_base+'_'+hostname).get_hrn()
  35
  36 class SlabAggregate:
  37
  38
  39     sites = {}
  40     nodes = {}
  41     api = None
  42     interfaces = {}
  43     links = {}
  44     node_tags = {}
  45
  46     prepared=False
  47
  48     user_options = {}
  49
  50     def __init__(self ,driver):
  51         #self.OARImporter = OARapi()
  52         self.driver = driver
  53         #self.api = api
  54         print >>sys.stderr,"\r\n \r\n \t\t_____________INIT Slabaggregate api : %s" %(driver)
  55
  56
  57     def get_slice_and_slivers(self, slice_xrn):
  58         """
  59         Returns a dict of slivers keyed on the sliver's node_id
  60         """
  61         slivers = {}
  62         slice = None
  63         if not slice_xrn:
  64             return (slice, slivers)
  65         slice_urn = hrn_to_urn(slice_xrn, 'slice')
  66         slice_hrn, _ = urn_to_hrn(slice_xrn)
  67         slice_name = slice_hrn
  68         print >>sys.stderr,"\r\n \r\n \t\t_____________ Slabaggregate api get_slice_and_slivers "
  69         slices = self.driver.GetSlices(slice_filter= str(slice_name), filter_type = 'slice_hrn')
  70         #slices = self.driver.GetSlices({'slice_hrn':str(slice_name)})
  71         print >>sys.stderr,"\r\n \r\n \t\t_____________ Slabaggregate api get_slice_and_slivers  slices %s " %(slices)
  72         if not slices:
  73             return (slice, slivers)
  74         slice = slices[0]
  75
  76         # sort slivers by node id , if there is a job
  77         #and therfore, node allocated to this slice
  78         if slice['oar_job_id'] is not -1:
  79             try:
  80
  81                 for node_id in slice['node_ids']:
  82                     #node_id = self.driver.root_auth + '.' + node_id
  83                     sliver = Sliver({'sliver_id': urn_to_sliver_id(slice_urn, slice['record_id_slice'], node_id),
  84                                     'name': slice['slice_hrn'],
  85                                     'type': 'slab-vm',
  86                                     'tags': []})
  87                     slivers[node_id]= sliver
  88             except KeyError:
  89                     print>>sys.stderr, " \r\n \t\t get_slice_and_slivers KeyError "
  90         ## sort sliver attributes by node id
  91         ##tags = self.driver.GetSliceTags({'slice_tag_id': slice['slice_tag_ids']})
  92         ##for tag in tags:
  93             ### most likely a default/global sliver attribute (node_id == None)
  94             ##if tag['node_id'] not in slivers:
  95                 ##sliver = Sliver({'sliver_id': urn_to_sliver_id(slice_urn, slice['slice_id'], ""),
  96                                  ##'name': 'slab-vm',
  97                                  ##'tags': []})
  98                 ##slivers[tag['node_id']] = sliver
  99             ##slivers[tag['node_id']]['tags'].append(tag)
 100         print >>sys.stderr,"\r\n \r\n \t\t_____________ Slabaggregate api get_slice_and_slivers  slivers %s " %(slivers)
 101         return (slice, slivers)
 102
 103
 104
 105     def get_nodes(self,slice=None,slivers=[], options={}):
 106         filtre = {}
 107
 108         nodes = self.driver.GetNodes(filtre)
 109
 110
 111         interface_ids = []
 112         tag_ids = []
 113         nodes_dict = {}
 114         for node in nodes:
 115             nodes_dict[node['node_id']] = node
 116
 117         rspec_nodes = []
 118         for node in nodes:
 119
 120             node['hostname'] = hostname_to_hrn( self.driver.root_auth,node['site_login_base'], node['hostname'])
 121             rspec_node = Node()
 122
 123             rspec_node['component_id'] = hostname_to_urn(self.driver.root_auth, node['site_login_base'], node['hostname'])
 124             rspec_node['component_name'] = node['hostname']
 125             rspec_node['component_manager_id'] = hrn_to_urn(self.driver.root_auth, 'authority+sa')
 126             rspec_node['authority_id'] = hrn_to_urn(PlXrn.site_hrn(self.driver.root_auth, node['site_login_base']), 'authority+sa')
 127             rspec_node['boot_state'] = node['boot_state']
 128             if node['posx'] and node['posy']:
 129                 location = Location({'longitude':node['posx'], 'latitude': node['posy']})
 130                 rspec_node['location'] = location
 131
 132             rspec_node['exclusive'] = 'True'
 133             rspec_node['hardware_types']= [HardwareType({'name': 'senslab sensor node'})]
 134
 135             rspec_node['interfaces'] = []
 136
 137
 138             rspec_node['tags'] = []
 139
 140             rspec_nodes.append(rspec_node)
 141         return (rspec_nodes)
 142
 143     def get_nodes_and_links(self, slice=None,slivers=[], options={}):
 144         # NT: the semantic of this function is not clear to me :
 145         # if slice is not defined, then all the nodes should be returned
 146         # if slice is defined, we should return only the nodes that are part of this slice
 147         # but what is the role of the slivers parameter ?
 148         # So i assume that slice['node_ids'] will be the same as slivers for us
 149         filter = {}
 150         tags_filter = {}
 151
 152         if slice :
 153             if 'node_ids' in slice and slice['node_ids']:
 154                 #first case, a non empty slice was provided
 155                 filter['hostname'] = slice['node_ids']
 156                 tags_filter=filter.copy()
 157                 nodes = self.driver.GetNodes(filter['hostname'])
 158             else :
 159                 #second case, a slice was provided, but is empty
 160                 nodes={}
 161         else :
 162             #third case, no slice was provided
 163             nodes = self.driver.GetNodes()
 164
 165         #geni_available = options.get('geni_available')
 166         #if geni_available:
 167             #filter['boot_state'] = 'boot'
 168         print>>sys.stderr, "\r\n \r\n \t get_nodes_and_links filter %s \r\n \r\n \t slivers %s" %(filter, slivers)
 169         #filter.update({'peer_id': None})
 170         #nodes = self.driver.GetNodes(filter['hostname'])
 171         #print>>sys.stderr, "\r\n \r\n \t get_nodes_and_links nodes %s" %(nodes)
 172
 173         #site_ids = []
 174         #interface_ids = []
 175         #tag_ids = []
 176         nodes_dict = {}
 177         for node in nodes:
 178             #site_ids.append(node['site_id'])
 179             #interface_ids.extend(node['interface_ids'])
 180             #tag_ids.extend(node['node_tag_ids'])
 181             nodes_dict[node['node_id']] = node
 182
 183         # get sites
 184         #sites_dict  = self.get_sites({'site_id': site_ids})
 185         # get interfaces
 186         #interfaces = self.get_interfaces({'interface_id':interface_ids})
 187         # get tags
 188         #node_tags = self.get_node_tags(tags_filter)
 189
 190         #links = self.get_links(sites_dict, nodes_dict, interfaces)
 191
 192         rspec_nodes = []
 193         for node in nodes:
 194             # skip whitelisted nodes
 195             #if node['slice_ids_whitelist']:
 196                 #if not slice or slice['slice_id'] not in node['slice_ids_whitelist']:
 197                     #continue
 198             rspec_node = Node()
 199             # xxx how to retrieve site['login_base']
 200             #site_id=node['site_id']
 201             #site=sites_dict[site_id]
 202             rspec_node['component_id'] = hostname_to_urn(self.driver.root_auth, node['site'], node['hostname'])
 203             rspec_node['component_name'] = node['hostname']
 204             rspec_node['component_manager_id'] = hrn_to_urn(self.driver.root_auth, 'authority+sa')
 205             #rspec_node['component_manager_id'] = Xrn(self.driver.root_auth, 'authority+sa').get_urn()
 206             rspec_node['authority_id'] = hrn_to_urn(PlXrn.site_hrn(self.driver.root_auth, node['site']), 'authority+sa')
 207             # do not include boot state (<available> element) in the manifest rspec
 208             if not slice:
 209                 rspec_node['boot_state'] = node['boot_state']
 210             rspec_node['exclusive'] = 'true'
 211             rspec_node['hardware_types'] = [HardwareType({'name': 'slab-sensor'})]
 212             # only doing this because protogeni rspec needs
 213             # to advertise available initscripts
 214             rspec_node['pl_initscripts'] = None
 215             # add site/interface info to nodes.
 216             # assumes that sites, interfaces and tags have already been prepared.
 217             #site = sites_dict[node['site_id']]
 218             #if site['longitude'] and site['latitude']:
 219                 #location = Location({'longitude': site['longitude'], 'latitude': site['latitude'], 'country': 'unknown'})
 220                 #rspec_node['location'] = location
 221             if node['posx'] and node['posy']:
 222                 location = Location({'longitude':node['posx'], 'latitude': node['posy']})
 223                 rspec_node['location'] = location
 224             rspec_node['interfaces'] = []
 225             #if_count=0
 226             #for if_id in node['interface_ids']:
 227                 #interface = Interface(interfaces[if_id])
 228                 #interface['ipv4'] = interface['ip']
 229                 #interface['component_id'] = PlXrn(auth=self.driver.hrn,
 230                                                 #interface='node%s:eth%s' % (node['node_id'], if_count)).get_urn()
 231                 # interfaces in the manifest need a client id
 232                 #if slice:
 233                     #interface['client_id'] = "%s:%s" % (node['node_id'], if_id)
 234                 #rspec_node['interfaces'].append(interface)
 235                 #if_count+=1
 236
 237             #tags = [PLTag(node_tags[tag_id]) for tag_id in node['node_tag_ids']]
 238             rspec_node['tags'] = []
 239             if node['hrn'] in slivers:
 240                 # add sliver info
 241                 sliver = slivers[node['node_id']]
 242                 rspec_node['sliver_id'] = sliver['sliver_id']
 243                 rspec_node['client_id'] = node['hostname']
 244                 rspec_node['slivers'] = [sliver]
 245
 246                 # slivers always provide the ssh service
 247                 #login = Login({'authentication': 'ssh-keys', 'hostname': node['hostname'], 'port':'22', 'username': sliver['name']})
 248                 #service = Services({'login': login})
 249                 #rspec_node['services'] = [service]
 250             rspec_nodes.append(rspec_node)
 251         return (rspec_nodes)
 252
 253 #from plc/aggregate.py
 254     def get_rspec(self, slice_xrn=None, version = None, options={}):
 255
 256         rspec = None
 257         version_manager = VersionManager()
 258         version = version_manager.get_version(version)
 259         print>>sys.stderr, " \r\n SlabAggregate \t\t get_rspec ************** version %s version_manager %s options %s \r\n" %(version,version_manager,options)
 260
 261         if not slice_xrn:
 262             rspec_version = version_manager._get_version(version.type, version.version, 'ad')
 263         else:
 264             rspec_version = version_manager._get_version(version.type, version.version, 'manifest')
 265         slice, slivers = self.get_slice_and_slivers(slice_xrn)
 266         #at this point sliver my be {} if no senslab job is running for this user/slice.
 267         rspec = RSpec(version=rspec_version, user_options=options)
 268         #if slice and 'expires' in slice:
 269            #rspec.xml.set('expires',  datetime_to_epoch(slice['expires']))
 270          # add sliver defaults
 271         #nodes, links = self.get_nodes_and_links(slice, slivers)
 272         nodes = self.get_nodes_and_links(slice,slivers)
 273         rspec.version.add_nodes(nodes)
 274
 275         #rspec.version.add_links(links)
 276         default_sliver = slivers.get(None, [])
 277         if default_sliver:
 278             default_sliver_attribs = default_sliver.get('tags', [])
 279             print>>sys.stderr, " \r\n SlabAggregate \t\t get_rspec ************** default_sliver_attribs %s \r\n" %(default_sliver_attribs)
 280             for attrib in default_sliver_attribs:
 281                 print>>sys.stderr, " \r\n SlabAggregate \t\t get_rspec ************** attrib %s \r\n" %(attrib)
 282                 logger.info(attrib)
 283                 rspec.version.add_default_sliver_attribute(attrib['tagname'], attrib['value'])
 284
 285         return rspec.toxml()