new publish_result_debug flag
[myslice.git] / manifold / js / manifold.js
1 // utilities 
2 function debug_dict_keys (msg, o) {
3     var keys=[];
4     for (var k in o) keys.push(k);
5     messages.debug ("debug_dict_keys: " + msg + " keys= " + keys);
6 }
7 function debug_dict (msg, o) {
8     for (var k in o) messages.debug ("debug_dict: " + msg + " [" + k + "]=" + o[k]);
9 }
10 function debug_value (msg, value) {
11     messages.debug ("debug_value: " + msg + " " + value);
12 }
13 function debug_query (msg, query) {
14     if (query === undefined) messages.debug ("debug_query: " + msg + " -> undefined");
15     else if (query == null) messages.debug ("debug_query: " + msg + " -> null");
16     else if ('query_uuid' in query) messages.debug ("debug_query: " + msg + query.__repr());
17     else messages.debug ("debug_query: " + msg + " query= " + query);
18 }
19
20 // http://javascriptweblog.wordpress.com/2011/08/08/fixing-the-javascript-typeof-operator/
21 Object.toType = (function toType(global) {
22   return function(obj) {
23     if (obj === global) {
24       return "global";
25     }
26     return ({}).toString.call(obj).match(/\s([a-z|A-Z]+)/)[1].toLowerCase();
27   }
28 })(this);
29
30 /* ------------------------------------------------------------ */
31
32 // Constants that should be somehow moved to a plugin.js file
33 var FILTER_ADDED   = 1;
34 var FILTER_REMOVED = 2;
35 var CLEAR_FILTERS  = 3;
36 var FIELD_ADDED    = 4;
37 var FIELD_REMOVED  = 5;
38 var CLEAR_FIELDS   = 6;
39 var NEW_RECORD     = 7;
40 var CLEAR_RECORDS  = 8;
41 var FIELD_STATE_CHANGED = 9;
42
43 var IN_PROGRESS    = 101;
44 var DONE           = 102;
45
46 /* Update requests related to subqueries */
47 var SET_ADD        = 201;
48 var SET_REMOVED    = 202;
49
50 // request
51 var FIELD_REQUEST_CHANGE  = 301;
52 var FIELD_REQUEST_ADD     = 302;
53 var FIELD_REQUEST_REMOVE  = 303;
54 var FIELD_REQUEST_ADD_RESET = 304;
55 var FIELD_REQUEST_REMOVE_RESET = 305;
56 // status
57 var FIELD_REQUEST_PENDING = 401;
58 var FIELD_REQUEST_SUCCESS = 402;
59 var FIELD_REQUEST_FAILURE = 403;
60
61 /* Query status */
62 var STATUS_NONE               = 500; // Query has not been started yet
63 var STATUS_GET_IN_PROGRESS    = 501; // Query has been sent, no result has been received
64 var STATUS_GET_RECEIVED       = 502; // Success
65 var STATUS_GET_ERROR          = 503; // Error
66 var STATUS_UPDATE_PENDING     = 504;
67 var STATUS_UPDATE_IN_PROGRESS = 505;
68 var STATUS_UPDATE_RECEIVED    = 506;
69 var STATUS_UPDATE_ERROR       = 507;
70
71 /* Requests for query cycle */
72 var RUN_UPDATE     = 601;
73
74 /* MANIFOLD types */
75 var TYPE_VALUE  = 1;
76 var TYPE_RECORD = 2;
77 var TYPE_LIST_OF_VALUES = 3;
78 var TYPE_LIST_OF_RECORDS = 4;
79
80
81 // A structure for storing queries
82
83 function QueryExt(query, parent_query_ext, main_query_ext, update_query_ext, disabled) {
84
85     /* Constructor */
86     if (typeof query == "undefined")
87         throw "Must pass a query in QueryExt constructor";
88     this.query                 = query;
89     this.parent_query_ext      = (typeof parent_query_ext      == "undefined") ? null  : parent_query_ext;
90     this.main_query_ext        = (typeof main_query_ext        == "undefined") ? null  : main_query_ext;
91     this.update_query_ext      = (typeof update_query_ext      == "undefined") ? null  : update_query_ext;
92     this.update_query_orig_ext = (typeof update_query_orig_ext == "undefined") ? null  : update_query_orig_ext;
93     this.disabled              = (typeof update_query_ext      == "undefined") ? false : disabled;
94     
95     this.status       = null;
96     this.results      = null;
97     // update_query null unless we are a main_query (aka parent_query == null); only main_query_fields can be updated...
98 }
99
100 function QueryStore() {
101
102     this.main_queries     = {};
103     this.analyzed_queries = {};
104
105     /* Insertion */
106
107     this.insert = function(query) {
108         // We expect only main_queries are inserted
109         
110         /* If the query has not been analyzed, then we analyze it */
111         if (query.analyzed_query == null) {
112             query.analyze_subqueries();
113         }
114
115         /* We prepare the update query corresponding to the main query and store both */
116         /* Note: they have the same UUID */
117
118         // XXX query.change_action() should become deprecated
119         update_query = query.clone();
120         update_query.action = 'update';
121         update_query.analyzed_query.action = 'update';
122         update_query.params = {};
123         update_query_ext = new QueryExt(update_query);
124
125         /* We remember the original query to be able to reset it */
126         update_query_orig_ext = new QueryExt(update_query.clone());
127
128
129         /* We store the main query */
130         query_ext = new QueryExt(query, null, null, update_query_ext, update_query_orig_ext, false);
131         manifold.query_store.main_queries[query.query_uuid] = query_ext;
132         /* Note: the update query does not have an entry! */
133
134
135         // The query is disabled; since it is incomplete until we know the content of the set of subqueries
136         // XXX unless we have no subqueries ???
137         // we will complete with params when records are received... this has to be done by the manager
138         // SET_ADD, SET_REMOVE will change the status of the elements of the set
139         // UPDATE will change also, etc.
140         // XXX We need a proper structure to store this information...
141
142         // We also need to insert all queries and subqueries from the analyzed_query
143         // XXX We need the root of all subqueries
144         query.iter_subqueries(function(sq, data, parent_query) {
145             if (parent_query)
146                 parent_query_ext = manifold.query_store.find_analyzed_query_ext(parent_query.query_uuid);
147             else
148                 parent_query_ext = null;
149             // XXX parent_query_ext == false
150             // XXX main.subqueries = {} # Normal, we need analyzed_query
151             sq_ext = new QueryExt(sq, parent_query_ext, query_ext)
152             manifold.query_store.analyzed_queries[sq.query_uuid] = sq_ext;
153         });
154
155         // XXX We have spurious update queries...
156     }
157
158     /* Searching */
159
160     this.find_query_ext = function(query_uuid) {
161         return this.main_queries[query_uuid];
162     }
163
164     this.find_query = function(query_uuid) {
165         return this.find_query_ext(query_uuid).query;
166     }
167
168     this.find_analyzed_query_ext = function(query_uuid) {
169         return this.analyzed_queries[query_uuid];
170     }
171
172     this.find_analyzed_query = function(query_uuid) {
173         return this.find_analyzed_query_ext(query_uuid).query;
174     }
175 }
176
177 /*!
178  * This namespace holds functions for globally managing query objects
179  * \Class Manifold
180  */
181 var manifold = {
182
183     /************************************************************************** 
184      * Helper functions
185      **************************************************************************/ 
186
187     separator: '__',
188
189     spin_presets: {},
190
191     spin: function(locator, active /*= true */) {
192         active = typeof active !== 'undefined' ? active : true;
193         try {
194             if (active) {
195                 $(locator).spin(manifold.spin_presets);
196             } else {
197                 $(locator).spin(false);
198             }
199         } catch (err) { messages.debug("Cannot turn spins on/off " + err); }
200     },
201
202     get_type: function(variable) {
203         switch(Object.toType(variable)) {
204             case 'number':
205             case 'string':
206                 return TYPE_VALUE;
207             case 'object':
208                 return TYPE_RECORD;
209             case 'array':
210                 if ((variable.length > 0) && (Object.toType(variable[0]) === 'object'))
211                     return TYPE_LIST_OF_RECORDS;
212                 else
213                     return TYPE_LIST_OF_VALUES;
214         }
215     },
216
217     /************************************************************************** 
218      * Metadata management
219      **************************************************************************/ 
220
221      metadata: {
222
223         get_table: function(method) {
224             var table = MANIFOLD_METADATA[method];
225             return (typeof table === 'undefined') ? null : table;
226         },
227
228         get_columns: function(method) {
229             var table = this.get_table(method);
230             if (!table) {
231                 return null;
232             }
233
234             return (typeof table.column === 'undefined') ? null : table.column;
235         },
236
237         get_key: function(method) {
238             var table = this.get_table(method);
239             if (!table)
240                 return null;
241
242             return (typeof table.key === 'undefined') ? null : table.key;
243         },
244
245
246         get_column: function(method, name) {
247             var columns = this.get_columns(method);
248             if (!columns)
249                 return null;
250
251             $.each(columns, function(i, c) {
252                 if (c.name == name)
253                     return c
254             });
255             return null;
256         },
257
258         get_type: function(method, name) {
259             var table = this.get_table(method);
260             if (!table)
261                 return null;
262
263             return (typeof table.type === 'undefined') ? null : table.type;
264         }
265
266      },
267
268     /************************************************************************** 
269      * Query management
270      **************************************************************************/ 
271
272     query_store: new QueryStore(),
273
274     // XXX Remaining functions are deprecated since they are replaced by the query store
275
276     /*!
277      * Associative array storing the set of queries active on the page
278      * \memberof Manifold
279      */
280     all_queries: {},
281
282     /*!
283      * Insert a query in the global hash table associating uuids to queries.
284      * If the query has no been analyzed yet, let's do it.
285      * \fn insert_query(query)
286      * \memberof Manifold
287      * \param ManifoldQuery query Query to be added
288      */
289     insert_query : function (query) { 
290         // NEW API
291         manifold.query_store.insert(query);
292
293         // FORMER API
294         if (query.analyzed_query == null) {
295             query.analyze_subqueries();
296         }
297         manifold.all_queries[query.query_uuid]=query;
298     },
299
300     /*!
301      * Returns the query associated to a UUID
302      * \fn find_query(query_uuid)
303      * \memberof Manifold
304      * \param string query_uuid The UUID of the query to be returned
305      */
306     find_query : function (query_uuid) { 
307         return manifold.all_queries[query_uuid];
308     },
309
310     /************************************************************************** 
311      * Query execution
312      **************************************************************************/ 
313
314     // trigger a query asynchroneously
315     proxy_url : '/manifold/proxy/json/',
316
317     // reasonably low-noise, shows manifold requests coming in and out
318     asynchroneous_debug : true,
319     // print our more details on result publication and related callbacks
320     publish_result_debug : false,
321
322     /**
323      * \brief We use js function closure to be able to pass the query (array)
324      * to the callback function used when data is received
325      */
326     success_closure: function(query, publish_uuid, callback /*domid*/) {
327         return function(data, textStatus) {
328             manifold.asynchroneous_success(data, query, publish_uuid, callback /*domid*/);
329         }
330     },
331
332     run_query: function(query, callback) {
333         // default value for callback = null
334         if (typeof callback === 'undefined')
335             callback = null; 
336
337         var query_json = JSON.stringify(query);
338
339         /* Nothing related to pubsub here... for the moment at least. */
340         //query.iter_subqueries(function (sq) {
341         //    manifold.raise_record_event(sq.query_uuid, IN_PROGRESS);
342         //});
343
344         $.post(manifold.proxy_url, {'json': query_json} , manifold.success_closure(query, null, callback /*domid*/));
345     },
346
347     // Executes all async. queries
348     // input queries are specified as a list of {'query_uuid': <query_uuid>, 'id': <possibly null>}
349     asynchroneous_exec : function (query_publish_dom_tuples) {
350         // start spinners
351
352         // in case the spin stuff was not loaded, let's make sure we proceed to the exit 
353         //try {
354         //    if (manifold.asynchroneous_debug) 
355         //   messages.debug("Turning on spin with " + jQuery(".need-spin").length + " matches for .need-spin");
356         //    jQuery('.need-spin').spin(manifold.spin_presets);
357         //} catch (err) { messages.debug("Cannot turn on spins " + err); }
358         
359         // Loop through input array, and use publish_uuid to publish back results
360         jQuery.each(query_publish_dom_tuples, function(index, tuple) {
361             var query=manifold.find_query(tuple.query_uuid);
362             var query_json=JSON.stringify (query);
363             var publish_uuid=tuple.publish_uuid;
364             // by default we publish using the same uuid of course
365             if (publish_uuid==undefined) publish_uuid=query.query_uuid;
366             if (manifold.asynchroneous_debug) {
367                 messages.debug("sending POST on " + manifold.proxy_url + " to be published on " + publish_uuid);
368                 messages.debug("... ctd... with actual query= " + query.__repr());
369             }
370
371             query.iter_subqueries(function (sq) {
372                 manifold.raise_record_event(sq.query_uuid, IN_PROGRESS);
373             });
374
375             // not quite sure what happens if we send a string directly, as POST data is named..
376             // this gets reconstructed on the proxy side with ManifoldQuery.fill_from_POST
377             jQuery.post(manifold.proxy_url, {'json':query_json}, 
378                         manifold.success_closure(query, publish_uuid, tuple.callback /*domid*/));
379         })
380     },
381
382     /**
383      * \brief Forward a query to the manifold backend
384      * \param query (dict) the query to be executed asynchronously
385      * \param callback (function) the function to be called when the query terminates
386      * Deprecated:
387      * \param domid (string) the domid to be notified about the results (null for using the pub/sub system
388      */
389     forward: function(query, callback /*domid*/) {
390         var query_json = JSON.stringify(query);
391         $.post(manifold.proxy_url, {'json': query_json} , 
392                manifold.success_closure(query, query.query_uuid, callback/*domid*/));
393     },
394
395     /*!
396      * Returns whether a query expects a unique results.
397      * This is the case when the filters contain a key of the object
398      * \fn query_expects_unique_result(query)
399      * \memberof Manifold
400      * \param ManifoldQuery query Query for which we are testing whether it expects a unique result
401      */
402     query_expects_unique_result: function(query) {
403         /* XXX we need functions to query metadata */
404         //var keys = MANIFOLD_METADATA[query.object]['keys']; /* array of array of field names */
405         /* TODO requires keys in metadata */
406         return true;
407     },
408
409     /*!
410      * Publish result
411      * \fn publish_result(query, results)
412      * \memberof Manifold
413      * \param ManifoldQuery query Query which has received results
414      * \param array results results corresponding to query
415      */
416     publish_result: function(query, result) {
417         if (typeof result === 'undefined')
418             result = [];
419
420         // NEW PLUGIN API
421         manifold.raise_record_event(query.query_uuid, CLEAR_RECORDS);
422         $.each(result, function(i, record) {
423             manifold.raise_record_event(query.query_uuid, NEW_RECORD, record);
424         });
425         manifold.raise_record_event(query.query_uuid, DONE);
426
427         // OLD PLUGIN API BELOW
428         /* Publish an update announce */
429         var channel="/results/" + query.query_uuid + "/changed";
430         if (manifold.asynchroneous_debug)
431             messages.debug("publishing result on " + channel);
432         jQuery.publish(channel, [result, query]);
433     },
434
435     /*!
436      * Recursively publish result
437      * \fn publish_result_rec(query, result)
438      * \memberof Manifold
439      * \param ManifoldQuery query Query which has received result
440      * \param array result result corresponding to query
441      */
442     publish_result_rec: function(query, result) {
443         /* If the result is not unique, only publish the top query;
444          * otherwise, publish the main object as well as subqueries
445          * XXX how much recursive are we ?
446          */
447         if (manifold.publish_result_debug) messages.debug (">>>>> publish_result_rec " + query.object);
448         if (manifold.query_expects_unique_result(query)) {
449             /* Also publish subqueries */
450             jQuery.each(query.subqueries, function(object, subquery) {
451                 manifold.publish_result_rec(subquery, result[0][object]);
452                 /* TODO remove object from result */
453             });
454         }
455         if (manifold.publish_result_debug) messages.debug ("===== publish_result_rec " + query.object);
456         manifold.publish_result(query, result);
457         if (manifold.publish_result_debug) messages.debug ("<<<<< publish_result_rec " + query.object);
458     },
459
460     setup_update_query: function(query, records) {
461         // We don't prepare an update query if the result has more than 1 entry
462         if (records.length != 1)
463             return;
464         var query_ext = manifold.query_store.find_query_ext(query.query_uuid);
465
466         var record = records[0];
467
468         var update_query_ext = query_ext.update_query_ext;
469         var update_query = update_query_ext.query;
470         var update_query_ext = query_ext.update_query_ext;
471         var update_query_orig = query_ext.update_query_orig_ext.query;
472
473         // Testing whether the result has subqueries (one level deep only)
474         // iif the query has subqueries
475         var count = 0;
476         var obj = query.analyzed_query.subqueries;
477         for (method in obj) {
478             if (obj.hasOwnProperty(method)) {
479                 var key = manifold.metadata.get_key(method);
480                 if (!key)
481                     continue;
482                 if (key.length > 1)
483                     continue;
484                 key = key[0];
485                 var sq_keys = [];
486                 var subrecords = record[method];
487                 if (!subrecords)
488                     continue
489                 $.each(subrecords, function (i, subrecord) {
490                     sq_keys.push(subrecord[key]);
491                 });
492                 update_query.params[method] = sq_keys;
493                 update_query_orig.params[method] = sq_keys.slice();
494                 count++;
495             }
496         }
497
498         if (count > 0) {
499             update_query_ext.disabled = false;
500             update_query_orig_ext.disabled = false;
501         }
502     },
503
504     process_get_query_records: function(query, records) {
505         this.setup_update_query(query, records);
506
507         /* Publish full results */
508         tmp_query = manifold.find_query(query.query_uuid);
509         manifold.publish_result_rec(tmp_query.analyzed_query, records);
510     },
511
512     /**
513      * 
514      * What we need to do when receiving results from an update query:
515      * - differences between what we had, what we requested, and what we obtained
516      *    . what we had : update_query_orig (simple fields and set fields managed differently)
517      *    . what we requested : update_query
518      *    . what we received : records
519      * - raise appropriate events
520      *
521      * The normal process is that results similar to Get will be pushed in the
522      * pubsub mechanism, thus repopulating everything while we only need
523      * diff's. This means we need to move the publish functionalities in the
524      * previous 'process_get_query_records' function.
525      */
526     process_update_query_records: function(query, records) {
527         // First issue: we request everything, and not only what we modify, so will will have to ignore some fields
528         var query_uuid        = query.query_uuid;
529         var query_ext         = manifold.query_store.find_analyzed_query_ext(query_uuid);
530         var update_query      = query_ext.main_query_ext.update_query_ext.query;
531         var update_query_orig = query_ext.main_query_ext.update_query_orig_ext.query;
532         
533         // Since we update objects one at a time, we can get the first record
534         var record = records[0];
535
536         // Let's iterate over the object properties
537         for (var field in record) {
538             switch (this.get_type(record[field])) {
539                 case TYPE_VALUE:
540                     // Did we ask for a change ?
541                     var update_value = update_query[field];
542                     if (!update_value)
543                         // Not requested, if it has changed: OUT OF SYNC
544                         // How we can know ?
545                         // We assume it won't have changed
546                         continue;
547
548                     var result_value = record[field];
549                     if (!result_value)
550                         throw "Internal error";
551
552                     data = {
553                         request: FIELD_REQUEST_CHANGE,
554                         key   : field,
555                         value : update_value,
556                         status: (update_value == result_value) ? FIELD_REQUEST_SUCCESS : FIELD_REQUEST_FAILURE,
557                     }
558                     manifold.raise_record_event(query_uuid, FIELD_STATE_CHANGED, data);
559
560                     break;
561                 case TYPE_RECORD:
562                     throw "Not implemented";
563                     break;
564
565                 case TYPE_LIST_OF_VALUES:
566                     // Same as list of records, but we don't have to extract keys
567                     var result_keys  = record[field]
568                     
569                     // The rest of exactly the same (XXX factorize)
570                     var update_keys  = update_query_orig.params[field];
571                     var query_keys   = update_query.params[field];
572                     var added_keys   = $.grep(query_keys, function (x) { return $.inArray(x, update_keys) == -1 });
573                     var removed_keys = $.grep(update_keys, function (x) { return $.inArray(x, query_keys) == -1 });
574
575
576                     $.each(added_keys, function(i, key) {
577                         if ($.inArray(key, result_keys) == -1) {
578                             data = {
579                                 request: FIELD_REQUEST_ADD,
580                                 key   : field,
581                                 value : key,
582                                 status: FIELD_REQUEST_FAILURE,
583                             }
584                         } else {
585                             data = {
586                                 request: FIELD_REQUEST_ADD,
587                                 key   : field,
588                                 value : key,
589                                 status: FIELD_REQUEST_SUCCESS,
590                             }
591                         }
592                         manifold.raise_record_event(query_uuid, FIELD_STATE_CHANGED, data);
593                     });
594                     $.each(removed_keys, function(i, key) {
595                         if ($.inArray(key, result_keys) == -1) {
596                             data = {
597                                 request: FIELD_REQUEST_REMOVE,
598                                 key   : field,
599                                 value : key,
600                                 status: FIELD_REQUEST_SUCCESS,
601                             }
602                         } else {
603                             data = {
604                                 request: FIELD_REQUEST_REMOVE,
605                                 key   : field,
606                                 value : key,
607                                 status: FIELD_REQUEST_FAILURE,
608                             }
609                         }
610                         manifold.raise_record_event(query_uuid, FIELD_STATE_CHANGED, data);
611                     });
612
613
614                     break;
615                 case TYPE_LIST_OF_RECORDS:
616                     // example: slice.resource
617                     //  - update_query_orig.params.resource = resources in slice before update
618                     //  - update_query.params.resource = resource requested in slice
619                     //  - keys from field = resources obtained
620                     var key = manifold.metadata.get_key(field);
621                     if (!key)
622                         continue;
623                     if (key.length > 1) {
624                         throw "Not implemented";
625                         continue;
626                     }
627                     key = key[0];
628
629                     /* XXX should be modified for multiple keys */
630                     var result_keys  = $.map(record[field], function(x) { return x[key]; });
631
632                     var update_keys  = update_query_orig.params[field];
633                     var query_keys   = update_query.params[field];
634                     var added_keys   = $.grep(query_keys, function (x) { return $.inArray(x, update_keys) == -1 });
635                     var removed_keys = $.grep(update_keys, function (x) { return $.inArray(x, query_keys) == -1 });
636
637
638                     $.each(added_keys, function(i, key) {
639                         if ($.inArray(key, result_keys) == -1) {
640                             data = {
641                                 request: FIELD_REQUEST_ADD,
642                                 key   : field,
643                                 value : key,
644                                 status: FIELD_REQUEST_FAILURE,
645                             }
646                         } else {
647                             data = {
648                                 request: FIELD_REQUEST_ADD,
649                                 key   : field,
650                                 value : key,
651                                 status: FIELD_REQUEST_SUCCESS,
652                             }
653                         }
654                         manifold.raise_record_event(query_uuid, FIELD_STATE_CHANGED, data);
655                     });
656                     $.each(removed_keys, function(i, key) {
657                         if ($.inArray(key, result_keys) == -1) {
658                             data = {
659                                 request: FIELD_REQUEST_REMOVE,
660                                 key   : field,
661                                 value : key,
662                                 status: FIELD_REQUEST_SUCCESS,
663                             }
664                         } else {
665                             data = {
666                                 request: FIELD_REQUEST_REMOVE,
667                                 key   : field,
668                                 value : key,
669                                 status: FIELD_REQUEST_FAILURE,
670                             }
671                         }
672                         manifold.raise_record_event(query_uuid, FIELD_STATE_CHANGED, data);
673                     });
674
675
676                     break;
677             }
678         }
679         
680         // XXX Now we need to adapt 'update' and 'update_orig' queries as if we had done a get
681         this.setup_update_query(query, records);
682     },
683
684     process_query_records: function(query, records) {
685         if (query.action == 'get') {
686             this.process_get_query_records(query, records);
687         } else if (query.action == 'update') {
688             this.process_update_query_records(query, records);
689         }
690     },
691
692     // if set domid allows the result to be directed to just one plugin
693     // most of the time publish_uuid will be query.query_uuid
694     // however in some cases we wish to publish the result under a different uuid
695     // e.g. an updater wants to publish its result as if from the original (get) query
696     asynchroneous_success : function (data, query, publish_uuid, callback /*domid*/) {
697         // xxx should have a nicer declaration of that enum in sync with the python code somehow
698         
699         var start = new Date();
700         if (manifold.asynchroneous_debug)
701             messages.debug(">>>>>>>>>> asynchroneous_success query.object=" + query.object);
702
703         /* If a callback has been specified, we redirect results to it */
704         if (!!callback) { 
705             callback(data); 
706             if (manifold.asynchroneous_debug) {
707                 duration=new Date()-start;
708                 messages.debug ("<<<<<<<<<< asynchroneous_success " + query.object + " -- callback ended " + duration + " ms");
709             }
710             return; 
711         }
712
713         if (data.code == 2) { // ERROR
714             // We need to make sense of error codes here
715             alert("Your session has expired, please log in again");
716             window.location="/logout/";
717             if (manifold.asynchroneous_debug) {
718                 duration=new Date()-start;
719                 messages.debug ("<<<<<<<<<< asynchroneous_success " + query.object + " -- error returned - logging out " + duration + " ms");
720             }
721             return;
722         }
723         if (data.code == 1) { // WARNING
724             messages.error("Some errors have been received from the manifold backend at " + MANIFOLD_URL + " [" + data.description + "]");
725             // publish error code and text message on a separate channel for whoever is interested
726             if (publish_uuid)
727                 $.publish("/results/" + publish_uuid + "/failed", [data.code, data.description] );
728
729             $("#notifications").notify("create", "sticky", {
730               title: 'Warning',
731               text: data.description
732             },{
733               expires: false,
734               speed: 1000
735             });
736             
737         }
738         if (manifold.asynchroneous_debug) 
739             messages.debug ("========== asynchroneous_success " + query.object + " -- before process_query_records");
740
741         // once everything is checked we can use the 'value' part of the manifoldresult
742         var result=data.value;
743         if (result) {
744             /* Eventually update the content of related queries (update, etc) */
745             this.process_query_records(query, result);
746
747             /* Publish results: disabled here, done in the previous call */
748             //tmp_query = manifold.find_query(query.query_uuid);
749             //manifold.publish_result_rec(tmp_query.analyzed_query, result);
750         }
751         if (manifold.asynchroneous_debug) {
752             duration=new Date()-start;
753             messages.debug ("<<<<<<<<<< asynchroneous_success " + query.object + " -- done " + duration + " ms");
754         }
755
756     },
757
758     /************************************************************************** 
759      * Plugin API helpers
760      **************************************************************************/ 
761
762     raise_event_handler: function(type, query_uuid, event_type, value) {
763         if ((type != 'query') && (type != 'record'))
764             throw 'Incorrect type for manifold.raise_event()';
765
766         var channels = [ manifold.get_channel(type, query_uuid), manifold.get_channel(type, '*') ];
767
768         $.each(channels, function(i, channel) {
769             if (value === undefined) {
770                 $('.plugin').trigger(channel, [event_type]);
771             } else {
772                 $('.plugin').trigger(channel, [event_type, value]);
773             }
774         });
775     },
776
777     raise_query_event: function(query_uuid, event_type, value) {
778         manifold.raise_event_handler('query', query_uuid, event_type, value);
779     },
780
781     raise_record_event: function(query_uuid, event_type, value) {
782         manifold.raise_event_handler('record', query_uuid, event_type, value);
783     },
784
785
786     raise_event: function(query_uuid, event_type, value) {
787         // Query uuid has been updated with the key of a new element
788         query_ext    = manifold.query_store.find_analyzed_query_ext(query_uuid);
789         query = query_ext.query;
790
791         switch(event_type) {
792             case FIELD_STATE_CHANGED:
793                 // value is an object (request, key, value, status)
794                 // update is only possible is the query is not pending, etc
795                 // SET_ADD is on a subquery, FIELD_STATE_CHANGED on the query itself
796                 // we should map SET_ADD on this...
797
798                 // 1. Update internal query store about the change in status
799
800                 // 2. Update the update query
801                 update_query      = query_ext.main_query_ext.update_query_ext.query;
802                 update_query_orig = query_ext.main_query_ext.update_query_orig_ext.query;
803
804                 switch(value.request) {
805                     case FIELD_REQUEST_CHANGE:
806                         update_query.params[value.key] = value.value;
807                         break;
808                     case FIELD_REQUEST_ADD:
809                         if ($.inArray(value.value, update_query_orig.params[value.key]) != -1)
810                             value.request = FIELD_REQUEST_ADD_RESET;
811                         update_query.params[value.key].push(value.value);
812                         break;
813                     case FIELD_REQUEST_REMOVE:
814                         if ($.inArray(value.value, update_query_orig.params[value.key]) == -1)
815                             value.request = FIELD_REQUEST_REMOVE_RESET;
816
817                         var arr = update_query.params[value.key];
818                         arr = $.grep(arr, function(x) { return x != value.value; });
819                         update_query.params[value.key] = arr;
820
821                         break;
822                     case FIELD_REQUEST_ADD_RESET:
823                     case FIELD_REQUEST_REMOVE_RESET:
824                         // XXX We would need to keep track of the original query
825                         throw "Not implemented";
826                         break;
827                 }
828
829                 // 3. Inform others about the change
830                 // a) the main query...
831                 manifold.raise_record_event(query_uuid, event_type, value);
832
833                 // b) subqueries eventually (dot in the key)
834                 // Let's unfold 
835                 var path_array = value.key.split('.');
836                 var value_key = value.key.split('.');
837
838                 var cur_query = query;
839                 if (cur_query.analyzed_query)
840                     cur_query = cur_query.analyzed_query;
841                 $.each(path_array, function(i, method) {
842                     cur_query = cur_query.subqueries[method];
843                     value_key.shift(); // XXX check that method is indeed shifted
844                 });
845                 value.key = value_key;
846
847                 manifold.raise_record_event(cur_query.query_uuid, event_type, value);
848
849                 // XXX make this DOT a global variable... could be '/'
850                 break;
851
852             case SET_ADD:
853             case SET_REMOVED:
854     
855                 // update is only possible is the query is not pending, etc
856                 // CHECK status !
857
858                 // XXX we can only update subqueries of the main query. Check !
859                 // assert query_ext.parent_query == query_ext.main_query
860                 // old // update_query = query_ext.main_query_ext.update_query_ext.query;
861
862                 // This SET_ADD is called on a subquery, so we have to
863                 // recontruct the path of the key in the main_query
864                 // We then call FIELD_STATE_CHANGED which is the equivalent for the main query
865
866                 var path = "";
867                 var sq = query_ext;
868                 while (sq.parent_query_ext) {
869                     if (path != "")
870                         path = '.' + path;
871                     path = sq.query.object + path;
872                     sq = sq.parent_query_ext;
873                 }
874
875                 main_query = query_ext.main_query_ext.query;
876                 data = {
877                     request: (event_type == SET_ADD) ? FIELD_REQUEST_ADD : FIELD_REQUEST_REMOVE,
878                     key   : path,
879                     value : value,
880                     status: FIELD_REQUEST_PENDING,
881                 };
882                 this.raise_event(main_query.query_uuid, FIELD_STATE_CHANGED, data);
883
884                 // old //update_query.params[path].push(value);
885                 // old // console.log('Updated query params', update_query);
886                 // NOTE: update might modify the fields in Get
887                 // NOTE : we have to modify all child queries
888                 // NOTE : parts of a query might not be started (eg slice.measurements, how to handle ?)
889
890                 // if everything is done right, update_query should not be null. 
891                 // It is updated when we received results from the get query
892                 // object = the same as get
893                 // filter = key : update a single object for now
894                 // fields = the same as get
895                 manifold.raise_query_event(query_uuid, event_type, value);
896
897                 break;
898
899             case RUN_UPDATE:
900                 manifold.run_query(query_ext.main_query_ext.update_query_ext.query);
901                 break;
902
903             case FILTER_ADDED:
904                 manifold.raise_query_event(query_uuid, event_type, value);
905                 break;
906             case FILTER_REMOVED:
907                 manifold.raise_query_event(query_uuid, event_type, value);
908                 break;
909             case FIELD_ADDED:
910                 main_query = query_ext.main_query_ext.query;
911                 main_update_query = query_ext.main_query_ext.update_query;
912                 query.select(value);
913
914                 // Here we need the full path through all subqueries
915                 path = ""
916                 // XXX We might need the query name in the QueryExt structure
917                 main_query.select(value);
918
919                 // XXX When is an update query associated ?
920                 // XXX main_update_query.select(value);
921
922                 manifold.raise_query_event(query_uuid, event_type, value);
923                 break;
924
925             case FIELD_REMOVED:
926                 query = query_ext.query;
927                 main_query = query_ext.main_query_ext.query;
928                 main_update_query = query_ext.main_query_ext.update_query;
929                 query.unselect(value);
930                 main_query.unselect(value);
931
932                 // We need to inform about changes in these queries to the respective plugins
933                 // Note: query & main_query have the same UUID
934                 manifold.raise_query_event(query_uuid, event_type, value);
935                 break;
936         }
937         // We need to inform about changes in these queries to the respective plugins
938         // Note: query, main_query & update_query have the same UUID
939         manifold.raise_query_event(query_uuid, event_type, value);
940         // We are targeting the same object with get and update
941         // The notion of query is bad, we should have a notion of destination, and issue queries on the destination
942         // NOTE: Editing a subquery == editing a local view on the destination
943
944         // XXX We might need to run the new query again and manage the plugins in the meantime with spinners...
945         // For the time being, we will collect all columns during the first query
946     },
947
948     /* Publish/subscribe channels for internal use */
949     get_channel: function(type, query_uuid) {
950         if ((type !== 'query') && (type != 'record'))
951             return null;
952         return '/' + type + '/' + query_uuid;
953     },
954
955 }; // manifold object
956 /* ------------------------------------------------------------ */
957
958 (function($) {
959
960     // OLD PLUGIN API: extend jQuery/$ with pubsub capabilities
961     // https://gist.github.com/661855
962     var o = $({});
963     $.subscribe = function( channel, selector, data, fn) {
964       /* borrowed from jQuery */
965       if ( data == null && fn == null ) {
966           // ( channel, fn )
967           fn = selector;
968           data = selector = undefined;
969       } else if ( fn == null ) {
970           if ( typeof selector === "string" ) {
971               // ( channel, selector, fn )
972               fn = data;
973               data = undefined;
974           } else {
975               // ( channel, data, fn )
976               fn = data;
977               data = selector;
978               selector = undefined;
979           }
980       }
981       /* </ugly> */
982   
983       /* We use an indirection function that will clone the object passed in
984        * parameter to the subscribe callback 
985        * 
986        * FIXME currently we only clone query objects which are the only ones
987        * supported and editable, we might have the same issue with results but
988        * the page load time will be severely affected...
989        */
990       o.on.apply(o, [channel, selector, data, function() { 
991           for(i = 1; i < arguments.length; i++) {
992               if ( arguments[i].constructor.name == 'ManifoldQuery' )
993                   arguments[i] = arguments[i].clone();
994           }
995           fn.apply(o, arguments);
996       }]);
997     };
998   
999     $.unsubscribe = function() {
1000       o.off.apply(o, arguments);
1001     };
1002   
1003     $.publish = function() {
1004       o.trigger.apply(o, arguments);
1005     };
1006   
1007 }(jQuery));
1008
1009 /* ------------------------------------------------------------ */
1010
1011 //http://stackoverflow.com/questions/5100539/django-csrf-check-failing-with-an-ajax-post-request
1012 //make sure to expose csrf in our outcoming ajax/post requests
1013 $.ajaxSetup({ 
1014      beforeSend: function(xhr, settings) {
1015          function getCookie(name) {
1016              var cookieValue = null;
1017              if (document.cookie && document.cookie != '') {
1018                  var cookies = document.cookie.split(';');
1019                  for (var i = 0; i < cookies.length; i++) {
1020                      var cookie = jQuery.trim(cookies[i]);
1021                      // Does this cookie string begin with the name we want?
1022                  if (cookie.substring(0, name.length + 1) == (name + '=')) {
1023                      cookieValue = decodeURIComponent(cookie.substring(name.length + 1));
1024                      break;
1025                  }
1026              }
1027          }
1028          return cookieValue;
1029          }
1030          if (!(/^http:.*/.test(settings.url) || /^https:.*/.test(settings.url))) {
1031              // Only send the token to relative URLs i.e. locally.
1032              xhr.setRequestHeader("X-CSRFToken", getCookie('csrftoken'));
1033          }
1034      } 
1035 });