Supongamos que tenemos un proyecto que está usando mootools y que necesita usar también JQuery.
Lo ideal sería utilizar uno de los dos y ya está, pero si por alguna razón los dos tienen que convivir tenemos que utilizar la función JQuery.noConflict(); y luego en lugar de hacer las llamadas poniendo $ hay que poner jQuery. Por ejemplo en lugar de:
$.fancybox.close()
Poner:
jQuery.fancybox.close()
Aquí lo encontré: http://sumolari.com/como-evitar-conflictos-entre-mootools-y-jquery/