Hola Jaime.

Sino me equivoco, solo las clases que hereden de "Component" tienen el mouseListener que controla los evento del mouse. Entonces si no hay jframe, no hay jbuttons ni jpanels, y no podrás agregar ningún listener de ningun tipo.

Por lo que veo lo que tu quieres haces es capturar eventos fuera del contexto de java, es decir ejecutar tu aplicación, luego minimizarla y que sea capaz de responder a los eventos que hagas.

Hasta donde se , eso se puede hacer usando dlls. Un compañero de otro compañero contó una vez que hizo una aplicación java que era capaz de monitorear lo que hacia un scaner, y nos dijo que fue a gracias a una dll.