Existen sniffers de puerto serie, monitorizadores, que te informan en todo momento el trafico entre dispositivos o aplicaciones que utilizan cualquiera de los puertos COM de un equipo.
Este, por ejemplo, es gratuito, y totalmente funcional. No tiene seguramente funciones tan avanzadas como los de pago, pero para saber que aplicacion está bloqueando el puerto, te sobra. (no te asustes al entrar a la pagina y ver que marca 11,99 dolares, es el precio que cobran por enviartelo en CD, pero la descarga y el programa son totalmente gratuitos):
http://translate.google.com/translate?hl=en&ie=UTF8&u=http://www.serial-port-monitor.com/free-serial-port-monitor-product-details.html&langpair=en%7Ces
Ya me cuentas tus impresiones cuando lo pruebes, y si es lo que buscabas.
No tengo conocimientos sobre este tipo de aplicaciones de automatizacion, pero por lo que explicas, creo que es lo que necesitas.
Un saludo.