Duda sobre CCTV

La tienes difícil amigo.
Lo del UTP no lo veo viable pues no es cable UTP(no va a tener la misma impedancia.
NO tengo ningún circuito pero tal vez algún electrónico te eche un cable.
La idea sería poner un ampificador de video con salida por seguidor de emisor y en el otro lado un condensador y una resist. Para desacoplar la fuente.
De esa forma evitarías mucho de los ruidos pues al viajar tensión especifica los rechazaría(espero que ese cable no viaje acompañado de alguno con tensión alterna cercana).
No sabría que más decirte existen amplif. De video en el mercado pero te conviene uno de estos.
Suerte Ceba

Bueno es difícil responder sin conocer el área donde va a estar montada la cámara, pero debido a que tengo algo de experiencia en el asunto te puedo dar algunos consejos. Primero es importante conocer la impedancia del cable que tienes y si iguala o mejora a la del receptor y emisor, pues esta bien, normalmente utilizamos rg59 o rg6 para instalaciones en cctv, pero no da buena resolución para tan largas distacias, así que te recomendaría usar un rg11 que igual tiene 75ohms, pero la resistencia es mucho menor que en los otros cables y da muy buena resolución hasta 400 mts. y pues no se si esto resuelva tu pregunta, pero puedes comprar un amplificador de senal que se lo puedes montar al cable que ya tienes instalado y probar la resolución. O hacer un montaje inalámbrico que no son muy costosos, de otra forma no se como más.