Quitar restos de silicona PVC

He puesto la carpintería exterior de mi casa en pvc al rematar las ventanas y puertas, no han sido muy finos con el cordón de silicona dejándola impregnada en los ángulos y en el ladrillo visto. No sé, como quitar todos los sobrantes de silicona tanto en el ladrillo como en las ventanas y puertas sin estropearlas ni arañarlas. Quite un trozo para probar, el PVC queda manchado, no me atrevo a utilizar ningún producto químico. Dicen que este material solo puede limpiarse con agua.