Autónomo en España viviendo en el extranjero

Quisiera plantearles una duda. Soy traductor autónomo, y dentro de poco tengo pensado irme a vivir al extranjero por un largo tiempo (unos 2 años). Al estar mi futuro país de residencia fuera de la Unión Europea, tendré que tramitar un permiso de residencia.
En el momento en que tal permiso de residencia me sea concedido en el país nuevo, ¿he de darme de baja aquí en España en la Seguridad Social y la Agencia Tributaria? ¿O puedo tener mi domicilio fiscal aquí y vivir (y por tanto en mi caso trabajar desde casa) en el extranjero?
Hay alguna incompatibilidad fiscal o legal que me impida tener un permiso de residencia en otro país, si yo sigo estando aquí dado de alta (y con domicilio fiscal tal y como ahora, ¿por qué lo mantendría) y pagando mis impuestos a España? No me gustaría hacer nada ilegal, pero quisiera seguir cotizando aquí ininterrumpidamente, dado que pienso volver.
Las declaraciones trimestrales y la de la renta las haría telemáticamente, a no ser que finalmente decida encomendarle esa tarea a un gestor de confianza, al cual yo enviaría por correo electrónico todos los documentos necesarios (facturas emitidas, recibidas, etc..). Pienso que lo que planteo es viable y legal, pero me gustaría estar seguro y conocer todas las opciones antes de salir de España.