Pregunta de Novato

Hola; me gustaría que me explicases que es exactamente lo que se hace cuando se instala un programa determinado, aparte de indicarle la carpeta donde lo queremos o su inclusión en la lista de programas de inicio que son Obvios, ¿me refiero a cuales son los datos que se meten en el registro de Windows y por que? ¿Aparte del registro de Windows se meten datos en otros sitios con la instalación?. Yo he empezado a programar hace poco y mis programas no necesitan meter ningún dato en el registro para funcionar! Por lo que no entiendo muy bien cual es la función del registro.
Nota: estoy haciendo un manual sobre el tema y me gustaría que te extendieses lo más posible en la explicación, también te agradecería si me dieses alguna dirección de Internet donde se toque este asunto concretamente.
Saludos Ramón