Opción de edición en modo máscara rápida en la paleta de herramientas de Photoshop

Las mascara digamos que sirven como zonas donde aplicar un efecto. Las mascaras rápidas por ejemplo sirven para hacer una selección a partir de una imagen (tener una selección con la forma de una imagen según la tonalidad), y la de capa es lo que hace fotoshop por ejemplo con las lineas, tienes una capa de color y solo se muestra las zonas que tu indiques. Con estas herramientas peudes aplicar un efecto adecuándote a la disposición de las tonalidades dle color y cosas así. Mejor es usar los canales dan más juego y se pueden conseguir muy buenos efectos. Uno por ejemplo es el de un degradado de transparencia... en la ventana de canales, añades uno y haces un degradado lineal de negro a blanco donde el negro es opaco y el blanco es trasparente. Le das a cargar canal como selección después seleccionas el canal rgb y le das a suprimir... la imagende la capa que tuvieras seleccionada se borarra según el degradado.
De todas formas te pongo un tutorial de ejemplo muy bueno y así entenderás mejor algunas herramientas:
http://www.ciudadfutura.com/photoshop/fotos/reemplazar_color_1.htm