Generas la máscara rápida. Vas a la paleta de Canales y dejas activo únicamente el canal generado por la máscara. Te aparecerá la selección que has hecho en blanco y negro. El negro es la máscara y el blanco todo lo demás.
En este momento, empleando un pincel negro o blanco, puedes retocar la selección, usando el negro para añadir partes a la máscara o el blanco para borrarlas. Una vez que la tienes como quieres, aplicas el desenfoque gaussiano (por ejemplo) con un ratio que que te permita un difuminado claro de los bordes.
Cuando has acabado de aplicar el desenfoque, vuelves a activar todos los canales y vas a la paleta de capas de nuevo. Ahora tienes la máscara rápida otra vez en rojo.
Piensa que la máscara rápida funciona al contrario de lo que parece. Lo que tengas marcada con ella será la parte de la imagen que quedará protegida de la selección, es decir, que si lo que quieres es seleccionar lo que has marcado con la máscara, debes invertir la selección, ya que sinó estarás usando el resto que no estaba marcado.
Saludos.