Hola:
Verás. Se utilizaban /utilizan numerosos metodos.
En la toma, aparte del tema de la iluminación, que por su extensión daría para varias páginas de este post..., se dispone de muchas opciones. Una de las mas efectivas es el uso de un obhetivo dedicado específicamente a eso. Los hay de varios tipos. Con juego intermedio de "aros perforados", que logran mayor o menor suavizado según el tamaño y densidad de esas perforaciones; con "pseudo diafragmas" intermedios, tanto opacos como translúcidos...
Además, cabe usar alguno de los variados filtros ópticos de fabricantes como B&W, etc...
Yo tengo por un armario uno de Minolta. Un 135 mm Soft Focus que es una maravilla para esos menesteres. Tambien uso de vez en cuando uno similar de 150 mm, pero para la Mamiya 6x7 RB.
Otra opción que te han apuntado mas arriba es la de aplicas alguna sustancia oleaginosa a un filtro U.V o Skylight colocado en el objetivo. Ese método tiene la desventaja de que la repetibilidad es casi nula. Nunca logras lo mismo dos veces en dos tiempos diferentes.
Otro de los métodos mas usados, sobre todo en tiempos remotos de la fotografía, y el cine, es el de la media de señora tensada y pegada al frontal del objetivo. Así se las hacían a Sara Montiel. Por eso lo de los "tiempos remotos"...
En el laboratorio hay unfinidad de sistemas. Desde usar cabezales de reflexión en vez de condensación, hasta interponer algún tipo de lámina tranparente entre la lente y el papel. Lo mejor es hacer doble exposición sobre el papel, dándole mas tiempo a la que no lleva esa lámina.
Otra técnica muy usada, y efectiva, es la de doble exposición variando el foco de la ampliadora en la segunda. Muy efectivo y estético.
De todos modos, con la llegada del digital la cosa se ha facilitado de una forma casi escandalosa. En ocasiones, y viendo lo que se vé en los escaparates de algunos estudios fotográficos acaba uno pensándo para qué quieren algunos un objetivo serie "L"...si le vá a acabar metiendo un suavizador a lo bestia en Photoshop...
Saludos. Juan.