Pues no tengo ese modelo pero SQ es formato (JPEG normal), tienes el tamaño y la 1/12 es la compresión (1/12 mucha compresión, 1/2.7 poca compresión).
Supongo, porque en Canon pasa algo parecido, que no te dejará cambiar de SQ a SHQ (JPEG de alta calidad) o a RAW (formato en bruto) porque estarás utilizando un modo que no lo permite. Todas las opciones no están disponibles en todos los modos, digamos que si pones en modo retrato (o paisaje), es que se supone eres "principiante" en la cámara y por tanto no te permitirá disparar en RAW (por ejemplo).
Si activas el modo AV, TV, Manual supongo te dejará, aunque claro... deberás saber bien todo el tema de apertura, velocidad, ISO, etc.
En cualquier caso eso debería explicarse en el manual de la cámara!!!
Y a la segunda pregunta, cual es mejor? pues en general se dispara utilizando todo el potencial de la cámara... con lo que la compresión debe ser la mínima y la cantidad de píxeles los mayores (ya sabes, ande o no ande caballo grande).
Sólo, en caso de no necesitar (porque la foto así lo requiera) se baja el tamaño de la captura. Si tengo que hacer fotos que van a ir a una web no utilizo los 20MP de la cámara. Si son fotos de los colegas disparo en JPEG en de en RAW, etc... pero evidentemente sabiendo siempre lo que se hace.