Moin,
Unscharf Maskieren verstärkt den Kontrast an Farbkanten, um so den Eindruck einer Schärfung zu vermitteln. Die Werte hängen in erster Linie von der Unschärfe des Bildes ab, aber natürlich auch von den bereits bestehenden Kontrasten im Bild selbst.
Um sich einen Eindruck von der Funktionsweise der einzelnen Regler machen zu können, finde ich diese Beispieldatei recht hilfreich:
Teste auf dieses Bild mal unterschiedliche Einstellungen der Regler, insbesondere auch extreme Einstellungen der beiden oberen Regler.
Der Ebenen-Füllmodus ist ein ganz anderes Thema, auch wenn er natürlich auch beim Thema Schärfen seine Anwendung finden kann. Wichtig wäre hier vor allem, die Unterschiede der drei Gruppen "Multiplizieren", "Negativ Multiplizieren" und "Ineinanderkopieren" zu verstehen. Eine Hilfe dazu wäre z.B. dieses Vorgehen:
Nimm dir ein beliebiges (Farb-)Foto und lege in einer neuen Ebene einen Schwarz-Weiß-Verlauf darüber. Nun teste die drei oben genannten Füllmodi und beobachte, was jeweils passiert:
Einmal ist Weiß die neutrale Farbe und der Modus dunkelt ab,
einmal ist Schwarz die neutrale Farbe und der Modus hellt auf und
Einmal ist Grau die neutrale Farbe und der Modus verstärkt den Kontrast.