Wenn du auf Pfadkontur füllen klickst kommt erst mal ein Fenster in dem du das Werkzeug auswählen kannst mit dem gefüllt werden soll. Bei deinem Screenshot sieht es so aus als ob du dort "Buntstift" eingestellt hast, der Buntstift hat nämlich eine sehr harte Kante was zu solchen Pixeltreppen am Rand führt.
Stell dort mal auf "Pinsel" um, selbst bei einem Pinsel mit 100% Härte werden die Außenkanten dann noch geglättet.
Vorher das Pinselwerkzeug auf einen der runden Standardpinsel von PS einstellen, wenn du z.B. einen 4ekigenpinsel eingestellt hast kann es sein das dieser auch keine Kantenglättung hat und es kommt dann auch zu diesen Treppenstufen am Rand.
Sollte dir die Kannte dann immer noch zu hart sein kannst du die Härte des Pinsels kleiner stellen was zu einem größeren weichen Rand führt.
Siehe Bild
PS.
Auf deinem Screenshot ist zu sehen das du den Zoomfactor des Bild auf 80,79% stehen hast.
Wenn du Screenshots macht dann stelle den Zoom bitte auf 100%, bei allen andern Zoomstufen kann es zu Darstellungsfehlern in PS kommen.