Ideen hätte ich schon diverse, allerdings scheitern die jeweils an nicht vorhandenen Informationen bzw. Unklarheiten zwischen Beschreibung und gezeigtem Beispiel.
Zum einen redest du von einem Quadrat - dein Bild zeigt aber Rechtecke.
Zudem ist nicht klar, wie du diesen Passepartoutrahmen definieren möchtest. Diesen von Hand aufzuziehen, setzt eine gewisse Präzision vorraus. Zudem ist nicht klar, wo dann dieser Rahmen erscheinen soll - innerhalb des aufgezogenen Bereiches oder außerhalb?
Die größte Hürde dürfte allerdings deine Angabe von 9pt sein. Photoshop arbeitet intern weitestgehend in px- oder Prozentwerten (was bei einer aufgezeichneten Aktion in der Regel dafür führt, dass andere Einheiten (pt/cm/mm/zoll/etc.) als px-Werte gespeichert werden.
Mit Sicherheit könnte man das ganze mit einem Script lösen - die fallen aber nicht (mehr einfach so) vom Himmel. Wenn das Problem mit dem pt-Wert nicht wäre, könnte man vermutlich eine einfache Aktion verwenden (z.B. über ein Smartobjekt im Smartobjekt im Smartobjekt im Smartobjekt, das jeweils einen separaten "abgeflachte Kanten und Relief"-Effekt für jeweils eine der Seiten enthält.
Nicht 100% präzise, weil der Effekt schon seit je her falsch rechnet.
Alternativ könnte man mit 4 einzelnen trapezförmigen Formen arbeiten. Das hätte den Vorteil, dass man immer präzise Kanten hätte, aber auch den Nachteil, dass man nicht einfach bestimmen kann, wie lang die einzelenen Seiten werden sollen, sondern müsste die entsprechenden Ankerpunkte via Direktauswahlwerkzeug seitenweise auswählen und verschieben (siehe Beispiel).