mira podrias combinar este tutorial para crear marcos
viewtopic.php?f=92&t=22709y luego haces lo que te indico aka..
aclaro que este tuto es para crear "textos" de fuego pero lo puedes adaptar con el marco.
-----------------------------------------
Presionas Crtl + T y elegimos rotar 90º ACD. y el texto queda de esta manera (en tu caso seria el marco)

Ahora te diriges a la opción Filtro/Estilizar/Viento, el método debe estar en viento y la dirección desde la derecha, aceptas y presionas Crtl + F de 2 a 4 veces según el tamaño que desees sea la llama del fuego.

Nuevamente presionas Crtl + T y rotas el texto (en tu caso marco) 90ª AC y vuelve a su posición original
Ahora te diriges hacia la opción Filtro/Distorsionar/Rizo, grande 40
Luego vas a Filtro/Desenfocar/Desenfoque Gaussiano, radio 1,5 píxeles

Ahora vas a Imagen/Modo/ColorIndexado
Volves a Imagen/Modo/TablaDeColores, escoges la opcion Cuerpo negro y aceptas

Y bueno ya tenes listo el efecto y en el texto debiera quedar asi:

imagino que si combinas bien ambos tutoriales y lo haces bien, el marco debiera quedarte algo similar, si no es asi, haria un tutorial exclusivo para ver la creacion de un marco al estilo de fuego
PD: no lo e probado, re100 lo improvise esta combinacion de tutoriales, no tengo photoshop en estas instalaciones como para pdoer probarlo, asi que si lo pruebas y te funciona te agradeceria que me lo hisieras saber, y si no te funciona igual quisiera saberlo

jajja