Pessoal, desde já obrigado pelas respostas.
Então a potência dissipada, principalmente no resistor de polarização do zener, esta um pouco alta sim e inclusive tive que usar resistores de 1w em paralelo (sei que esta ruim. rsrs), porém o 317 teoricamente deveria aguentar o ESP8266 sem problemas, inclusive já vi alguns circuitos utilizando ele mas sempre com tensão de entrada mais baixas por isso me veio a ideia de utilizar o zener para limitar a tensão na entrada. O que de fato esta me deixando intrigado é que com o circuito aberto ele regula a tensão sem problemas variando de 36V a 65V a saída se mantem em 3,3V, esquentando um pouco mas nada que faça nada torrar. O problema acontece quando ligo o ESP8266, aie da uma queda de tensão que leva a tensão na saída pra aproximadamente 1,2V.
A primeira impressão que tive, e na verdade ainda não descartei, é que a fonte não esta com corrente suficiente pra atender o circuito mas na "plaquinha" da mesma diz que ela vai até 600mA. Eu não tenho experiência com fontes de alimentação, na verdade essa é a primeira vez que tenho que alimentar um ckt com essas tensões altas e sinceramente estou meio perdido. Será que esse problema de potencia alta é o problema de fato, se for alguém tem alguma sugestão para resolver?