O problema pode ser sua GPU/Aceleradora Gráfica.
Tente desabilitar "Usar processador gráfico" em Editar >> Preferências >> Desempenho e tente utilizar o filtro novamente. Vai ficar bem lento, mas vai funcionar. Se essa solução funcionar, quer dizer que sua placa de vídeo não é (totalmente) compatível com a versão do PS que estiver utilizando.
Isto pode ocorrer com PS mais novos e não com mais antigos, tendo em vista que as versões mais novas do PS exigem placas de vídeo e drivers mais novos.
Outra possibilidade (que pode funcionar) é atualizar seu driver da placa de vídeo. Às vezes uma placa de vídeo que não oferecia suporte ao PS, com a atualização dos drivers, passa a ser compatível e funcionar corretamente com o PS. Não custa tentar!!!