A1がファイル名だとして、たとえば「abc.123.txt」というファイル名なら、
=CLEAN(RIGHT(SUBSTITUTE(A1,".",REPT(CHAR(9),100)),100))
と入れてやれば「txt」と返ってきます。「.」の前までを取って来る作りなので、
=CLEAN(RIGHT(SUBSTITUTE(A1,"/",REPT(CHAR(9),100)),100))