YYYYMMDDhhmm は実際には数字が入るんでしょうか・・（日付っぽいからという推測ですが）
以下参考になれば。
ファイル名のリスト取得は（ファイルがカレントディレクトリにあると仮定）
tmp = dir("*.XXXX")
filename = {tmp.name}
で。
YYYYMMDDhhmm.XXXX => YYMMDDhh.mm は、かっこ悪いですがとりあえず
newfilename = cellfun(@(x) [x(3:10), '.', x(11:12)], filename, 'UniformOutput', false)
で。文字列の 3文字目から10文字目、間に . を入れて、11文字目、12文字目を繋げています。
ファイル名の変更は movefile 関数が使えるかもしれません。
for k=1:length(filename)
movefile(filename{k}, newfilename{k});
end
