RGB2INDでRGBデータをインデックス付きデータに変更し、IMWRITEの'WriteMode'を'append'にすることでアニメーションGIFを作成することができます。
Z = peaks;
surf(Z)
axis tight
set(gca,'nextplot','replacechildren');
for k = 1:20
surf(sin(2*pi*k/20)*Z,Z)
F = getframe;
% RGBデータをインデックス付きデータに変更
[X,map] = rgb2ind(F.cdata,256);
if k==1
% GIFファイルに書き出し
imwrite(X,map,'output.gif')
else
% 2回目以降は'append'でアニメーションを作成
imwrite(X,map,'output.gif','WriteMode','append')
end
end