以下のような図になっているという認識で間違いありませんでしょうか。
h_f = figure;
h_plot = plot(rand(5,5), 'o');
h_ax = h_f.Children;
h_f.PaperPosition(3:4) = 0.1;
h_ax.Position(3:4) = 1;
以下のページの回答欄の図にもありますように、Figure の OuterPosition プロパティの中に axes の Position プロパティが入っています。そのため、PaperPosition のサイズは Position のサイズより大きい必要があります。axes の Position を調節してみてはいかがでしょうか。
- 参考: Adjusting size of plot in Matlab so that graph does not get cut off by edge of plot window
