テーブル(UITableオブジェクト)の RowNames プロパティの表示は、仕様上、実際にデータ(Data プロパティ)に値がある場合にのみ、表示されます。
例えば、
app.UITable.Data = cell(4,5); % 空のセル配列を Data に追加
のように Data プロパティに値を与えると、行の名前が表示されることを確認できます。
あらかじめ、テーブルの行名を表示させたい場合は、上記のような、空の値を持つセルやテーブル配列をStartupFcn コールバックなどで与える方法をご検討ください。