状態遷移はなるべく単純にすべきですが、電話屋さん等「大規模複雑なステートマシン」となる特徴を持つシステムはあります。そのような場合は状態遷移表が有用で、より分かり易い表現方法と言えます。
>そこで、状態数の多い状態遷移表の最適なモデル化の構造を教えていただければ幸いです。
状態遷移表を階層的にしたり、表の中に中間処理まで明示するなどの工夫で効率的な設計を目指す手法があります。Stateflowとは別のCASEツール「ZIPC」製作元の会社では上記手法を「拡張階層化状態遷移表(EHSTM:Extended Hierarchy State Transition Matrix)設計手法」として提唱しています。
StateflowもEHSTMで設計するのに十分な仕様を有しています(表の内部に中間処理をグラフィカルに表示する機能こそありませんが)。またメインの状態遷移図はもちろん充実しており、私はいつもStateflowで状態遷移図と状態遷移表を両方表示してStateflowを使います。
>大規模な状態遷移表を記述すると、動作が重くなるなどの問題点...
私も経験がありますが、Stateflowで遅くなるのは画面表示です。一度に大量の項目を表示すると動作が重くなるのはどのCASEツールにも言える事だと思います。全体表示すると小さくて読めなくなる様な表は避け、状態の階層化やグループ化を検討すべきです。