後半のご質問は、atan2d 関数を使うことで解決できます。ただし -180 ~ +180 度の値を返すので、これを 0 ~ 360 度に変換する必要があります。たとえば以下のようなやり方はいかがでしょうか?
% 例として、x軸とベクトル (x,y) = (1,1) のなす角度 (=45度) を求めます
x = 1;
y = 1;
theta = mod(atan2d(y,x)+360,360);
結果は以下のようになります。
>> theta
theta =
45
さて前半のご質問ですが、あいにく文面から内容を十分把握できませんでした。お手数ですが、ご質問内容の詳細を教えてもらえないでしょうか?