状況はわかりかねますが
容易に真値が計算できるような有名角と きれいな有理数になるような長さのセグメントを 手計算で得ることができますか？
つまり絶対に正しい答え（計算機の数値計算誤差が無い状況） を準備します。
#1. それを使って、シミュレーションした場合同じエラーが出るか確認します。
#2. もし、エラーが出ないならば、solve関数で同じ計算をして手計算と
同じ結果が出るか確かめます。
#3. 同じ結果で無いなら、solve関数の使い方が正しくありません。
#4. 同じ結果なら、SimMechanicsモデルの作り方にどこか問題があります。
まず、このように問題箇所を切り分けるとよいかと思います。
