残念ながら、open 関数は MATLAB Compiler ではサポートされていません。
(参考)MATLAB Compiler と MATLAB Compiler SDK でのコンパイルでサポートされていない関数
https://jp.mathworks.com/help/compiler/unsupported-functions.html
open 関数の代わりに、winopen 関数をご利用ください。
>> winopen('USER_MANUAL.pdf')
winopen 関数は、ファイルの拡張子に関連付けられたアプリケーションでファイルを開くことが可能です。
・winopen 関数
なお、アプリケーションコンパイラ(deploytool) でパッケージ化する際には、[アプリケーションの実行に必要なファイル]に PDF を手動で追加してください。