Instrument Control Toolbox で16進数の値を送受信する場合は FWRITE/FREAD 関数をご利用ください。FWRITE ではバイナリデータを扱うことが可能です。
s = serial('COM1');
fopen(s);
%%データ定義
txdata = ['01';'E8';'C3';'00';'B2';'F9';'76'];
%10進数へ変換
txdata_dec = hex2dec(txdata);
%Uint8で送信
fwrite(s,tcdata_dec,'uint8');
%データを受信
rxdata_dec = fread(s);
%16進数へ変換
rxdata = dec2hex(rcdata_dec)
fclose(s)
delete(s)
clear s