tableデータ型へのアクセスについてはこちらのドキュメントが参考になると思います。
x(1,1)では出力タイプが「指定した行と変数を含む table」になってしまいます。
出力タイプが「1 つの変数と指定した行からデータを抽出する配列」になるように、
T.var(rows)またはT.(expression)(rows)でアクセスすると良いので、x.name(1)またはx.(1)(1)にしてみたら実現できると思います。
x=readtable("Book1.xlsx")
a = x.name(1)
append(a, "test")
a2 = x.(1)(1)
append(a2, "test")
