우선 아래의 문서가 원인을 파악하는데 도움이 될 것 같습니다.
<Why do I get an extract error while installing MATLAB?>
위 문서의 마지막 원인을 보면, 말씀하신 내용으로 미루어 짐작컨데, 임시로 생성해야하는 파일을 압축 해제할 용량이 부족한 것으로 보입니다.
이 원인이 맞다면 아래의 또 다른 문서를 통해 temp directory를 변경하는 방법을 익히시고, 이후 새롭게 인스톨 시도해보시는 것을 추천드립니다.
<How can I change the temp directory the MATLAB installer uses?>
