二者的主要區別：
1、費用方面
Octave是完全免費的（並且是開源的），而Matlab是商業軟件，價格很昂貴（當然，這在當前國情下不是問題）。商業版的優勢是有非常完善的服務，即使沒有購買正版，也可以在MathWorks官方網站上獲得很多非常有價值的資源。
2、占用空間
Octave比較小，安裝程序只有幾十兆；而Matlab非常龐大，最新版的安裝程序大約8G，即使只安裝最基本的系統，至少也要幾百兆以上。Matlab之所以那麽龐大，是因為有大量的面向各種應用領域的工具箱，Octave無法相比的。
3、語法方面
Octave最初便是模仿Matlab而設計，語法基本上與Matlab壹致，嚴謹編寫的代碼應同時可在Matlab及Octave運行，但也有很多細節上差別。壹些軟件開發小組也使用兩者兼容的語法，直接開發可以同時在Matlab和Octave使用的程序。
有個說法，Matlab程序95%多（不含特殊工具包）的應該可以直接在Octave上運行，因為Octave讓人把較大差別報到Bugs上去並相應改進，但Octave中引入了壹些其它語法符號，如字符串""，註釋#（unix風格）等，所以如果完全按Octave寫的程序在Matlab裏是會出問題的。
4、繪圖方面
Octave的畫圖後臺是強大的Gnuplot，有人認為絕對不會弱於Matlab，而且輸出格式要遠多於Matlab，公式顯示也要強大很多。但也有人說Octave繪圖速度比Matlab慢。
5、用戶界面
Matlab經過那麽多年的發展，而且又是商業軟件，這方面肯定更勝壹籌。以前Octave沒有調試程序的GUI，現在據說已經有了，但應該比不上Matlab。
查閱了不少資料，大致上總結這些，希望對題主有幫助。總的說起來，如果會用Matlab，除非考慮到版權方面的因素，或者無法忍受Matlab的龐大，否則，似乎沒有特別的必要去學習Octave。