超松弛叠代法的分量表達式如下：
M*X = b,M是方陣,X0是初始解向量,epsilon是控制精度,omiga是松弛因子。
D. M. Young於20世紀70年代提出逐次超松弛(Successive Over Relaxation)叠代法，簡稱SOR方法，是壹種經典的叠代算法。它是為了解決大規模系統的線性等式提出來的，在GS法基礎上為提高收斂速度，采用加權平均而得到的新算法。
由於超松弛叠代法公式簡單，編制程序容易，很多工程學、計算數學中都會應用超松弛叠代方法。使用超松弛叠代法的關鍵在於選取合適的松弛因子，如果松弛因子選取合適，則會大大縮短計算時間。
為解決實際問題中大維數線性代數方程組的求解問題，提出了許多叠代法。但大多數叠代法不是對各類線性方程組都有收斂性。在解題時，對原方程組矩陣作壹根本的變換，從而可能使條件數變壞，也可能破壞了變換前後方程組的等價性，以及喪失使原方程組的對稱性等。通過對GS法進行改進，從而產生了逐次超松弛(SOR)叠代法。
SOR方法的思路為：如果能夠簡單有效地確定單個樣本加入樣本集後對訓練結果的影響，壹方面，出現新的樣本時可以利用原來的壹訓練結果而不必重新開始；另壹方面，讓訓練樣本逐個進入樣本集可以簡化尋優過程，提高算法速度。這實際上是將樣本集中的樣本數減少到壹個。