麻將本名應是「抹將」，抹的是水滸傳的108個好漢。相傳元末明初有個名叫萬秉迢的人，非常推崇施耐庵筆下的梁山好漢，欲將水滸傳的故事讓達官貴人也知水滸故事，進而愛民護民遂發明麻將，將水滸英雄融入這個遊戲中。麻將以108張為基數，分別隱喻108條好漢。如牌中九條喻為「九條龍」史進，二條喻為「雙鞭」呼延灼，壹餅喻為「黑旋風」李逵。
之所以分為萬、餅、條三類，是取其本人姓名的諧音。每類從壹到九各有四張牌，剛好108張。108條又是從四面八方匯聚梁山，所以加上東、西、南、北、中午個方為各掭四張牌計20張。這些好漢有富貴貧窮各階層，所以再加上「發」、「白」隱喻富有及窮白，加上八張牌，整副牌***計136張。
後來又加上各種花牌，整副牌***計144張。另有壹種民間趣話，打麻將用四方桌既是東西南北四個方位，也是指春夏秋冬四季，每人十三張牌，因為壹季有十三個星期。四季合五十二周，***三百六十四天，加上贏了時的那壹張，代表壹年最後壹天***三百六十五天，恰好壹年。這也是另壹種趣話。
由來二
麻將起源於護糧倉，麻將牌起源江蘇太倉，這是蘇州雜文作家"谷新之"研究得出的結論。
太倉在古時是皇家糧倉，倉內常年囤積稻谷，以供「南糧北運」。糧倉既設，雀患便生。守倉兵丁以捕雀取樂，倉官變鼓勵為獎勵,發給竹制籌牌記數酬勞。這籌牌上刻有字，可用來作遊戲的工具；這牌子又是賞錢，有證券價值，於是便可以用來作輸贏。這種遊戲流傳下來，演變定型，便成了麻雀牌,即今天的麻將。其玩法，術語等都與捕捉麻雀有關。
譬如筒、索、萬。筒的圖案是火槍的象形符號(截面圖)。幾筒表示幾具火槍。索即束，是細束捆串起來的鳥雀,所以壹索圖案的是鳥,二索上像竹節，表示鳥雀的腳，官吏驗收時以鳥足計數，兵丁將鳥雀集合成「束」。萬，即賞錢。
另外，東、西、南、北為風向,土槍無力，發射時要考慮風?。中，即打中，故塗紅色。白，即白板，打空槍之謂。發，即得賞發財。「碰」，
即「砰」，槍聲。成牌之「胡」，實為「鶻」；屬鷹的壹種，有高強的捕鳥本領，有了鶻就不愁抓不到麻雀，故每局牌勝皆曰「鶻」。除此，麻將中的「吃」，「杠」等術語幾乎都要與捕捉麻雀聯系起來。
那麼，麻雀牌又怎麼叫作「麻將牌」呢?原來太倉方言的「鳥雀」就叫作「麻將」，「打鳥」或者「打麻雀」統稱「打麻將」，故麻雀牌也叫「麻將牌」。
由來三
我國最早有關麻將的計載，是宋朝楊大年著的「麻將經」。其中的內容和現今的麻將差不多。麻將發展到了清朝，沒有「壹鳥」（壹索），並且七個字是「公」、「侯」、「將」、「相」、「文」、「武」、「百」，清廷懷疑這七字和反清復明有關，於是下令禁之。到了道光年間，秀才陳實門坐他哥的船四處遊歷，船上的船員無聊聚賭，陳實門日日觀之，於是起了改進賭具的念頭，船行時風向時常改變，於是他把公侯將相改成東南西北風，當時船在各處交易的貨幣制度是，十筒相當於壹索，十索相當於壹萬。其中「筒」即是中間有洞的銅幣，索就是把壹堆銅幣串起。於是他將這些用在麻將上，但壹索和二索極易混淆，某日他看到了船上養的鳥，靈機壹動將壹索改成「鳥」。麻將至此已大致成形，但文武百這三字要改成什麼呢？陳實門為此傷透了腦筋。有壹次船員在下棋時用炮將軍對方，說道「吾炮百發百中也」。陳實門聽了就將文武百取百發百中之中發百改為中發白替之，這就是我們今日的麻將了。