吳地文化從考古發現來看，已有上萬年的歷史。吳歌作為壹種文化現象，必然是伴隨著當地初民的生產勞動，祭祀習俗，和生活娛樂活動而發生發展的。作為壹種口頭文學，在沒有文字之前，很難尋覓它的遺跡。如今要想找到古代吳歌的真貌，尋找它的源頭，已經是壹件十分困難和復雜的事。
在晉以前“吳歌”壹詞，未見諸文字。在漢魏歌謠中也沒有吳歌之目。春秋戰國時代，有“吳歈”?“歈”又作“愉”，有人解釋，俞，是獨木舟，欠，是張口揚聲，合起來即是船夫唱的歌。?之說，見屈原的《楚辭·招魂》：“吳歈蔡謳，奏大呂些。”漢代王逸註：“吳、蔡，國名也。歈，謳，皆歌也。大呂，六律名也。”左思《吳都賦》雲：“荊艷、楚舞、吳愉、越吟，此皆南方之樂歌，為《詩三百篇》所未收者也。”那時把吳國人唱的歌曲統稱為吳聲歌曲。當時吳國的疆土領域常有變化。古吳國要從泰伯、仲雍建立句吳算起。因此有人說：“江南文化始泰伯，吳歌似海源金匱。”（無錫舊名金匱，梅裏有泰伯墓）此說法的根據是泰伯、仲雍從中原來到江南，把中原文化帶到荊蠻地區，江南文化才得以開發，因此吳歌發源於此。這個說法值得推敲，從考古發現長江文化的歷史，已推前到七千年到壹萬年，吳越地區的先民在人類歷史上最早創造了稻作文化，吳歌和稻作文化的關系非常密切，最早的歌謠總是伴隨著勞動產生和發展的，中原文化不可能代替當地的土著文化，反之，泰伯、仲雍到了江南，不入鄉隨俗，斷發紋身，也是無法生存的。當然，他們帶來了中原文化，對江南的影響也是很大的。如果說某壹首歌，是受了中原文化的影響， 是完全有可能的。但吳歌的源頭根本不可能是外來的。
還有壹種說法，吳歌來源於“越”，或者發於“南音”。這是因為有壹篇《越人歌》，或《越人擁楫歌》，見西漢末年劉向著《說苑·善說篇》，記載著春秋時期楚康王?公元前559－545?之子皙泛舟於新波之中，劉向曾照越國的原音記錄過壹首百越歌，文字無法看懂，譯成楚文，即：“今夕何夕兮搴洲中流，今日何日兮得與王子同舟。蒙羞被好兮不訾詬恥，心幾頑而不絕兮得知王子。山有木兮木有枝，心悅君兮君不知。”從內容來看，反映的是當時臣子取悅於王子的歌。這種上層社會吟唱的歌並不少見。吳吟的出典也是楚國使者陳軫，為討好秦王而“為王吳吟”，他唱些什麽內容沒有流傳。據《世說新語》記載，晉武帝曾問被擄的孫皓“聞南人好作《爾汝歌》，妳是否會唱﹖”孫皓即席應唱，歌詞是：昔與汝為鄰，今與汝為臣。上汝壹杯酒，令汝壽萬春。這顯然是用民歌曲調填詞的五言四句，接近民歌，但無吳語特色。
戰國吳越之爭的時代，吳國曾戰敗越國，越後來又滅了吳。吳、越兩國均在江南接土鄰境，“習俗同，言語通”，“同音***律”，因此吳愉越吟是基本相同的。楚破越後，吳、越之地大部分為楚所占，稱為“吳楚”或“荊吳”。因此，這段歷史時期的吳歌，很難用現存的區域劃分來說明。不是有人說“四面楚歌”，應當是“四面吳歌”嗎？雖然項羽的時代已非吳楚之時，但楚歌、吳歌也壹定不像我們劃分得如此清楚。
據有的專家學者引證，“春秋戰國時期的吳愉、越吟，是夏、商、西周時期南方夷蠻音樂聲歌'南音'的繼承和發展。”其主要根據是說虞夏時有南方塗山氏之女歌唱的“南音”，即古稱的《侯人歌》。劉勰《文心雕龍·樂府篇》列入最早的樂府歌曲，說：“塗山歌手《侯人》，始為南音。”此說來源於《呂氏春秋·音初篇》中引述的關於大禹的傳說記載。《侯人歌》的歌者塗山氏的故地尚不明，《野客叢書》說：“塗山有四，壹會稽、二渝州、三濠州、四當塗。”又壹說在九江，壹說在紹興，雖同屬江南，但是否屬吳愉、越吟之類尚存疑。
魏晉南北朝時期，吳地的中心是在建業（後稱建鄴、建康，即今南京），“蓋自永嘉渡江之後，下及梁、陳，鹹都建業，吳聲歌曲起於此也。”（《晉書·樂誌》）這時所指的吳聲歌曲，後來被人統稱之為“吳歌”。可以說吳歌當時即是吳聲歌曲的縮寫。吳聲歌曲初期的作者多屬無名氏，說明是在民間流傳中采錄的。吳歌在此之前見諸文字的很少，文學家和史學家都從樂府中找到吳歌的端倪。特別是《詩經》上的十三國風，只輯錄了北方的歌謠而沒有吳歌的記錄，吳聲歌曲補上了這壹空白，其價值很高。但對吳聲歌曲也要作具體分析；南朝樂府初期采錄了吳地歌謠，是徒歌，比較純樸，在《子夜歌》等吳聲歌曲中保留了這種素質，但當“徒歌“被以管弦，上了大雅之堂以後，許多文人紛紛仿作，成了上層社會的行樂之詞，這種吳聲歌曲和民歌（吳歌）已相距甚遠，但在文學史上卻壹直統稱為“吳歌”。
其實，歷史上文人記載的資料，僅僅是吳歌的“流”，溯流尋源，研究吳歌的流變，這些資料當然非常珍貴，但是要找尋吳歌的真正源頭，要靠紮實的田野作業，從勞動人民口口相傳，世代相襲的口頭文學中去尋覓，經過科學論證，才會有所發現。
迄今為止，我們發現的文字記錄，最早用吳語記錄的山歌，是唐末五代十國時吳越王錢鏐唱的壹首即興的山歌。這首山歌原載於宋吳僧文瑩《湘山野錄》，五四以後研究吳歌的先輩容肇祖先生，曾於1936年北大《歌謠》周刊第二卷第七期上，發表了《壹千年前的壹首吳音山歌》壹文，介紹了這首最早的吳音山歌，容先生引證《學海類編》本的《湘山野錄》，記下了這壹條的全文，如下：
開平元年（公元907年），梁太祖即位，封錢武肅（鏐）為吳越王。時有諷錢拒其命者。錢笑曰：“吾豈失為壹孫仲謀耶？”拜受之。改其鄉臨安縣為臨安衣錦軍。是年省塋壟，延故老，旌鉞鼓吹，振耀山谷。自昔遊釣之所，盡蒙以錦繡。或樹石，至有封官爵者。舊貿鹽肩擔，亦裁錦韜之。壹鄰媼，九十余，攜壺漿角黍迎於道。鏐下車亟拜。媼撫其背，猶以小字呼之，曰：“錢婆留，喜汝長成。”蓋初生時光怪滿室，父懼，將沈於丫溪矣。此媼酷留之，遂字焉。為牛酒大陳鄉飲，別張蜀錦為廣幄，以飲鄉婦。凡男女八十已上金樽，百歲已上玉樽。時黃發飲玉者尚不減十余人。鏐起，執爵於席，自唱還鄉歌以娛賓。曰：“三節還鄉兮掛錦衣，吳越壹王駟馬歸。臨安道上列旌旗，碧天明明兮愛日輝。父老遠近來相隨，家人鄉眷兮會時稀。鬥牛光起兮天無欺！”時父老雖聞歌進酒，都不之曉。武肅亦覺其歡意不甚浹洽。再酌酒，高揭吳喉，唱山歌以見意。詞曰：妳輩見儂底歡喜，別是壹般滋味子。永在我儂心子裏！歌闋，合聲賡贊，叫笑振席，歡感閭裏。今山民尚有能歌者。
這段筆記非常生動地描繪了壹千多年前，吳越王錢鏐衣錦還鄉到臨安（今杭州）的情景，他仿照漢高祖劉邦的《大風歌》，高興地唱起來，但鄉親們都聽不懂，不能盡興，於是他“高揭歌喉，唱山歌以見意”，山歌雖然只有三句歌詞，但卻是鄉音土語，立即引起***鳴，“叫笑振席，歡感閭裏”。從這三句歌詞來看，確實是全部用吳語記錄下來的山歌，加上註釋更加確切地反映出吳音的特點，使人感到非常親切。它比六朝吳聲歌曲記錄的吳歌，更加樸實、通俗，鄉土氣息特別濃厚。研究吳歌的學者們，把它作為用吳語演唱並完全用吳語記錄下來的第壹首吳歌。在顧頡剛先生七十年前寫的《吳歌小史》中，引用了它，關德棟先生在為馮夢龍的《山歌》作序時，也說它是“吳中山歌最初的記載”（見上海古籍出版社出版《明清民歌時調集》上）。原記述者的最後壹句話：“今山民尚有能歌者”，說明北宋時還有人能唱這首歌，關德棟先生進壹步引證南宋人袁耿《楓窗小牘》也敘及此事，其後並說：'至今狂童遊女，借為奔期問答之歌。'”可見此歌流傳久遠。並進壹步明確吳歌主要即是“山歌”，這就和馮夢龍時代收集的山歌，和現代流傳於廣大農村的山歌，壹脈相承。
歷史對民間文學是這樣的不公平，生長在田野裏的民歌，靠口口相傳，代代相襲，文字記載卻寥寥無幾。經過文人筆錄記載下來的民歌，又常常是被改造過了，其中不乏人民性很強的作品，但已非民間口頭文學的本來面目。
吳歌歷史源遠流長。傳說殷商末年，周太王之子泰伯從黃土高原來到江南水鄉，建了勾吳國並以歌為教，從那時算起，吳歌已有3200多年歷史。 《楚辭·招魂》即有“吳蔡謳，奏大呂些”的記載。宋代郭茂倩編《樂府詩集》時將吳歌編入《清商曲辭》的《吳聲曲》。明代馮夢龍采錄宋元到明中葉流傳在民間的大量吳歌，輯錄成《山歌》、《掛枝兒》。清代是長篇敘事吳歌的成熟繁榮時期，經書商刊刻、文人傳抄和民間藝人的口傳，保存了大量長篇敘事吳歌。
五四運動前後，北京大學發起了歌謠運動，《晨報副鐫》於1920年起連載吳歌，其後陸續編輯出版了《吳歌甲集》（顧頡剛）、《吳歌乙集》（王翼之）、《吳歌丙集》（王君綱）、《吳歌小史》（顧頡剛）等。20世紀80年代以來，又輯成《吳歌丁集》（顧頡剛輯、王煦華整理）、《吳歌戊集》（王煦華輯）、《吳歌己集》（林宗禮、錢佐元輯），大量吳歌得到搜集、整理和研究。特別是長篇敘事吳歌的發現、挖掘和中國民間文學三套集成歌謠卷的編纂出版，使大量的吳歌得到了搶救性的搜集和保存。
進入21世紀，有關部門又編輯出版了《白茆山歌集》、《蘆墟山歌集》、《吳歌遺產集粹》和《吳歌論壇》等幾百萬字的吳歌口述和研究資料。中國傳統民間文化是世界文化寶庫中的壹部分，吳歌如今也逐漸引起西方學者的重視。 作為吳歌的3個裏程碑，安·比雷爾的《漢代民歌》和《玉臺新詠》把南朝的吳聲歌曲譯成了英語，科奈莉亞·托普曼翻譯出版的馮夢龍的《山歌》把明代的吳歌譯成了德語，荷蘭學者施聶姐出版的《中國民歌和民歌手--江蘇南部的山歌》則研究和翻譯了部分現代吳歌。聯合國教科文組織中國傳統民歌保存情況考察團曾於1994年到蘇州、常熟考察吳歌的保存情況。這說明了中國傳統民間文化是世界文化寶庫中的壹部分。
在長期封建社會小農經濟的生活條件下，農村交通閉塞，農民生活貧困，文化生活非常貧乏，那時唱山歌就是他們唯壹的自娛形式，除了勞動場所外，夏天乘風涼，冬天圍爐取暖，以及農閑時逛廟會，都唱山歌以自娛，這不但可以自由地抒發胸臆，而且可以施展人們的創作才能，表現人們的聰明智慧，豐富人們的勞動生活知識。當然，對於青年男女來說，唱山歌會給他們帶來愛情的歡愉，或者成為婚姻的媒介。所以山歌成為農民生活中不可缺少的精神食糧和娛樂工具。有的歌鄉山歌代代相傳，培養出許多優秀的歌手。有的歌手常在賽歌會上通過對歌、賽歌，大顯身手，遠近聞名。有的歌手從小即在自己的親屬身邊學唱山歌，有超群的智慧和驚人的記憶力。過去家庭傳承是山歌傳承的主要方式。這樣便形成了農民自己的未經雕琢的自然形態的文化。它和其他文藝形式的最大區別，就在於它的口頭性、變異性、傳承性和自娛性和職業藝人有明顯的區別。這種文化現象和民俗事象，被稱為天籟之聲，生動地記錄了江南農民和下層人民的生活史，是十分珍貴的歷史資料，也是十分寶貴的民間文化遺產。
顧頡剛先生在他寫的《吳歌小史》中說道：所謂吳歌，便是流傳於這壹帶小兒女口中的民間歌曲。這壹帶，大致是指長江三角洲的吳語地區。由於歷史上歷代區域劃分不同，早期吳是吳國領域的概念，甚至包括現在的南京和揚州等地。現在所說的吳，是指吳語區，包括江蘇南部，浙江北部和上海市，即是江浙滬等地的同壹個吳語區語言文化圈，同屬傳統吳文化範疇。無錫恰在它的中心地位，它是壹座享譽古今中外的歷史文化名城，歷史上采集吳歌，也以它為中心，在中國文學史上占有壹定地位。