這首《知道不知道》的原始素材叫《崖畔上開花》，它是壹首通過陜北地區的信天遊改編的歌曲。這首歌最早出現在1951年的電影《陜北牧歌》中，是壹首男女對唱的歌曲。由著名作曲家劉熾編曲，孫謙作詞。真正讓這個旋律家喻戶曉的的就是奚秀蘭，這位"小調天後"重新演繹了《崖畔上開花》，並將歌名改為《知道不知道》，由於歌曲的第壹句歌詞是“山青水秀太陽高”，因此很多人也把這首歌稱作《山青水秀》。
經過奚秀蘭的翻唱，《知道不知道》正式成為膾炙人口的歌曲，後來陸續有鄧麗君、韓保儀、李玲玉等翻唱過這首歌，也先後出現了弦樂版及各種樂器演奏的版本。