歇後語早於三國時已出現，例如曹植《求通親表》︰「友于同憂」可說是歇後語的前身。由於《尚書》有「友于兄弟」一句，所以友于代表兄弟。
宋元時代，戲曲中開始出現大量與今天形式差不多的歇後語，例如︰ 《五燈會元》︰泥牛入海=永無消息、無影無蹤 《尋親記》︰買乾魚放生=不知死活 (1) 歇後語的地域性 廣東有一句歇後語︰「沙灣燈籠」。沙灣是番禺縣的一個地方，大部分人都是姓何，他們掛燈籠時燈籠上會有一個何字，所以沙灣燈籠=何府(苦)。如果不是廣東人，不會知道這句歇後語是什麼意思。 (2) 歇後語的時間性 50年代香港有一句十分流行的歇後語︰「新澤西」，意思是「食水深」。 50年代，美國一艘名為「新澤西」號的主力艦訪問香港。由於戰艦很大，排水量很厲害，所以沒法駛入香港的海港，只能停在鯉魚門外面。後來，由於這件事沒有新聞價值，所以人們漸漸忘記這句歇後語的意思。
