有一种传说，早在周初，有一位匡俗先生，在庐山学道求仙。据说匡俗字君孝，有的书称匡裕，字子孝，也有称为匡续的。从中国传统的名与字的联义看，其名为裕，是较为合理的，俗字是误传，俗、续二字罔音，也是传闻之悦。但现在普遍流传的名字是称他匡俗，匡裕很少有人知道了。为了方便，这里依照人们熟悉的称呼。此外，还有称匡俗为庐俗，这种传说乃是因名山而臆想其人，以地名为氏，以氏为姓，倒还符合古代的惯例。至于他确切的姓氏，自然毋庸予以追究，要追究也无从着手。据说，匡俗在庐山寻道求仙的事迹，为朝廷所获悉。于是，周天子屡次请他出山相助，匡俗也屡次回避，潜入深山之中。后来，匡俗其人无影无踪。有人说他成仙去了，这自然是无稽之谈。后来人们美化这件事把匡俗求仙的地方称为“神仙之庐”。并说庐山这一名称，就是这样出现的。因为“成仙”的人姓匡，所以又称匡山，或称为匡庐。到了宋朝，为了避宋太祖赵匡胤脱匡字的讳，而改称康山。
另一种传说，在周武王时候，有一位方辅先生。同老子李耳一道， 骑着白色驴子，入山炼丹，二人也都“得道成仙”，山上只留下一座空庐。人们把这座“人去庐存”的山，称为庐山。“成仙”的先生名辅，所以又称为辅山。但是老子与武王并不同时，这同样是神话故事。
第三种传说，仍然是匡俗先生的故事，但时间较晚，情节也有些不同。说是匡俗的父亲东野王，曾经同都阳令吴芮一道，辅佐刘邦平定天下，东野王不幸中途牺牲。朝廷为了表彰他的功勋，封东野王的儿子匡俗于邬阳，号越庐君。越庐君匡俗，有兄弟七人，爱好道术，都到都阳湖边大山里学道求仙。这座越庐君兄弟们学道求仙的山，被人们称为庐山。
庐山神秘飘渺的云雾和人迹罕至的密林古洞，为这些神话传说增加了魅力。不过，上述神仙方土，都没有在庐山留下多少遗迹和诗文，讲不出一个系统的故事，唯有“八洞神仙”之一的吕洞宾，在庐山和九江有较多的遗迹和一些诗文。
宋人白玉蟾在《授墨堂记》中说：吕洞宾在游历庐山时遇上了“八仙”中的汉钟离，授给吕洞宾丹诀，后来两人一起成“仙”。《庐山志》也记载：唐咸通年间（860—874），吕洞宾在漫游江湖过庐山，遇五龙真君传授他剑术。吕洞宾既得五龙君剑术和汉钟离丹诀，便在庐山锦绣峰下的仙人洞内精心修炼。至今，仙人洞内的神龛里，仍奉有身佩宝剑，仙风道骨的吕洞宾塑像。
《九江府志》记载吕洞宾当过浔阳县令。民间相传：庐山有两个妖精善使双剑，剑峰指向浔阳城，城内瘟疫流行。吕洞宾征服了这两个妖怪，将妖怪的宝剑收藏在一个宝匣中。妖孽既除，民可安生。吕洞宾亲手写了一个三尺多高的“寿”字，赠给九江人民，祝愿九江人民多福多寿呢。
《庐山志》收录了吕洞宾咏庐山诗两首：
书归宗寺楼壁：一日清闲自在仙，六神和合报平安。丹田有宝休寻道，对境无心莫问禅。
书蒋晖之门： 宴罢高歌海上山，月瓢盛露浴金丹。夜深鹤透秋云碧，万里西风一剑寒。
还有一个传说，更为玄妙。庐山太平宫住着一位姓胡的道士。有一天一个自称“回道人” 的道士路过太平宫，此人仪表堂堂，穿着讲究，很有几分“气宇昂昂，风神奕奕”的样子，但是，宫中却没有人理睬他，只有胡道士用一杯茶招待了他，两人边喝茶边谈笑起来。一会儿，“回道人”用手指指胸口，向胡道士讨酒喝，胡道士拿出一壶酒，他一口气喝了一百多杯还嫌不够，从清晨喝到傍晚仍毫无醉意，并邀请胡道士再到他的住处去喝，胡道士说天色已晚，便婉言谢绝了。
数年之后，一个衣衫槛楼，蓬头垢面，自称“大宋客”的人又来找胡道士。这个“大宋客”肩上扛着两个大酒坛，说是他的行李，他将坛子往地上一倒，尽是黄金、白银，他取出其中的一点碎银子, 买了酒便与胡道士一起喝起来，一直喝到日头偏西。这个“大宋客”便用刀撮了一些土，倒上剩下的酒，一搅拌成了墨，用手去打它还会发出铮铮的响声。这时，胡道士已经喝醉了睡在床上，“大宋客”拂袖而去。“大宋客”走后，这个房间一天都是异香弥漫，“大宋客”留下的那把刀也是金光灿灿，人们都争着要买它。胡道士醒来后，看见墨便来吃，吃了一半，精神一振，老病全消，直到七十多岁时，还颜面如春，好似少年一般，连酒量都不减当年。
吉公网安备22012202000031号