八步区贺街镇地处湘、粤、桂边境余脉地区，素有“三省通衢”之称，贺街镇古时称临贺、贺州、贺县，自西汉置县以来，先后为临贺郡、临庆国、贺州、贺县，至1952年县城迁往八步，更名为贺城、贺街止，始终为郡州、县治所在地，在经13个朝代，前后2100多年历史。从秦汉至明清，汉、壮、瑶、苗等民族大量迁入贺县。使八步区成为多民族聚居县，给贺街注入新的文化内容。
相传唐代初期，贺街浮山附近的大鸭村的陈秀才赴京城赶考，因家境贫寒，且为人正直，不肯贿赂考官，屡试不第，愤而返乡在浮山隐居，常常临江垂钓，与渔家女对歌合乐，并免费为乡亲们摆渡，逝后，人们在浮山立陈候祠，钓鱼台、对歌楼以示纪念，在陈秀才生辰及忌日，八方乡亲云集浮山对歌，衍成盛大的歌节。浮山歌节发源于唐宋时期，成型于元明时期，至清末发展成熟，是八步区山歌文化的典型代表，浮山歌节民俗既有中原汉族文化的元素，又兼之壮、瑶等民族文化的印记，具有悠久的历史渊源。浮山歌节民俗文化融庙会游神、宗教崇拜、民歌、民间八音、传统戏曲等多民族民俗民间文化艺术于一体，具有浓郁的生活气息，形成自身独特的艺术风格与特点。
浮山有两个传统的节日：一是农历四月二十六的浮山庙炮期，二是农历五月十九的歌节。
农历四月二十六的浮山庙炮期，相传为“陈王”的生日，庙会活动就是围绕他进行。
传统活动有陈王像出游、唱山歌、舞龙、舞狮、本地采茶戏演出等，庙会前夕，贺街镇河东街群众就到河东的陈候行祠请出陈王像，放到望江楼，大唱本地山歌藉以娱神。在望江楼歌罢，还要抬陈王像到河西供奉唐代军事家卫国公李靖的北府祠住一宿，因陈王生前与李靖为至交好友，让两人同宿一偏私，再叙旧谊。次日庙会正日辰时，请出李靖与陈王塑像一道巡游，先绕城一周，再浩浩荡荡到浮山陈王祠祭祀，游行时队伍周围鞭炮声、八音乐声、山歌声，尤为热闹，祭毕，龙狮起舞，戏台开锣，歌节开台，四周山歌不绝于耳。至农历五月十九，是又一次浮山庙会，传说这一天是陈王爷的忌日，因他生前是远近闻名的歌师，所以这一天的庙会除了传统的祭祀活动，主要以八方歌手在浮山对歌为主，以表怀念。
浮山歌节中歌手演唱形式多样，其中以擂台赛歌最具特色，擂主由上一届优胜者担任，擂主站在高台上主唱，攻擂者也在主歌台对面摆一歌台与之抗衡。对歌时，无固定歌词，攻擂者唱什么，擂主就答什么，斗智斗勇。双方歌伴既是帮腔者，又是啦啦队，气氛热烈，一直唱到有一方认输为止，常常是一天唱罢，不分胜负，夜晚挑灯夜战，唱至天明，定要分出胜负。
除了擂台赛歌外，还有群体啸歌、男女情歌对唱、个人自由放歌等多种形式，浮山码头、沧浪亭中群体啸歌，一人领众人和，气氛热烈，直抒胸臆。歌节当日，浮山四周是歌场，上下是歌台，整个一片歌的海洋。浮山歌节习俗于2010年五月评为自治区级非物质文化遗产代表性项目名录，贺街镇也被评为自治区级“中国民间文化艺术之乡。
浮山歌节是八步区汉族与壮、瑶等少数民族共同的节日。每逢歌节，周边乡镇及广东封开县、怀集县，湖南江华瑶族自治县等歌手齐相会。歌节中，各种曲调的民歌此起彼伏，有贺街镇本地民歌“哩嗬嘿”“连山调”，莲塘、贺街、黄洞等地的客家山歌“叮咚叮”“扯咚扯”，瑶族民歌“过山音”等各种曲调交织在一起，令人赏心悦耳，流连忘返。除传统民俗陈王出游、本地采茶戏等表演外，还会有客家民间绝技“上刀山”、狮舞队等民间艺术团前来祝贺表演，每次歌节参与群众少则一两万人，多则四五万人，人民群众欢聚一堂，歌唱美好生活，其盛况闻名遐迩。
浮山歌节发展主要经历了三个阶段：
(一)萌芽期。唐宋时期至宋元时期，民间多在农历四月至五月前后，相互放歌娱神，自发组织对歌活动。
(二)成型期。明清时期至新中国成立以前，浮山对歌逐渐形成节日习俗，并融合陈王信仰于一体。
(三)成熟期。新中国成立后，在党和政府的关心支持下，浮山的节日习俗走上正轨，浮山寺、陈王祠保护建立完善，歌节形成每年两次，民众参与人数达数万人，改革开放以来，浮山歌节也有了较大发展，确立了浮山寺为省级文物保护单位，成立了浮山歌节理事会，负责浮山寺、陈王祠等历史建筑的管理和传承人的培养。
近年来，越来越多社会各界人士积极参与到浮山歌节活动中来，形成了政府主导、社会各界人士共同策划、群众积极参与的浓厚氛围。