济南药市会在清初就已经兴起，是全国三大药市会之一，规模比河北祁州(今安国)、河南禹州(今禹县)略小。
旧时，济南趵突泉南门偏西有药王庙，传说夏历四月二十八日是药王生日，每年这天，药商、药农和民众多到药王庙祭祀，庙内主持雇戏班演戏，观者如堵，药商、药农便携各种中草药和中成药来此出售，其他商人也携各种商品来此交易，买卖者多达上万人，
药市会最早是庙会，其历史可追溯至明代。
明朝万历年间山东布政使孙方伯说起，据说孙方伯的身体不太好，时不时地就会病上一场。但是吃上药，病就好了，于是他便犯了迷信，想要修一座药王庙，把历史上的药王和名医都供奉起来，以此来保佑自己平安健康，也为百姓祛病求安。“万历四十三年，孙方伯在趵突泉前选了一块空地，拿出自己的俸禄，修建起了一座药王庙。修好后，他还专门请了当时济南非常著名的文人刘敕，写了药王庙记。”
从刘敕的记载中可知，药王庙的正殿祭祀的主神是神农氏，左右配的是岐伯和韦药王；两廊塑的是古代十大名医—雷公、秦越人、长桑君、淳于意、张仲景、华佗、王叔和、皇甫世安、葛洪和孙思邈。“药王庙建好以后，成群结队的老百姓来此求方拜药，祈求健康平安。又因这一庙会以买卖药材为主，济南人便把每年一次的药王庙庙会，称之为‘药市会’了。”
后来赶会的人逐年增多，会址便由趵突泉南门移到山水沟、三合街、正觉寺街、双龙街、券门巷、祭坛巷一带。1931年济南市国药业公会成立后，药市会改从夏历三月二十日开始，会期一般10～15天。赶济南药市会的主要是东北、华北、华南等省市及山东各地的药农、药商，韩国仁川等地的药商当年也有来赶会的。
“七七”事变后，药市会逐年衰败，直到济南解放后，药市会才逐渐恢复。建国后的十几年内，药市会兴盛，每年赶会群众多达几十万人次。1966年“文化大革命”开始，有几百年历史的济南药市会中止。不过在老济南的心中，它也算是济南的城市文化名片了。
70年代末，济南千佛山庙会恢复，药商、药农多赶千佛山庙会，中草药交易遂成为千佛山庙会的一部分内容。