早在东汉时期，尺八的前身羌笛就已流传于民间。
到了隋代和唐，尺八成为宫廷中的主要乐器。《新唐书·吕才传》：“贞观（627—649）时，祖孝孙增损乐律，与音家王长通、白明达更质难，不能决。太宗诏侍臣举善音者……侍中王珪、魏微盛称才制尺八，凡十二枚，长短不同，与律谐契”。
在日本奈良东大寺的正仓院里，还保存着我国唐代传去的八支尺八。其中一只竹制刻雕尺八，长43.7厘米，管上端开口，管身前面五孔后面一孔。每一按音孔边缘有圆形花纹。制作十分精美，通体雕花纹和仕女像。第一孔上刻有二女，一者俯而摘花，一者立其后作张袖状。后面一孔下有一女立而手执扇，另一女坐弹。其余部分均饰以花鸟纹。此外还有玉尺八、牙尺八、雕石尺八和桦卷尺八等。
尺八发展到宋代形成五孔尺八，并经由当时日本的遣唐僧东传日本，保留至今，其技巧复杂，音色独特而有古味。沈括《梦溪笔谈》载：“后汉马融所赋长笛，空洞无底，剡其上孔，五孔，一孔出其背，正似今之尺八”。
宋代以后，随着汉的断层，来自民间的、笛等乐器逐渐取代了用于宫廷雅乐的尺八的地位，以致在我国已不见这种古代的乐器了。现在中国流传的竖制竹
吹管乐器有、南音洞箫（南箫）、广东洞箫等。其与尺八主要区别为箫和广东洞箫等为内挖u型吹口，常封顶盖；南音洞箫（南箫）为内挖v型吹口，不封顶盖。而尺八的吹口是半月型外切吹口。箫与南箫，吹口都与尺八有明显的区别。尺八与箫的开孔也不同，以一尺八寸管尺八为例，其筒音为D，各孔音高为F、G、A、C、D。另外尺八与箫在内径、音色方面也有显著的差别。
近年来，随着国际上日本尺八的流行，以及日本尺八界到中国的寻根，外切口五孔的日本现代尺八逐渐回传中国。
尺八在国外传播的历史
尺八在1300多年前就已东传日本。据记载尺八是南北朝末年至唐初（公元581－618年），相当于日本的奈良时代作为演奏唐代的雅乐的乐器而由中国传去的。从隋高祖开皇20年（600年）起，日本圣德太子之时，日本曾屡派“遣隋使”和“遣唐使”前往中国，尺八和许多诸如龙笛等中国乐器东传日本。至今日本正仓院还保存有唐制尺八多种。最早传入日本的尺八仅用于宫廷雅乐，六孔，称为“古代尺八”，也常作为达官贵人的玩物，故也叫“雅乐尺八”。据传，日本圣德太子特别喜爱尺八，他当时所用的中国尺八，如今还珍藏在奈良的法隆寺中。
在澳大利亚悉尼举行的2008国际尺八大会目前在日本流行的五孔“尺八”，则是镰仓时代（南宋诏熙二年至元朝至顺元年）由日本普化宗的禅宗和尚觉心来中国杭州护国仁王禅寺学禅期间向同门居士张参学习吹奏尺八，回国带回尺八及《虚铃》和《虚空》 等尺八曲。后来，心觉创立普化宗，传授尺八技艺，将尺八吹奏融入修禅，称为吹禅。故将他所传授的尺八称为普化尺八。
1871年以后，普化尺八传于民间。日本现代尺八就是从普化尺八演变而来的，一般多为3节，5孔（前4后1），（如今七孔尺八有更加流行的趋势）、不设膜孔，有不同的长度尺寸，既能吹奏古典乐曲，也能演奏现代乐曲；常与筝和三味线合奏，还能与西洋管弦乐队、电子风琴等合作。日本现代尺八改进了内径的变化，使音色更加完美，符合音律。
在奈良东大寺的正仓院里，现在也保存着我国唐代传去的8支尺八。其中一只刻雕尺八，长43.7厘米，管上端开口，管身前面五孔后面一孔。每一按音孔边缘有圆形花纹。制作十分精美，通体雕花纹和仕女像。第一孔上刻有二女，一者俯而摘花，一者立其后作张袖状。后面一孔下有一女立而手执扇，另一女坐弹。其余部分均饰以花鸟纹。此外还有玉尺八、牙尺八、雕石尺八和桦卷尺八等。苏州民族乐器一厂曾复制刻雕尺八一件。
此外，由我国传入日本的还有“一节切尺八”。20世纪70年代美国人海山（kaizan）将尺八从日本传至美国。如今，现代尺八在国际上受到越来越多的关注。尺八虽起源于中国，但从南宋以后一直被日本人传承和发展，20世纪以后，也是通过日本传播到世界其他国家和地区，而在它的故乡中国，已经几乎被遗忘了，国际研究领域也习惯性的把尺八称为"jyakuhachi"（日语“尺八”音译），把尺八归为日本的民族乐器。
2008年7月，在澳大利亚悉尼举办的世界尺八大会上，中国苏州的尺八艺人张听（频伽三昧）作为唯一的中国代表出席了大会，并在全球9个国家和地区近百名选手中获得世界青年尺八大赛总决赛第四名。从此现代国际尺八舞台上第一次有了中国人的身影。