$De vroegste exemplaren van Xiao-fluiten, die gelijkenissen vertoonden met de huidige versies, dateren uit de Han-dynastie (206 v.Chr. - 220 n.Chr.), wat een periode van ongeveer 500 jaar vóór de eerste Pueblo-fluiten van de Amerika's vertegenwoordigt. In het Nanjing Museum is een kleibeeldje te vinden dat een musicus afbeeldt die de Xiao bespeelt, daterend uit de Han-periode. Men gelooft dat deze fluiten oorspronkelijk werden geïmporteerd uit de Qiang-cultuur, gelegen in het noordwesten van de provincie Sichuan, ook bekend als Szechwan, een regio die deel uitmaakte van de Zijderoute. De handelaars die deze route aflegden, droegen vaak fluiten met zich mee, en dit maakte ze mogelijk tot een van de handelsartikelen van die tijd.
Vóór de Tang-dynastie (618-907 n.Chr.) werd elke fluit gemaakt van een enkele buis gewoonlijk "di" genoemd. De term "xiao" was gereserveerd voor een reeks buizen die op een panfluit leken. Naarmate de Tang-dynastie vorderde, werd de dwarsfluit steeds populairder, en vanaf dat moment werd de naam "di" voornamelijk geassocieerd met dwarsfluiten. Ondertussen begon de term "xiao" te worden gebruikt om een verticale fluit te beschrijven, en de Chinese panfluit werd "paixiao" genoemd, wat kan worden vertaald als "rij van xiao". Maar het was pas tijdens de Ming-dynastie (1368-1644) dat de naam "xiao" zich vestigde als de standaardbenaming voor het specifieke instrument dat we tegenwoordig hebben.
Variaties van de xiao zijn onder andere de qinxiao, een smallere versie, en de kortere en dikkere zuidelijke versie, genaamd nanyin dongxiao ("gesneden fluit met zuidelijk geluid") of nanxiao, uit Fujian en Taiwan, die in de 14e eeuw naar Japan werd geïmporteerd en later de Shakuhachi werd.
Traditioneel worden xiao's gebruikt als soloinstrument of gecombineerd met een guqin, een Chinese citer. Het geluid van de xiao is rijk en zacht als een Pueblo-fluit (Anasazi), maar zachter, met minder wind- en luchtruis. Xiao's kunnen ook twee octaven spelen. Originele tekst van Scott August, een meester in de kunst van het bespelen van de Xiao-fluit en de Pueblo-fluiten.
