西晋傅玄《笳赋·序》中则有:“葭叶为声”之句。“笳”字在汉代为“葭”字。《说文》载:“葭,苇之未秀者”,“苇,大葭也。”晋代郭璞说:葭、芦、苇三字指的是同一种植物。原始的胡笳,曾用于战争之中。西汉之时已广泛流行于塞北和西域一带。
随着社会的发展,历史上又出现了多种形制的胡笳。首先由芦叶的管身改为芦苇杆的管身,外形与维吾尔族双簧单管气鸣乐器巴拉曼(又称皮皮)相似,将芦管上端压扁后呈双簧形,管身与簧片仍为一体,所不同的是管身上没有开按音孔。嗣后,出现了簧片与管身份开的胡笳,仍然都使用芦苇管制作,簧片用坏了可随时更换,而无须更换管身。
汉代有两种胡笳。一种是管身和簧分开、芦苇制(也有木制管身)、管上开有三孔的胡笳,流行于广阔的草原民族地区。另一种是张骞通西域后传入的木制管身、三孔、芦为簧的胡笳,流行于广大的中原汉族地区,这种胡笳南北朝以后,逐渐被七孔筚篥所替代。
到了唐代,盛行以羊骨或羊角为管、管身无孔的哀笳,管身比胡笳较短。这种哀笳用于卤簿鼓吹乐,流行于塞北及河西走廊一带,一直流传到宋代以后。关于哀笳,唐代许多文人留下了不朽的诗句。王维曾在凉州作过节度使,他在《双黄鹄歌送别》中写道:“悲笳嘹泪垂舞衣,宾欲散兮复相依。”杜牧在《边上闻笳三首》中有:“何处吹笳薄暮天,寒垣高鸟没狼烟。”
清代,宫廷提倡“四方乐”,曾从新疆阿勒泰地区抽调蒙古乌梁海部到科尔沁草原,组成蒙古喀喇沁王府乐队,这就是清朝宫廷的“蒙古笳吹部”。《皇朝礼器图式》载其形制为:“木管三孔,两端加角,末翘而上,口哆(张口)。”《清史稿》中也有:胡笳木管,三孔,长二尺四寸的记载。这种胡笳,管身下部开有三个等距圆形按音孔,并模仿哀笳形制两端置角,形如细而长的喇叭,管口上端施角,改双簧为边棱吹奏,管口下端接有向上弯曲的角制喇叭口,用以扩大音量。它一直在内蒙古各地王府乐队中使用。最后取消了两端的羊角,成为今日的胡笳。