戰國時期，趙國的北方大多是胡人部落，雖然他們和趙國沒有發生大的戰爭，但常常到趙國進行一些小的掠奪。
由於胡人都是身穿短衣、長褲，作戰騎在馬上，動作十分靈活方便。開弓射箭，運用自如，往來奔跑，迅速敏捷。而趙國軍隊雖然武器比胡人精良，但多為步兵和兵車混合編製，加上官兵都身穿長袍，甲冑笨重，騎馬很不方便。因此，在交戰中常常處於不利地位。有一天，趙武靈王對邯鄲謀士樓緩說：「北方遊牧民族的騎兵來如飛鳥，去如絕弦，是快速反應部隊，帶著這樣的部隊馳騁疆場哪有不取勝的道理。我覺得咱們穿的服裝，長袍大褂寬袖口，幹活打仗，都不太方便，不如胡人短衣窄袖，腳穿皮靴子，行動方便靈活。我打算仿照胡人的風俗，把服裝改一改，你看怎麼樣?」謀士樓緩聽後很贊成趙武靈王的話。
由於胡服騎射不單是一個軍事改革措施，同時也是一個國家移風易俗的改革，是一次對傳統觀念的更新，因此，在施行之初，阻力很大，除了百姓接受有困難外，朝廷內的牴觸情緒也很大。以公子成、趙文、趙造、周紹等人為代表的貴族官僚，抱著「循法無過，修禮無邪」的傳統觀念，拒絕胡服騎射。
有一個頑固派老臣，名叫趙成，是趙武靈王的叔父，帶頭反對服裝改革。他是趙國一個很有影響的老臣，頭腦守舊，十分頑固。他不但反對，而且在家裝病不上朝了。趙武靈王很明白，要推行改革，首先要打通叔父的阻攔。武靈王為了說服趙成，親自到趙成家做工作，終於使他同意胡服。公子成的工作做通之後，仍有一些王族公子和大臣極力反對。他們指責武靈王說：「衣服習俗，古之理法，變更古法，是一種罪過。」武靈王批駁他們說：「古今不同俗，有什麼古法?帝王都不是承襲的，有什麼禮可循?夏、商、週三代都是根據時代的不同而制定法規，根據不同的情況而制定禮儀。禮制、法令都是因地制宜，衣服、器械只要使用方便，就不必死守古代那一套。」
趙武靈王「胡服騎射」是我國軍事史上的一次大變革，被歷代史學家傳為佳話。郭沫若1961年秋遊邯鄲叢台時曾賦詩一首，詩中說到「騎射胡服思雄才」，便是引用趙武靈王實行胡服騎射改革的史績，這段事實見諸於《史記，趙世家》。如今，「胡服騎射」已經成為了改革的同義詞。