科举制度始于隋朝，当时只针对读书人，并没有设武举。至唐代，武则天首次开设武举。据说武则天因为以一女子身份登上皇位，旧势力对她并不完全服从，这位女皇帝便开设武举，选拔册封武将，为自己培养势力。唐代武举主要考骑射、步射、举重等技术，此外对考生相貌也作了要求，要“躯干雄伟、可以为将帅者”。
宋代 ，因宋太祖赵匡胤定下“以文立国”的国策，武举考试除考武力外，还要“副之策略”。武艺考“步射”、“骑射”两场，合格后再参加文化考试。文化考试则考一些诸如兵法、布局类的知识等。总体上以武艺为主，以策略为辅。元朝科举制度兴废不常，没有武举制度。到了明代，武举考试则更进一步，以考察谋略的笔试为主，而以武艺为辅了。并且先进行谋略考试，如果不及格，就直接淘汰，武艺再高也没用。清朝以后，尚武的清朝统治者又将个人武艺考试放在了前面，首先考骑射、力气、武艺等，然后合格者再参加笔试。
历史上武举一共进行过约500次，宋神宗时，设立武状元。历史上有案可稽的武状元有282名，其中许多详细资料都已经丢失。
总体而言，相比于文科考试，武举一直不怎么受重视。历朝的武举制度时而设置，时而废弃，取士人数远远少于文举。并且武人考中武举后，只授出身，并不马上授官职。因此，武举人的地位也低于文举人，以至于一些武举状元还有再考取文科举人的念头。历史上比较出名的武举人只有唐朝大将郭子仪和明代的抗倭名将俞大猷。