孝廉之設，始于漢武帝元光元年(公元前134年)，武帝下詔，初令郡國舉孝廉各一人;顯示孝廉起初不是常科，不被重視，后來孝廉規定為歲舉常科，才受重視，漸顯重要。

　　孝、廉有孝子廉吏的意思。孝是指孝敬父母;廉是指清廉勤政。這是古時對官吏的普遍要求。漢代孝，大部分是通儒學的高官及富豪子弟。舉孝廉之后，前程遠大，升遷較快。孝廉出身的官吏，更被認為是正途、清流，很被看重。起初舉孝廉是以郡為單位。