夏、商的家臣，西周的命士，然后就是如今战国的养士，都可以看做是幕府制度的雏形。

真正开创幕府制度的，主要是商鞅变法之后的秦国以及之后的秦朝。

当时正是封建官制体系草创时期，分工不细，机制不完备，各级长官难以单独完成朝廷赋予的职守。于是，三公郡守开府自辟椽属、令史以为辅佐差使，就成为一种制度而保存下来。

虽然说是秦的开创，但是由于赵国的制度实际上和秦国颇为相似，因此赵国同样也有幕府制度，不单单是几名赵国重臣，地方郡守也同样拥有着自己的幕府和属官，不过规模甚小。

这些属官，初为官内编制，但在实践中逐渐与正规职官有别，在地方上更为明显。

西汉州刺史为朝廷派出巡察郡国的官员，不能像郡守那样设置开府。一个刺史统数郡国，照顾不过来，遂“皆有从事史假佐”（《后汉书百官志》），人员大多由刺史自己招聘。

东汉时，刺史正式成为州级行政长官，更有了“皆自辟除”僚属的权力，幕僚机构随之膨胀。

魏晋南北朝时期的封建官制紊乱，政治动乱，幕僚职能空前活跃，使幕府制度发展成熟。参军、记室、军师、主簿等幕称的出现，标志着不同于正官系列的幕僚机制在分工、职能方面趋于细化完善。

汉代，三司（大司空、大司马、大司徒）开府，到了魏晋，凡有将军或持节都督等诸军事头衔而开府仪同三司者，不计其数，幕僚侵代和超越正官的现象也逐步达到顶峰，甚至幕府成为取代中央的霸府，并转换成新王朝的行政中枢。

隋、唐统治者一度废禁自辟幕僚制度，但此后仍延续下来，并日趋完善。唐代节度使幕府编制是法定的，但朝廷又承认无编制限额的惯例。

宋代中央对幕府制度限制较严，聘用由自辟改为中央任命，大量幕职编入正官。凡签书判官厅公事、