卫所制度是明代最主要的军事制度。卫所制度吸取了历史上的屯田经验，是一种寓兵于农、守屯结合的建军制度。明太祖曾深以创设这一军制为荣，他曾夸口说：“吾养兵百万，不费百姓一粒米。”
明代从京师到府州，都设立了卫、所。按照明制，5600名军人为一卫，1120人为一所，120人为一个百户所。自卫指挥使以下军官都是世袭的。卫所军队都有固定的戍所。卫所由朝廷根据各地的防卫、战略需要而设置，或数府一卫，或一府数卫，视各地战略地位之重要与否而定，固定驻屯戍守。
明代山东以其连接两京的重要形势，成为朝廷最为关注的地区，设卫之多、设卫之早，尤其不同他省。明政府为了巩固大运河这一朝廷经济大命脉，加强山东境内运河沿岸卫所的军事力量，有的扩充卫所军员，有的则增设卫所。而山东之内又以鲁西北与沿海地区最为要害，山东多数卫所和主要兵源皆布局于此。
而位于鲁西的东昌，位于京杭大运河河道上。元为东昌路，明初改为东昌府。东昌府南接济南、充州，北连临清，“襟卫河而带会通，控幽蓟而引淮泗，泰岳峙，漳水西环，实齐鲁之会也。”
明初的东昌府为练兵、驻兵重地。太祖洪武元年(1368年年)七月，“敕徐达诏山东诸将会兵东昌”。洪武十年(1377年)正月，“都督佥事蓝玉练兵东昌”。洪武二十三年(1390年)闰四月，“东平侯韩勋、西凉侯濮兴、沈阳侯察罕、左军都督佥事王宪练兵东昌”。大量的官军驻扎在此，不仅因为东昌具有适合练兵的广阔平坦地形，还因为其地处交通要道，便于派遣和征调。可见，东昌府沿袭元代而设卫，是因其位于运河沿岸，有便于南北交通的水路和陆路优势。
朱元璋明代东昌府内设有平山和东昌二卫。平山卫于洪武四年(1371年)六月建，史书记载，“城中有二阜，谓之平山，明初建卫于此，因名。”治所在东昌府内。而东昌卫系湖广武昌卫调至东昌，于宣德六年(1431年)而建。其时明朝处于建国以来最为稳定之时，大运河位于东昌府城东门外，为了保护大运河的畅通，因而增建东昌卫。
在羊使君街东段路口西南角刻有“东昌卫”的石碑是两个卫所的分界线。平山卫主要负责界碑以南至龙湾减水坝之间运河漕粮的运输安全，而东昌卫不仅负责该界碑以北至梁水镇之间的漕粮运输，还负责东昌府辖区的治安。
明中期以后，各地卫所官军大量逃亡，虽然卫所数量及建置方面已经没有太大的变化，但是实际存在的卫所官军人数与规定数额相差甚远，卫所官军战斗力大大削弱，已经名存实亡。