好问题，我简单谈一下我的看法。
明代的府除了呈现出南方稠密而北方稀疏的特点，还有北方多州而南方少州的特点。比如说明朝中前期山西全省只有大同、太原、平阳三个府，却有潞、泽、辽、沁、汾五个直隶州，而同时期的江西却有南昌、南康、九江、袁州、瑞州、临江、饶州、抚州、广信、建昌、吉安、赣州、南安十三个府，其中袁州临江瑞州不过三四个县，甚至不足北方一个府下属州所辖县多（比如北直隶真定府赵州管六个县），却是一个府而不是直隶州。
这个问题的原因，我个人认为，有两方面的原因，一个是历史趋势因素，一个是明朝自己的因素。
我之前说过，宋辽分治南北是中国行政区划的一个容易被忽略的问题，当时宋惩于节度使割据，所以改革掉了支郡的存在，也就是唐末五代出现的一个州管另一个州的情况不复存在了，仅仅保留了节度、刺史、军事、防御等州的分类。但是在辽代却保留了支郡的概念，某府州除了亲辖数个县之外，还管着周围一两个州。金灭辽之后，沿袭了辽代这种制度，并把范围扩展到金朝统治的中原地区，这就造成了中国秦—淮南北的区划存在差异。
蒙元在征服金的过程中，这种支郡体系被发扬光大。他们按着金朝的区划，把节州、府划成路，自然节州、府就是路的驻地，然后路下管着几个、甚至十几个州，后来又进一步取消掉州的附郭县，以及路驻地的府州，而后来又逐步拆分设立新的路，原来路的范围逐步减小，最后完成了路取代金代的府的过程，再加上上边设立行中书省，所以原本的中央——路——州——县的区划，改变为中央——行省——路——州——县的区划。
比如开封，金朝的开封府是南京路的治所，下辖十几个县，蒙古灭金之后，仍然在开封府设南京路，管了延、陈、郑等十几个州，范围比金朝南京路小一些，但后来开封府被裁撤，南京路就开始亲自管理原来开封府所辖的县，又兼管十几个州。再后来，州又不断被拆分新设其他路府，比如把申州改成南阳府，再把唐邓汝裕嵩五州划过去，这样南京路的范围就逐渐缩减为原来开封府再加上郑钧陈许睢州的范围，最后元朝又把南京路改名汴梁路，上头设了河南江北行省，最终完成了用汴梁路取代开封府的操作，但汴梁路的管辖范围却比开封府大了整整一圈。
明朝对元朝汴梁路是基本直接沿袭，然后把汴梁路改名开封府，这样明朝的开封府就管理了十几个县以及好几个州、州又管好多个县。明代开封府最嚣张的时候一度管了郑钧许陈睢徐宿邳归德九州四十三县，最东边管到宿迁。后来因为划定直隶，以及中都凤阳府的建设，徐宿邳州以及亳县相继划出，开封府只保留了郑钧许陈睢归德六州，再后来归德升府，睢州改属归德，开封只剩了四个州，但所辖州县数量仍然保持在了四州三十县，位列全国前五名。
开封的这个例子只是缩影，北方好多大府，都是因为这个原因而变得非常庞大，比如西安府六州三十一县，平阳府六州二十九县，真定府五州二十七县，太原府五州二十县，保定府三州十七县，延安府三州十六县。
这是第一点，除了这个原因，还有个辅助因素——元末世侯对于行政区划的影响。
比如元朝的陕西行省。
不算陕西行省治下的吐蕃等处宣慰司都元帅府，陕西行省直辖四路四府十八州，而到了明朝则整理为八府四卫，元朝陕西十八个直隶州全部被消灭。
元代陕西的散块状，有一个重要原因就是这里有个巩昌都总帅府，这是金末元初陕西出现的一户世侯——巩昌汪氏的领地，最盛的时候辖五府二十七州，基本盘是“巩昌二十四城”也就是秦、巩、定西、金、兰、洮、会、环、陇、庆阳、平凉、德顺、镇戎、原、阶、成、岷、叠、西和、泾、邠、宁、河、安西，这个范围，基本上就是上上图里陕西行省剩下的奉元、延安、兴元、凤翔四路府，也就是说，整个陕西行省的行政区划基本被分为两种，一个是陕西行省的，一个是巩昌总帅的，中央的大而少，巩昌总帅的小而杂。
到了明朝，除了直接继承上述四府之外，又将巩昌总帅所属州府进行改制，把阶、成、徽、秦、会、西和、定西七州并到巩昌府，泾、镇原、开成、静宁、庄浪五州并到平凉府，如此大规模合并之后，陕西一改元朝时期的样子，变成了如题主所说，那么大的地方却只有寥寥几个府的样子。
除此之外，山东也有类似的例子。山东东平严氏，也是元初的著名世侯。严家最牛的时候统管东平、大名、彰德等五十四州县，元世祖为了分他的势力，先把北边的博州划出来改成东昌府，分成东平、大名、济宁、东昌诸路，以及曹、濮、冠、临清、高唐等州，再加上因为五户丝户和诸王食邑而造成的山东众多飞地，这使得相对于山西地区而言，山东西部的区划非常破碎。后来明军北伐攻占山东后，再加上此时山东人口凋零，于是明朝大刀阔斧对山东的行政区划进行调整，破碎的山东被整体划分为济南、青州、莱州、济宁、东昌、东平六个府，这里头最小的就是东平府，下面有五个县，其他的都超级巨大——这也是山东的府为什么那么大、府那么少的原因，国初源于实际情况而进行了大幅度调整，后来情况有所好转之后却又没用及时进行修补改正。后文我会对国初的情况进行一下说明，此处先按下不表。
那么，同样是元朝征服的区域，为什么南方就那么多的府呢？
以江西地区，今天的江西在南宋时期分为隆兴府、江州、筠州、袁州、抚州、吉州、赣州、饶州、信州、临江军、建昌军、南安军、南康军拢共十三个区域，元朝来了之后，江西区域这十三个府州军全部改为路，又将建昌路的南丰县单独拎出来升为行省直隶南丰州，同时又把路下属的一些县升为属州。如此，则江西的区划开始变得不均衡，同样是路，吉安路下属庐陵、永丰、永宁、万安、龙泉五县及太和、吉水、安福、永新四州，拢共九个单位，而南安路却只辖大庾、南康、上游三个县。
为嘛会出现这种南北截然不同的情况呢？这其实与元朝对于江南的征服过程有关。元朝对于河北山东等中原地区的征服始于大安三年，终于天兴三年，前后拉锯二十余年，其后又经历了蒙古太宗、定宗、宪宗以及乃马真、海迷失后称制、拖雷监国三十年的世侯自治的特殊岁月；而南宋的江南就不一样了，宋蒙拉锯基本上围绕在四川和荆襄 - 江淮一带，江西这里没有遭受过战火。而蒙古在攻破了襄阳防线之后的至元十二年大举南下，次年便兵临临安城下，宋廷出降，而宋都带在江西方面仅用了一年便从九江打到了大庾岭北的南安军，也就是说，江西虽然也在宋蒙战争中经历了战火，却并未经历反复拉锯，所以最大程度上保持了江西的繁荣与稳定。
这点，我们从《宋史》《金史》《元史》上记载的人口也可以看出：
以明代东昌府为例，东昌府在金代属于恩州、博州、濮州，以及大名府之半，以大名府三分之一而计算，则此地区有 342950 户。在元代属于东昌府、濮州、冠州、高唐州、恩州，所属人口合计 85764 户、273339 口。
如此，则金元交错之际，东昌府地区人口由三十四万户折损到八万五千户，损失 75%。
再看看江西地区。
宋代的江南西路隆兴府及江赣吉袁抚筠六州、兴国建昌临江南安四军，绍兴三十二年一百八十九万一千三百九十二户，再加上东路饶、信二州以及南康军，减去兴国军的六万三千四百二十二户，则有 2234249 户。而元初至元二十七年抄籍数，江西一州一十三路合计 2671158 户、13779023 口。
从人户上来看，元初江西人口比南宋初年的还要多，考虑到宋朝江西人口的增长，宋元交兵肯定对江西人口有所减少，但仍然很大程度保留了这里的密集人口现状。袁州路所辖三县一州有 19 万 8 千余户、99 万 2 千余口，而北方领了六个县的濮州，也只有 17316 户、64293 口，甚至不如袁州路的一个零头。
所以，出于这种现实，元朝在江西把府州军都升为路也就不难理解了。
看到这里，有读者就问了：你这博士买驴说了半天，跟明朝有什么关系？
别急，明朝这就来了。
明初的时候，东昌有多少人、江西又有多少人呢？
嘉庆《东昌府志》卷八·户口引永乐旧志记载，东昌府明初总计人口 24029 户，人 100192 口——这个人口数量甚至只有元初的 28%、金代的 7%！洪武三年明朝甚至一度废了东昌府的一半的县，因为人口实在太少了，洪武二十四年东昌府所属夏津县只有 687 户、4279 口，这个数字可能今天只是一个大点儿的村的人口。出于这种现实，明朝为什么在鲁西平原只设置了一个管辖有两州十六县的东昌府，就不难理解了。
而江西呢？洪武二十六年编户 155 万 3923 户、898 万 2482 口。还是以袁州府为例，洪武二十四年，袁州府辖四县，共计 63998 户、379236 口。虽然相对于元代袁州路，人口缩减为三分之一，但是和北方对比，也是人口稠密地区了。袁州府下属分宜县有 13230 户、72287 口，一个县抵得上整个东昌府的七成人口，17 倍于北方的夏津县，面对这样的差距，袁州虽然只有四个县，但给个府的编制，不为过。
综上所述，明朝的府之所以呈现出北方的府规模大而数量少、南方的府规模小而数量多的规律，是基于对元朝行政区划的继承，同时针对明初的具体现实情况而又对其进行的合理化的调整，北方人口少，所以用大规模的府来管理，南方人口多，所以相对拆分的比较细碎。
这里也可以对这个结论进行验证。南方个别地区在明初的时候也进行过整合，比如湖广。
洪武八年，湖广行省下辖武昌、汉阳、蕲州、黄州、德安、襄阳、安陆、沔阳、荆州、兴国、岳州、澧州、常德、长沙、宝庆、辰州、沅州、靖州、武冈、衡州、永州、道州、郴州、桂阳、全州二十五个府，以及归、峡、荆门三州，永顺、保靖州、思南、思州四个宣慰司。此后明朝对湖广行省 / 湖广布政司下的这些州府进行大规模合并、降级，蕲、黄二府合并，岳、澧合并，辰、沅合并，永、道合并，兴国、武昌合并，宝庆、武冈合并，衡州、桂阳合并，归、峡（夷陵）、荆门三州并入荆州府，又将郴、靖、安陆、沔阳四府降级为直隶州。洪武十四年，湖广的调整基本结束，二十五个府除了全州府并入广西桂林府之外，剩余二十四府合并成了十三个府另四个直隶州。
而这个调整，则与湖广行省在洪武二十六年的时候有十三府十七州一百零八县，编户只有七十七万五千八百五十一、四百七十万二千六百六十口不无关系，隔壁江西十三府七十八县有八百九十万人，庞大的湖广却只有四百七十万人，自然需要进行调整的是湖广，而不是江西了。
题外话：
这个问题前后有三个人邀请过我，贺人龙同志更是在群里催我两次，我本早就想回答，却限于时间，俗务缠身，拖延到现在，而且本来是想完全打完字之后再发布的，因为开始回答的时候在外边开会，没法查资料也没法补图，不想刚打了第一句话就误点到了发布，删了再存草稿吧又成了恢复答案，我又不会操作，于是断断续续竟打了一下午，甚至评论区还出现了赌我会不会没下文的情况，在此我声明一下，这种行政区划的问题，尤其是明朝的行政区划问题，我基本上不会断更的，列位大可以放心。同样，如果大家发现了类似的好问题，也欢迎邀请我，如果我没答，那就去群里找我就行了，至于我在哪个群，懂的自然懂知道的自然知道。另外，这虽然长篇大论，却只是一家之言，只是我个人猜测，不具备学术效力，所以也别偏信我说的（上次有人拿我知乎写的东西改编成论文，结果被评了个“没有现实意义”，完事还质问我为什么要写这些没有意义的东西，这好吗？这不好。），感谢各位。