底下的各种回答都没有回答到要点,很多甚至犯了事实错误(比如想当然地拿德国所谓的邦国传统来解释这个问题)。
事实上,德国是有过伦敦、巴黎那样地位的特大城市的,那就是柏林。柏林在二战前曾经达到过伦敦、巴黎的世界地位,且在德国国内形成了相当程度上“一城独大”的局面。柏林失去上述地位的主要原因是二战的破坏 + 东西德分裂 + 成为冷战前沿阵地。
从 1900 年的人口普查开始,柏林就是德国绝对意义上的第一大城市,而且是断层第一大。这与普鲁士王国 / 普鲁士邦的优势地位紧密相关,也与德国统一后的集权化趋势(德二→魏玛→德三)密切相关:
柏林:4,242,501 人
汉堡:1,129,307 人
科隆:756,605 人
慕尼黑:735,388 人
莱比锡:713,470 人
(1933 年德国前五大城市的人口)
可以看到,1933 年时柏林是第二大城市汉堡人口的 4 倍,其他什么科隆慕尼黑更是小巫见大巫,连 1/5 都没有。
同期的内伦敦(Inner London)人口为 4,397,003 人,大伦敦人口为 8,098,942 人(1931 年);巴黎核心城区人口为 2,891,020 人,大巴黎人口约 500 万人(1931 年)。
因此战间期柏林的城市人口相较于伦敦、巴黎并没有绝对的劣势,所以当时有“世界四大都会”的说法,分别就是指的纽约、伦敦、巴黎、柏林。
再看一张 1937 年德国百强公司的总部分布图:

柏林以一城足足占据了德国百强公司中的 1/3 多,这经济集中程度放国内已经不亚于北京或上海了。
再考察 1938 年时的欧洲人均收入分布地图,可以看出二战前夕德国是欧洲人均最高的国家之一,那么作为其政治、经济、文化乃至教育中心的首都柏林自然而然是世界级的城市。

那为什么今天柏林在德国乃至世界的地位相较于伦敦、巴黎一落千丈呢?
根本原因是第二次世界大战中对柏林的严重破坏,以及冷战时期东西柏林分治造成的柏林经济及社会发展落后所致。


盟军在二战后期对柏林的轰炸,造成了被称为“人类历史上最大的建筑废墟”:柏林城超过一半的城区被夷为平地,核心城区几乎被完全摧毁,几百年的积累荡然无存。

二战后期的破坏及东西德的分裂,也导致柏林人口一蹶不振。柏林人口迅速从最高峰的 450 万下降到 280 万,一直到今天柏林人口都才恢复到百年前的 3/4。

由于柏林处于冷战对峙的前线,甚至西柏林在法理上都不属于西德领土,因此西德的所有中央行政部门都没有设置在西柏林,部分重要部门甚至在两德统一后也没有回迁柏林,或者只是把第二总部设在了柏林。例如联邦德国的中央银行就设置在法兰克福直到今天;而自德二统一到 1945 年,德国中央银行一直在柏林。
1945 年后由于西柏林处于被东德半封锁的状态,东柏林又在东德治下,所以许多以前总部在柏林的大公司都迁走了,例如著名的西门子、安联保险就迁到了慕尼黑。
二战前世界学术中心之一的柏林大学也因为东西柏林分裂而分裂为柏林洪堡大学和柏林自由大学;柏林的学术人才也随着德国的地位下降而大量出走。
总而言之,1945 年后柏林从德国绝对的政治、经济、文化中心极速下降为一片废墟 + 冷战斗争前沿,这种政经环境是绝对不可能再让柏林恢复到伦敦巴黎级别的。这也使得柏林至今都没有恢复到 1939 年的人口数量,德国形成了事实上的无一城独大局面。