通过问题下的配图,可以看出题主真正想问的是:中国地势的第二级和第三级台阶为何如此界限分明?

中国陆地的地势,自西向东分为三级台阶,其中青藏高原为一级台阶,太行山 - 雪峰山以东为三级台阶。
其中,二三级台阶的界限非常清晰,沿着大兴安岭—太行山—雪峰山一线,呈北北东走向展布,尤其在太行和华北平原的边界,似刀裁一般平直。这也就是题主所问的,平原和山脉的截然界限。
这条界限,在地质学常被称为「大梯度线」[1](the Great Gradient Line,简称:GGL)。
1. 大梯度线
大梯度线两侧的地表海拔,岩石变形特征,沉降隆升过程,岩石圈演化和深部特征等,呈现出截然的差异。
例如,地壳的厚度,大梯度线以东的平均地壳厚度在~30-35km 之间,大梯度线以西的地壳平均厚度~35-45km 之间。

岩石圈的厚度,显示出从西侧 150-100km,向东减薄为 60-100km 厚的特征[2]↓


布格重力场图,更为清晰地反映了大梯度带东西两侧截然的差异↓

以上是平面图,展示地表海拔和岩石圈厚度可能不够直观。
下图是从中国东部黄海之滨(图右侧)向西穿越至太行山以西(图左侧)的剖面图[3]。

可以清晰地看出,大梯度带(上图洋红色的箭头)两侧地表海拔和深部厚度的相关性。
以上是现今的岩石圈几何学形态特征,呈现西厚东薄的趋势。
2.华北克拉通
然而,这种西厚东薄的趋势并不是出厂设置。
华北地台,又名华北克拉通,是地球上最古老的陆地板块之一。
克拉通通常有以下几个特点[4]:
(1)老,通常年龄大于 25 亿年
这没问题,华北地台肯定能满足。
华北板块已知最老的岩石形成于 38 亿年前。
在辽宁鞍山、河南信阳和河北东部等地区,都分布有 30 亿年以上的古陆核[5]。

以这些古陆核为核心,华北板块经历了陆壳生长、微陆块拼合、大氧化事件与变质作用等一系列漫长过程,并经历了 25 亿年和 18 亿年的造山活动,最终拼合成为一个稳定的大陆克拉通。
(2)厚,岩石圈厚度可达 200km 以上;
现今华北地区岩石圈厚度只有~60-100km,显然不满足。
但是,在 4-5 亿年之前的古生代,华北地区的岩石圈厚度约为~200km。
也许你要问了,你上面展示的地球物理资料只能看出现今的岩石圈厚度,而目前人类钻探的最大深度只有 12.3 千米,你怎么知道几亿年前岩石圈的厚度?
靠钻石!
在山东蒙阴地区,出露有许多含有金刚石的古生代金伯利岩。

这些金伯利岩是是金刚石(钻石)的母岩,它们形成于 4.7 亿年前地下大约 180 千米的深度[6]。
对金伯利岩的研究表明,华北克拉通破坏之前岩石圈的厚度大约有 200 千米。
由此可见,岩石圈的厚度由原来的~200 千米变为~60-80 千米,也就是说,克拉通的岩石圈由厚变薄了。
现今的华北平原和鄂尔多斯盆地,都属于华北地台。

从上图可见,华北克拉通西部的鄂尔多斯盆地,仍然保留着接近 200km 厚的岩石圈。
而华北克拉通东部地区,发生 100 多公里岩石圈地幔的丢失。
这个差异带的边界就是大梯度带,也就是第二阶梯和第三阶梯的边界。
(3)稳,缺乏明显的火山活动和大地震。
显然不是,华北克拉通的地震活动并不少。

从图中可以明显看到,相比于扬子克拉通和塔里木克拉通,华北克拉通内部发生了数量更多的地震,这表明华北克拉通失去了稳定性。
1976 年造成 24 万余人丧生的唐山大地震 ,就发生在华北克拉通内部。
此外,火山作用也不少。

大约 1.25 亿年前,太行山以东的地区,遍布裂谷盆地,盆地内火山作用不断。
当然,这些火山活动主要出现在两亿年以来,两亿年前华北克拉通很少有火山作用。
因此,通过地球物理、岩浆岩、沉积学、构造地质学等综合研究,科学家们发现:
原本具有克拉通稳定属性的华北地台发生了大规模构造变形和岩浆活动,岩石圈的厚度由原来的 200 千米变为 60-80 千米,这说明华北克拉通原有的克拉通属性已不复存在。
基于对华北克拉通的地质观测和实验研究,中国科学家门提出了“克拉通破坏”的概念。
3. 克拉通破坏
通过进一步研究,发现克拉通破坏的诸多标志性事件都集中出现在 1.25 亿年前(白垩纪早期)左右。也就是说,华北克拉通破坏的高峰期为 1.25 亿年前[7]。
中国东部大量的花岗岩体,很多都是这个时间形成。
那么,克拉通岩石圈由原来的 200 千米变为~60-80 千米的机制是什么呢?
通过全球克拉通对比研究可以发现,地球内部的熔流体就像人体的血液一样重要。正是由于熔流体的加入,改变了华北克拉通岩石圈的组成和性质,导致了克拉通的破坏。
导致克拉通破坏的熔流体主要来自俯冲的大洋板块,以及板块俯冲所诱发的地球深部软流圈物质的上涌[4]。
那么,俯冲板块又从哪里来?
通过系统的地球科学综合手段研究发现,华北克拉通破坏区域展布与古西太平洋板块俯冲带一致[8]。

克拉通破坏区和改造区的边界,就是咱们前文提到的大梯度带,位于太行山附近。

当然,仅有大洋俯冲还是不够的,古太平洋板块在俯冲的同时还发生了后撤(回转)[9]。

板块发生回撤,驱使更多的软流圈物质上涌,这进一步造成了华北克拉通岩石圈底部发生剥离和拆沉,地表形成拉张环境,发生伸展沉降,形成一系列火山盆地。

同样的地质过程,还发生在东北的松辽盆地[10]和华南东部地区[11]。


而这些复杂地质变化的边界,就在现今第二阶梯和第三阶梯的边界:大兴安岭—太行山—雪峰山一线。
小结
现今第二阶梯和第三阶梯的边界呈现出山脉和平原的截然界限,在地质学常被称为「大梯度线」,其主要成因是一亿多年以来中国东部持续的深部地球动力作用。
古西太平洋持续向中国东部大陆俯冲,导致东北的松辽盆地、华北克拉通和华南地块东部的岩石圈发生伸展减薄。
在深部表现为岩石圈厚度的减薄和刚性的破坏,在浅部表现为伸展盆地和火山作用,在地表呈现出盆 - 山截然的地貌边界。
这个边界是西太平洋对中国东部大陆最核心的影响范围界限。
此外,东亚季风对地貌的塑形也能起到一定积极作用。

补充阅读:
为什么说大面积的平原和山区交界的地方,一般都有大型断层?