第一段分两个层次。
第一层从开头到天下之美为尽在已，写何伯的自满。
第二层从顺流而东行到见笑于大方之家，写河伯到海边后才认识到自己那种自多的观点是危险的。
第二段分为四层。
第一层从“井蛙不可以语于海者”，到“尔将可与语大理矣”。阐述人们的见识受到各种限制，只有对超越自己见识限制的人，才可以与他谈论大道理。
第二段第二层从“天下之水”到“又奚以自多”，海若阐述海是比河大，但又比天地小，所以不能自多。
第二段第三层从“计四海在天地之间也”到“不似毫末之在于马体乎？”，通过一系列的类力，阐述世界万物和人类都有大小、多少之比，人是很渺小的。
第二段第四层从“五帝之所连”到最后，阐述人类社会上至三王五帝下至孔子伯夷他们所认识和做的，都是小的，如以此为名，以此为博都是自多。而这些也像河伯开始时一样，尚未超越自己的局限表现。
本文的结构特色：本文的结构特色是逐层推进的论证方法。本文的论证方法颇具特色。先由河与海比，从河水上涨，两岸不辨牛马，到海水不可为量数。这是由小到大，说明事物的相对性，河伯认识的局限性。那么海就是最大的吗？接下来就论述，尽管海水无比浩瀚，但海也不是绝对的大，海水在天地之间有如小石、小木在大山之间。接下来从反面论述，由大到小，四海之于天地，中国之于海内，人之与万物，都是微不足道的，自然界大小是相对的，那社会呢？人类社会中的人的作用，依然是相对的。这样逐层论证，层层深入，论证透彻，充分地表达地文章的主旨。