采用“总—分—总”的结构模式。
开头是总说：介绍王叔远在雕刻技术上的卓越成就，指出雕刻品“核舟”的主题。“能以径寸之木，为宫室、器皿、人物，以至鸟兽、木石”，说明所用的原材料体积很小，而表现的范围极广，可见他有多方面的成就；“罔不因势象形，各具情态”，说明他构思一精一巧，技术高超。在这样的概括介绍之后，接着就指出雕刻品“核舟”的主题：“大苏泛赤壁”。这就明显地表示了本文的意图，即以具体作品来证明作者对王叔远技艺的评价是合乎实际的。
中间是分说：详细介绍“核舟”的结构、舟上的人物和题名。可分两层：
第一层（第2至第4段）介绍舟的正面，这是显示雕刻家巧妙构思和一精一湛技艺的主要部分。又可分为三小层：
第一小层（第2段）先介绍“核舟”的体积，接着写舟的中间部分即船舱。其中，重点是介绍舱旁的小窗，它不仅可以开关，而且上面刻了对联，共十六个字，可见雕工的一精一细；“启窗而观”，还有“雕栏相望”，更显出雕刻家构思的巧妙。
第二小层（第3段）介绍船头部分，写舟上游览者——苏轼、鲁直和佛印的外貌和神情。这一层对表现雕品的主题具有重要的作用，作者的介绍也最为详细。除了细致地写出人物的衣着、姿势而外，还着意描述了苏、黄二人泛舟时的心情。从“苏、黄共阅一手卷”、东坡“左手抚鲁直背”、鲁直“右手指卷，如有所语”这些描述中可以看出，他们在这山光水色的掩映之中，完全忘记了现实的烦恼，而陶醉在画卷的美好意境里，这是何等豁达、放旷的胸襟！至于佛印的“矫首昂视”，则又给人一种洒脱不群的感觉。这就自然成为苏、黄二人神情的陪衬，使画面显得不单调。
第三小层（第4段）介绍船尾部分，写舟子的表情和动作。两个舟子的神情也“不属”：一个“若啸呼状”，很悠闲自在；一个“视端容寂”，是很专注的样子。这样来塑造舟子的形象，更有力地突出了“泛舟”的主题，也渲染了舟中轻松、愉悦的气氛，跟船头的情景互相呼应。
第二层（第5段）介绍舟的顶部。这一层是略写，只介绍了题名和篆章，以“细若蚊足，钩画了了”再次显示了雕刻家的高超技艺。题名用黑色，篆章用红色，对照鲜明，于此可见雕刻家的细心。
最后总括全文，通计舟上所刻人、窗及其他物品的数量和刻字的总数，又以“计其长曾不盈寸”呼应开头，用以强调材料体积之小和雕刻的容量之大，然后用“嘻，技亦灵怪矣哉”作结。
本文语言平实、洗练，特别是摹写舟中人物情状，句句都出自作者审视所得，毫无夸饰，逼真而又生动，读罢令人有如同亲见“大苏泛赤壁”之感。
此文体类似于现代说明文。