在江苏省镇江，有一座雄伟壮丽的山峰，名叫北固山。北固山紧邻长江，山势又高耸挺拔，自古以来就是人们登高望远的胜地。文人墨客在这里登临怀古，留下了不少著名的诗篇。
也不知是哪朝哪代，山上修起了一座甘露寺。有的大户人家出资，帮着甘露寺的方丈建起了一座佛殿。佛殿修好了，但还缺少一座宝塔。可钱已经用完了。方丈虽然觉得遗憾，却也无可奈何。
这天夜里，江上刮起了大风，大风掀起了无数浪头，轰隆轰隆的声音不绝于耳。第二天早上，方丈走出寺门一看，发现山下的江岸上竟然矗立着一座铁塔！铁塔一共有七层，既结实，又美观。它的高矮大小和刚建好的佛殿搭配起来，非常协调，放到北固山顶，真是天造地设一般。方丈又在塔底看了看，发现了一些水纹，从这些水纹看出，铁塔是逆水漂来的，觉得更加神奇。
镇江的百姓们听说了这件事，都跑来看热闹，不一会儿，宝塔四周就围满了人。但宝塔太沉了，虽然就在山底下，却没有人能把它搬上山。天色渐晚，看热闹的百姓们都渐渐地散去了。方丈一个人坐在暮色里，看着铁塔发愁。如果夜里再刮起大风、涨起潮水，铁塔没准又会漂走了。方丈心中十分着急，他在心里发愿，如果有人能把这座铁塔搬上山的话，一定为他塑像供奉。
方丈想着想着，不觉就到了深夜。这时，他忽然看见月光下走来一个大汉，他身材高大，看上去身强力壮。大汉见当家和尚坐在岸边发愁，便问他因为什么事，方丈就把搬塔的事对他说了。大汉看了看宝塔，哈哈笑道：“这有何难？你别着急，我来帮你搬！”说完，还没等当家和尚答话，就径直走到宝塔旁边，伸出双手，紧紧抓住铁塔，想要把它搬起来。
但大汉费了九牛二虎之力，铁塔却仍旧是纹丝不动。大汉不肯罢休，还想要再试一次。这时，忽然又走过来一个人，长得也十分健壮威武，他走到铁塔旁边，推开刚才那位大汉，说：“老弟，还是看我的吧！”说完，也伸手去搬，但他费了很大劲，却也没能搬动铁塔。后来，又来了两个大汉，他们试了半天，结果也没能把铁塔搬动。
这四位大汉原来是结伴同游的四大金刚，他们路过镇江，听见了方丈许的愿，都想留下一个力大无穷的美名，可哪知道谁都搬不动，不由得都垂头丧气起来。这时，方丈忽然灵机一动，说道：“四位壮士，既然你们都有心搬塔，何不合在一起，一人搬一角，没准能把宝塔搬上山去！”
四大金刚一听，觉得是个好主意，于是分站到宝塔的四边，一人抬宝塔的一角，用力一抬，果然把宝塔给抬了起来！于是四个人一步一步小心翼翼地往上走，不一会儿，就把宝塔给抬上了山。
方丈见宝塔被搬上了山顶，高兴极了，连忙拉住四人，非要他们留下姓名不可。可四大金刚觉得，这么一座小宝塔，却要他们四个人合力才能搬上山，觉得有失脸面，不想留下自己的姓名。于是，就往山下一指，说道：“大师，你看，有徒儿来找你来了！”
方丈听了，连忙向山下看去，可一个人都没有。等他再转过头来，四大金刚已经不见了。方丈没办法，但又不愿意违背自己的诺言，只好凭着自己的记忆，让工匠塑了四个人的像，供奉在了寺里面。