后来，孙悟空为了长生不老，不惜跋山涉水，到了“方寸灵台山，斜月三星洞”，拜了菩提祖师学艺。在菩提祖师的座下，孙悟空学会了七十二变，还得到了筋斗云。
孙悟空学成归来以后，下东海去大闹东海龙宫，并取得了如意金箍棒。从此，这柄神兵便跟随孙悟空上天入地，降妖除魔，历经九九八十一难，终于修成正果。
不过，如意金箍棒虽然是孙悟空最趁手的一件兵器，但是却不是他最早的兵器。当年他学艺回到花果山之后，打败了混世魔王，得到一口大刀，不过怎么使都不得劲儿。
于是，孙悟空索性就将傲来国翻了个遍，甚至还用了分身法术，变出千百只小猴，潜入到傲来国的兵器库中，将兵器库中的诸般兵器，全拿了个干净。
然而，这一圈操作下来，孙悟空还是没有找到一件趁手的兵器。于是，他索性将这些武器分给了花果山的猢狲们。但是，他仍然为自己找不到一件趁手的兵器而发愁。
此时，通背猿猴就告诉孙悟空，说他乃是仙圣，凡间的兵器都不配让他使用。然后，又告诉他，让他去东海里找东海龙王，说东海龙王那里会有趁手的兵器。
听了这个话以后，孙悟空径自就下海去面见东海龙王了，开口便要讨兵器。东海龙王也识趣得狠，直接就送上了一把大刀，可惜孙悟空却很不喜欢舞刀。
于是，东海龙王又送上了一根九股钢叉，是抬上来的。此物重约三千六百斤，孙悟空上手挥了两下，嫌太轻。东海龙王又命人抬出一杆方天画戟，重约七千二百斤。
谁知，孙悟空还是嫌太轻了。东海龙王说再也没更重的武器了，你想再挑，那是不能了。孙悟空不依不饶，让东海龙王再去寻找。于是东海龙宫一群人一合计，就说出了一个武器。
东海龙王告诉孙悟空，当年大禹在治水的时候留下了一个定海神针，一直没有人敢去拿，如果你需要的话，便自己去取。孙悟空一听，立马就来劲了！
接着，孙悟空便随东海龙王看到了一根金光万道的硕大铁柱。谁知道，这神器居然很亲近孙悟空，让它变长变短，变粗变细，全凭心念一动。
至此，这个夺天地造化的神兵就认主了，成就了孙悟空齐天大圣的威名。在《西游记》的第七十五回中，孙悟空专门就如意金箍棒介绍了一番：
棒是九转镔铁炼，老君亲手炉中煅。
禹王求得号神珍，四海八河为定验。
......
全凭此棍保唐僧，天下妖魔都打遍！
在《西游记》第八十八回里中，孙悟空又称赞了如意金箍棒：
鸿蒙初判陶镕铁，大禹神人亲所设。
湖海江河浅共深，曾将此棒知之切。
......
混沌仙传到至今，原来不是凡间铁。
原着中的这两段介绍，对如意金箍棒的来历，做了一个简短的说明。说它的材料是九转镔铁，说它的铸造者是太上老君，说它曾做过大禹治水的工具，说它深藏海底数千年......