两年以后，即开元十四年（公元726年），唐玄宗正式提出要立武惠妃为皇后，但遭到大臣们的竭力反对。无奈，玄宗只得暂时作罢。
惯于揣摩人意的李林甫从这些事情中认识到，如果能够取宠于武惠妃，得到她的信任和帮助，定能取宠于皇帝，不愁做不了大官，这可是一条升官的捷径。为了进一步了解宫廷内幕及玄宗与武惠妃的意图，他不惜重金贿赂宫中太监，为他打探消息，通风报信。不久，李林甫便探知武惠妃想立亲生儿子寿王李瑁为太子，与太子李瑛之间的矛盾十分尖锐。于是，李林甫便通过太监向武惠妃献媚说：“林甫将全力支持寿王为太子。”此时的武惠妃，已经从自己没能如愿立为皇后的事情中得到教训，正合计着要能实现立儿子李瑁为太子的目的，除了继续取宠于皇帝外，还必须得到朝中大臣的支持，因此对李林甫的投靠十分高兴，将他视作亲信，在唐玄宗面前不断替他说好话。在枕边风的鼓吹下，唐玄宗就对李林甫逐渐产生了好感。不久，玄宗便提擢李林甫当了刑部侍郎，后又改任吏部侍郎。