临淮王彧、安丰王延明，帅百僚，封府库，备法驾迎颢。丙子，颢入洛阳宫，改元建武，大赦。以陈庆之为侍中、车骑大将军，增邑万户。杨椿在洛阳，椿弟顺为冀州刺史，兄子侃为北中郎将，从魏主在河北。颢意忌椿，而以其家世显重，恐失人望，未敢诛也。或劝椿出亡，椿曰：“吾内外百口，何所逃匿！正当坐待天命耳。”
上党王天穆等帅众四万攻拔大梁，分遣费穆将兵二万攻虎牢，颢使陈庆之击之。天穆畏颢，将北渡河，谓行台郎中济阴温子升曰：“卿欲向洛，为随我北渡？”子升曰：“主上以虎牢失守，致此狼狈。元颢新入，人情未安，今往击之，无不克者。大王平定京邑，奉迎大驾，此桓、文之举也。舍此北渡，窃为大王惜之。”天穆善之而不能用，遂引兵渡河。费穆攻虎牢，将拔，闻天穆北渡，自以无后继，遂降于庆之。庆之进击大梁、梁国，皆下之。庆之以数千之众，自发铚县至洛阳，凡取三十二城，四十七战，所向皆克。
魏北海王颢既得志，密与临淮王彧、安丰王延明谋叛梁；以事难未平，藉陈庆之兵力，故外同内异，言多猜忌。庆之亦密为之备，说颢曰：“今远来至此，未服者尚多，彼若知吾虚实，连兵四合，将何以御之！宜启天子，更请精兵，并敕诸州，有南人没此者悉须部送。”颢欲从之，延明曰：“庆之兵不出数千，已自难制；今更增其众，宁肯复为人用乎！大权一去，动息由人，魏之宗庙，于斯坠矣。”颢乃不用庆之言。又虑庆之密启，乃表于上曰：“今河北、河南一时克定，唯尔朱荣尚敢跋扈，臣与庆之自能擒讨。州郡新服，正须绥抚，不宜更复加兵，摇动百姓。”上乃诏诸军继进者皆停于境上。