光启二年（886年），诸葛爽病死，其子诸葛仲方因此被大将刘经推举为河阳节度使。刘经担心李罕之不服，于是亲自前往洛阳镇守。不久李罕之因为处理部下的矛盾不当，导致军心不稳。刘经因此突袭渑池，想要消灭李罕之。结果刘经操之过急，反被李罕之所败。李罕之乘胜追击，不仅夺回洛阳，还一路打达河阳。
诸葛仲方见刘经惨败，只得派大将张全义抵御李罕之。张全义原本就对刘经主政不满，于是与李罕之讲和，二人结为兄弟，联手攻打河阳。但李罕之与张全义未能攻克河阳，只得退军。
一年后，李罕之卷土重来，打败了诸葛仲方，夺取了河阳，成为河阳节度使。
因为河阳毗邻洛阳，是大唐东都的门户，唐僖宗李儇苦于杨复恭和寿王李烨的争斗，对于李罕之的行为采取了默认的态度。李烨登基后，处于大局考量，也指示李克用尽量拉拢他。
当李克用的使者到达河阳时，李罕之还是表现出来异常的亲热，不仅好酒好菜招待，还安排美人伺候。