最早是邠宁节度使朱玫的部将，提为列校。唐僖宗光启二年（886年），朱玫拥立李煴为帝，改元建贞，令他带兵五万追击外逃凤翔（治今陕西凤县东北）的唐僖宗。同年十二月，王行瑜倒戈攻杀朱玫、李昌符，纵兵大掠，时值寒冬，冻死的百姓横尸蔽地。僖宗命行瑜为邠宁节度使。

唐昭宗景福元年（892年）与凤翔节度使李茂贞联合擅自攻取汉中（今陕西省汉中市）。次年，迫使昭宗李晔杀死宦官西门君遂及宰相杜让能等。昭宗赐行瑜铁券。

乾宁二年（895年），侍中兼中书令王行瑜擅权，要求担任尚书令，韦昭度密奏：“太宗以尚书令执政，遂登大位，自是不以授人臣。惟郭子仪以大功拜尚书令，终身避让。王行瑜安可轻议！”于是皇帝任李溪为相。王行瑜大恨，联合李茂贞及镇国节度使韩建攻入长安，杀韦昭度、李溪，并谋唐废昭宗，另立李保为帝。李克用率军南下勤王。十一月，李罕之克龙泉镇。王行瑜逃往梨园寨（今淳化县城），再逃回邠州，向李克用请降，被拒，遂弃城逃往庆阳，为其部下所杀。传首京师。