宋神宗元丰四年（1081），知庆州（今甘肃庆阳县）、节制泾原兵。

这年，宋神宗决定兵分五路讨西夏。鉴于高遵裕在西部守边多年，数立战功，乃命他担任一路军马主帅。宋神宗之母宣仁高太后闻知，向神宗说：“我伯父高遵裕报国忠心，不后于别人，但他有个致命的弱点，气度太小，虚荣心强，不容别人之功高于他。既然这样，攻城守地总想把功劳归于自己，不许他将所得。这短处易致失败，一旦失败，后果不堪设想，所以，他只能作副将，不能命他作主帅”。宋神宗刚愎自用，不听母劝，仍命高遵裕为一路兵马主帅，率步兵主帅。刘昌祚率步骑五万，于磨移隘（今甘肃临潭县境内）破夏军十万之后，带兵到达军事要地灵州（今宁夏灵武县西南）城下，四面攻城，指日可待。高遵裕得报后，顿起嫉心，决意抢立此功，命令刘昌祚停止进攻。三日后，高遵裕率军到灵州时。西夏军已做好准备，从灵州城南面，决开黄河七级大渠，刹时波涛汹涌，灌进宋营和数十里平川，淹死者千万。时值隆冬，大雪纷飞，给养又绝。西夏十万骑兵从三个方面紧追围攻，宋军无力抵抗，四路溃败。高遵裕、刘昌祚两路仅存万余残兵败归。宋神宗夤夜得报，十分气恼，撤去高遵裕的职务，将之贬为郢州（今湖北钟祥）团练副使。哲宗即位，复为右屯卫将军，主管中岳庙。卒赠永州团练使。绍圣中，崇赠奉国军节度观察留后。