，字相如，安定乌氏人也。少任侠，不仕州郡。性刚果，喜正人之是非。好读兵书，颇涉经史。周世以军功拜仪同三司。武帝将有事东夏，闻其勇决，自扶风郡守除九曲镇将，进位上开府，封建威县公，齐人甚惮焉。寻迁熊州刺史。后从武帝拔晋州，进位柱国，除使持节、晋绛二州诸军事、晋州刺史。
及帝还后，齐后主亲总六军而围之。独守孤城，外无声援，众皆震惧，士彦慷慨自若。贼尽锐攻之，楼堞皆尽，城雉所存，寻仞而已。或短兵相接，或交马出入。士彦谓将士曰：“死在今日，吾为尔先！”于是勇烈齐奋，呼声动地，无不一当百。齐师少却。乃令妻妾军民子女，昼夜修城，三日而就。帝率六军亦至，齐师解围，营于城东十余里。士彦见帝，持帝须而泣曰：“臣几不见陛下！”帝亦为之流涕。
时帝以将士疲倦，意欲班师。士彦叩马谏曰：“今齐师遁，众心皆动，因其惧也而攻之，其势必举。”
帝从之，大军遂进。帝执其手曰：“余之有晋州，为平齐之基。若不固守，则事不谐矣。朕无前虑，惟恐后变，善为我守之。”及齐平，封郕国公，进位上柱国、雍州主簿。宣帝即位，除东南道行台、使持节、徐州总管、三十二州诸军事、徐州刺史。与乌丸轨擒陈将吴明彻、裴忌于吕梁，别破黄陵，略定淮南地。