下一个目标是——上郡的治所肤施
上郡首府肤施（今延安市）离龟兹城（榆林关）约500里，若骑兵全速奔驰，一天一夜可到，但这样风险太大，天寒冻的长途奔袭，可一而不可再。那样做不仅会导致军队人马疲惫，战斗力下降，还有可能会惊动羌胡，让羌胡有了准备，从而失去奇袭的效果。
肤施做为上郡的首府，胡人数量众多，不是龟兹县城可比。而且关羽只带了一万五千人，如果遇到敌人较强的抵抗，就会有失败的可能。
于是，关羽留下周仓领五千人守龟兹县，接应后续的张飞等人的到来，而关羽自己，则亲率一万骑兵，装扮成胡人，偷偷出关，白天找地方隐藏，夜间行军。用了二天时间，到达肤施附近。于第三天夜晚，潜行到肤施城下。
胡人不擅长守城和攻城，也没想到会有汉军突袭，戒备比较松驰，被典韦带人趁夜摸上城墙，杀散守军打开城门。关羽一马当先领军杀入城中。
肤施城中的胡人守将，名叫哈拉托，是匈奴有名的猛将，身高八尺，手持超大号的狼牙棒，有万夫不挡之勇，是傻大黑粗中的极品。
哈拉托正要就寝，忽闻城中呐喊声震天，连忙披挂整齐，带领二千亲卫，往呐喊声最大的地方杀去。
接近东门时，正好遇上关羽，两人大战20余合不分胜败，哈拉托见城中混乱，亲卫纷纷战死，料知大势已去，便虚晃一招，率残军从南门冲出城外，落荒而逃。
胡人守军看到哈拉托逃走，纷纷跟着往南门逃出城外。
关羽杀散城中守军，派人分守四门，不许任何人进出。
上郡治所肤施城，终于为关羽所控制。
肤施（今延安市）是天下第一陵——中华民族始祖黄帝陵寝所在地。
北连龟兹城（今榆林关），南接关中咸阳、铜川、渭南，东隔黄河与山西临汾、吕梁相望，西邻甘肃庆阳，被誉为“三秦锁钥，五路襟喉。历来为兵家必争之地。
肤施城墙坚实高大，又有守军上万人，若是强攻，恐怕死伤惨重也不一定能攻得下。这次能突袭成功，程昱的计谋起到了非常关键的作用。
拿下肤施城之后，程昱对关羽道
“肤施己为我军控制，但情势却非常不容乐观，请将军先将城中胡人全部斩杀。”
关羽心中不悦道“将胡人青壮缚了即可，奈何要滥杀无辜？”
程昱道“哈拉托逃走之后，必然纠集胡人大队人马来攻。张飞的人马尚未到达，我们坐守孤城，形势不容乐观。留着这些俘虏在城里，恐生祸乱，为防不测，必须全部杀了。”
关羽向来很骚包自恋，又爱惜名声，岂肯干这种事？听了程昱的话，心中很不痛快道“军师休要多言，此事本将自有分寸。”
三国谋士中，贾诩以阴毒闻名，而程昱则以凶残居称，这可是敢拿人肉切片风干了充军粮的主！
见关羽没有采纳自己的意见，程昱眼珠一转，针对关羽疾恶如仇的性格，又想出让其就犯的办法来。
程昱不再提屠杀胡人的事，而是开口对关羽说“大战将起，城中不能出现了内乱。请将城中百姓全部集中起来，分成胡汉两群，短期内实行分开管制。将军也应该见见这些饱受胡人欺凌的同胞汉人，守城之时，或者能成为我们的助力。”
这话说得合情合理，关羽欣然接受。
于是，关羽下令清理肤施城中的人口，共有胡人8000多人，解救汉人奴隶1500多人，其中汉人女子达1200多人。
当关羽看到这些衣不遮体，骨瘦如柴，饱受胡人摧残的汉人女子时，关羽终于也“狂化”了——大喊一声，“将这帮禽兽全砍了！”说罢，手起刀落，将一名俘虏劈成两半！
于是，胡人不论男女老幼，全部被杀了个精光！