淮阴，因居淮河南岸（水之南为阴）而得名，处三阿城以北，西南方为盱眙，中间有湖水相隔，距广陵军营约三百里。

晋朝以征北、镇北将军，青、兖二州刺史镇淮阴，淮阴遂为重镇。永和八年（352年），北中郎将、徐州刺史荀羡镇守淮阴，他认为淮阴旧镇“地形都要，水陆交通，易以观衅，沃野有开殖之利，方舟运漕”，却“无地屯兵”，因而在秦汉故城（即甘罗城）之南一里许，营造新的城池（后来的淮阴故城，今码头镇附近），自此淮阴为......