徐匯区の名称は明末の農学者、政治家である徐光啓が居住していたことより命名された。
唐代には華亭県高昌郷に、元代以降は上海県高昌郷に属した。1910年（宣統2年）、徐匯地区は上海県上海城、法華郷、漕河涇郷に区分された。1914年のフランス租界拡大に伴い現在の肇嘉浜路以北及び華山路以東が租界地に編入された。
1927年（民国16年、国民政府が上海特別市を設置した際、租界を除く地区は滬南区、漕涇区、法華区の管轄となった。日中戦争中は南市区、滬西区及び上海特別市第四、七、八区に改編された。
1945年（民国34年）には前身となる徐家匯区が設置が設置された。国共内戦中の1947年（民国36年）、中国共産党により徐匯区と改称された。1958年に西郊区の一部、1984年9月に上海県竜華鎮及び漕河涇鎮、1992年7月に上海県竜華郷を合併し現在に至る。
