区境在元代以前一直隶属寿州（或寿春县），元代至元二十八年（1291年）建置怀远县，区境隶属怀远县。

大通地区开发较早，上窑、洛河两地均有1400多年的历史。上窑是历史古镇，是唐代七大瓷都之一“古寿州窑”的集中地。洛河古镇，是淮河沿岸重要商埠，素有“小蚌埠”之称。

大通、九龙岗是淮南煤矿的发源地，早在明末、清初就有当地人在舜耕山一带，用土方法开窑挖煤谋生。

19世纪末，光绪二十三年（1897年）寿州统领徐吉忠（凤台人）来此开办官窑谋利。

清宣统二年（1910年）萧县人段书云等来区境筹建煤矿，次年正式注册“大通煤矿公司”，是为“大通”之名的由来。

民国19年（1930年）3月27日，国民政府建设委员会来投资，在九龙岗成立淮南煤矿局是为官办淮南煤矿的源头。

民国27年（1938年）6月，日本侵略军占领大通，攫取大通、九龙岗煤矿。

民国34年（1945年），日本投降，大通矿、九龙岗矿再次被国民政府和宋子文财团接管。

1949年1月18日，大通地区获得解放。大通地区在隋、唐、宋时期属寿州管辖，元、明、清至解放前夕，属怀远县管辖。民国期间，随着淮南矿区的形成，在实际管辖中，洛河、上窑地区属怀远管辖，而大通、九龙岗地区属于矿区管辖。

1949年1月18日大通获得解放后，在大通、九龙岗两地分别设立了乡政府隶属淮南煤矿特别行政区。同年11月，改设为大通镇和九龙岗镇，隶属淮南矿区行政办事处。1950年9月至1953年5月，属淮南市人民政府所辖。

1953年5月至1955年3月，撤销大通、九龙岗两镇，成立大通、九龙岗两区人民政府，直属淮南市人民政府。

1955年4月1日，撤销大通、九龙岗两个科级区，合并成立县级市辖大通区。下辖大通、九龙岗两个建城区和新设立的夏郢乡。同年12月，夏郢乡又划归郊区区公所管辖。为便于城区的管理，1957年6 月，在九龙岗设立了街道办事处，1965年12月，在大通设立了街道办事处。此期间，由于农村面积广阔，城乡交错，政权建设处于过渡状态，全区没有形成统一的政权领导机构。农村、城市、工矿等属于各自的上级领导，区划归属亦经常变动。

1967年1月造反派“夺权”，党政机构瘫痪，由“支左”部队实行军管。

1968年3月28日，大通区更名为东风区，并成立东风区革命委员会，取消原政府工作机构，设立办公室、政治部、生产指挥部和人民保卫部。基层也相应成立了革命委员会或革命领导小组。

1969年3月，洛河、窑河、上窑、宫集4个人民公社划归大通管辖区。至此，大通区区划和归属基本定型，即所辖大通、九龙岗两个街道办事处，上窑、窑河、洛河、宫集、淮丰5个人民公社。

1972年7月，遵照市革命委员会通知，将“文化大革命”初期改名的东风区恢复为大通区。

1976年4月，取消区革命委员会下属的三部一室，恢复科、室、局，实行党政分开。

1980年8月，召开大通区第八次人民代表大会，将大通区革命委员会改称为大通区人民政府。

1983年5月，根据农业生产体制改革精神，撤销了人民公社，重新建立了乡人民政府。

1984年12月，撤销了洛河乡、上窑乡，改设洛河镇和上窑镇。此时，大通区所辖为上窑、洛河两个镇，窑河、宫集、淮丰3个乡，大通、九龙岗两个街道办事处。

1992年2月，将所辖的三乡两镇、两个街道办事处撤并为三镇一街道。即上窑镇和窑河乡合并组建新的上窑镇；洛河镇和宫集乡合并组建新的洛河镇；淮丰乡和九龙岗街道办事处合并组建新的九龙岗镇；保留大通街道办事处。

2004年6月，经区划调整，孔店乡由长丰县划归大通区。至此，大通区下辖上窑镇、洛河镇、九龙岗镇、孔店乡和大通街道办事处。