郡作为地方行政区划始于春秋末年。因战争需要，各国在边地设郡，面积虽大，但地位低于县。到战国时期，边地逐渐繁荣，故于郡下设县，形成郡、县两级制。郡长官称守，初为武职，防戍边郡，后逐步成为地方长官。
这是春秋战国时代地方行政区划制度的萌芽和发展时期。秦始皇统一中国后，建立了中央集权国家，健全郡县制，并全面推行于全国范围，成为政权组织地方行政区划郡县二级制。郡下设若干县，郡县长官均由中央任免，成为中央集权组织的一部分。作为地方政区最高一级的郡，秦代到底设置多少，因史无明载，故历来无定论。
秦始皇二十六年（公元前221 年）统一全国后，分全境为36郡，这是学术界比较一致的看法。由于第一部正史《史记》不立专篇地理志，未载其全名。南朝宋裴骃《史记集解》作“三川、河东、南阳、南郡、九江、鄣郡、会稽、颍川、砀郡、泗水、薛郡、东郡、琅邪、齐郡、上谷、渔阳、右北平、辽西、辽东、代郡、巨鹿、邯郸、上党、太原、云中、九原、雁门、上郡、陇西、北地、汉中、巴郡、蜀郡、黔中、长沙凡三十五，与内史为三十六郡”。
清代以来多数学者认为裴说不足尽信，但诸家说法又各不相同：一说认为裴注内史（即秦京师）不应在郡数内，补以郯郡（洪亮吉《与钱少詹论地理书一》载《卷施阁文甲集》卷十）；一说应去内史、鄣郡，增以郊郡、广阳（毛岳生《秦三十六郡说》，载《休多居文集》卷一）；一说应去内史、鄣郡、九原，补以陶郡、河间、闽中（王国维《秦郡考》，载《观堂集林》卷十二）；一说应去内史、鄣郡、黔中，补以桂林、南海、象郡（钱大昕《秦三十六郡考》载《潜研堂文集》卷十六）等众多说法。
究竟秦一代共设置多少郡，目前学术界尚未定论。一般都认为36郡是秦始皇统一中国时的郡数，其后续有增析。但诸家的说法又各不相同，下列是几种具有代表性的说法：（1 ）秦36郡说。钱大昕主此说。这是与众不同的一种说法，大多数学者都认为秦始皇二十六年后陆续有所增设和分置，但他根据《汉书。地理志》称：秦置者二十有七；称秦郡者一；称故秦某郡者八，共三十六郡。秦二世改元以后豪杰并起，复称六国，分置列郡，多有出于三十六郡之外者，不久仍复并省，故《班志》略而不言。（《秦三十六郡考》，载《潜研堂文集》卷十六）全祖望《汉书地理志稽》亦同此说。
（2 ）秦40郡说。《晋书。地理志》主此说。云：“始皇初并天下，惩战国，削罢列侯，分天下为三十六郡（按：其郡名与裴注同）。於是兴师逾江，平取百越，又置闽中、南海、桂林、象郡，凡四十郡。”主同此说者甚多，如杨守敬《历代舆地图。秦郡县表序》、金榜《礼笺》附录《地理志分置郡国考》，刘师培《左盦集。秦四十郡考》等等。
（3 ）秦48郡说。王国维主此说。他根据《史记》纪传等史籍逐个考证，得出秦共置郡四十有八的结论。还以“秦以水德王，故数以六为纪”为依据，称“二十六年，始分天下为三十六郡。三十六者，六之自乘数也，次当增燕齐六郡为四十二郡。四十二者，六之七倍也。至三十三年，南置南海、桂林、象郡，北置九原，其于六数不足者二，则又于内地分置陈、东海二郡，共为四十八郡。四十八者，六之八倍也，秦制然也。”（《秦郡考》，载《观堂集林》卷十二）。（4 ）秦46郡说。谭其骧主此说。认为钱大昕是“执泥于《班志》三十六郡目，置史汉纪传于视若无睹，啁嘐再四，终难自圆其说”：“全祖望所得繁多，惟限于初并天下时之三十六郡”。杨守敬、刘师培等“因仍旧说，略无创获”。王国维“乃推而及于嬴秦一代所有之郡，而不免好奇穿凿”。
他依据《史记》纪传、《水经注》、《华阳国志》等史籍逐个考实，得出秦一代建郡于史有征者四十六，同时认为“然非得谓秦郡必止于是数”，他不同意王国维所谓“秦以水德王，故数以六为纪”用“六自乘和六之倍数”计郡的方法，王氏惟其秦置郡必为六之倍数，因谓东海与南海、九原等同置于三十三年之说则殊嫌无据。秦置东海之年，史无明征，《始皇本纪》，三十五年，立石东海上胸界中，以为秦东门，疑即在是年。又如“汉以五数为纪，百三郡国何尝为五之倍数乎？”（《长水集》上，人民出版社）
此外马正林认为秦王朝共设多少郡，“大致说来，以四十一郡的说法比较妥当，若再加上设在国都咸阳的内史，一共为四十二个郡级单位（《中国历史地理简论》，陕西人民出版社）。
秦一代设多少郡，自清代以来，研究它的学者不少，长期争论不休，成绩甚微，尚无实质性的突破。这是因为第一部正史《史记》不立专篇地理志记叙秦郡设置及沿革，只散记于纪传之中，难免有不全之纰漏，以致秦全部郡数无法见于一代之史，年代久长也就难以搞清楚。后世只能根据现存的材料加以考订，在史无明说的情况下，难怪仅一郡的设置时间就有多种看法相持不下。因此，要真正求得2000多年前秦郡实际数目，彻底揭开秦郡数之谜，无疑是相当困难的。