约20万年前，和县人在江浦一带生活。11000年前，溧水人进入氏族公社生活。5000年前，北阴阳营原始居民转向母系氏族公社。4000年前，北阴阳营氏族发展为父系氏族公社。夏朝的建立让南京成为扬州管辖的一部分，而商朝的出现又标志着更长远的历史时期。在西周时期，南京归属于吴国。而衡山之战以及吴国在高淳筑城、铸造兵器，都留下了深刻的印记。

范蠡在中华门外设立越城，而楚威王则在石头山上建起金陵邑，从此“金陵”这个名字便与南京紧密相连。当秦始皇东巡经过丹阳并改金陵为秣陵县后，一系列重要事件接踵而至：孙权将都城迁至秣陵，并更名为建业；他又在石头山上筑起石头城，并设置烽火台作为水军基地。在他的称帝之后，不久就迁都建业，为封建王朝在南京开启了新篇章。

随后的历程中，有晋军攻占石头城、东晋政权成立、刘裕称帝并改国号宋，以及侯景发动叛乱对建康造成破坏等重大事件。此外，还有隋文帝毁掉建康城，以及唐代李白首次游览金陵等文化活动，也是这段历史不可或缺的一环。

937年，李昪建立了南唐，在他的去世后，其子李煦继位，但最终被宋兵攻陷江宁府，最终导致南唐灭亡。而北宋期间，即使实行新政如填湖作田，也无法挽回这一城市的地缘政治影响力。

到了元末明初，这座城市经历了一系列战争和变革，最终由朱元璋攻取并修筑应天府 城。他还开始建设明孝陵，并于1385年完工鸡笼山观象台。但就在1402年，被燕王朱棣率领的军队入侵自立为帝，即明成祖，使得这座城市再次经历巨大变化。