Indtil for nylig gik man udfra, at der omkring år 1000 sandsynligvis ikke var andet end et lille fiskerleje der, hvor København ligger i dag. Fiskerlejet lå umiddelbart nord for Københavns Rådhus omkring Mikkel Bryggers Gade, der dengang lå ud til havet. Men i forbindelse med udgravning af Metroen har man fundet spor af bådebroer ved Gammel Strand, der daterer sig helt tilbage til omkring år 800.
Første gang Københavns forgænger under navnet "Havn" nævnes i kilderne er i forbindelse med et søslag mellem Svend Estridsen og den norske konge Magnus den Gode i 1043. Derefter er der tavshed om byens skæbne i de næste 120 år, hvilket er et tegn på, at byen i forhold til andre danske byer på denne tid har været af sekundær betydning.
Det er sandsynligt, at byen i løbet af 1100-tallet har kunnet profitere på den centrale placering mellem de store domkirkebyer Lund og Roskilde og dermed har været et vigtigt punkt for trafik og handel mellem de to byer. Den naturlige havn samt den lille ø Slotsholmen, som vat let at forsvare, har ganske sikkert også givet byen store fordele. I anden halvdel af 1100-tallet høre man igen om byen, da den lille by "Hafn" eller "Køpmænnahafn" ifølge Saxo Grammaticus omkring 1160 overdrages til biskoppen Absalon. Fra omkring 1167-1171 byggede Absalon en borg og en bymur på stedet. Sandsynligvis lå borgen på Slotsholmen, hvor Christiansborg ligger i dag. Det var sandsynligvis også Absalon, der byggede byens første kendte kirke, Sct. Clemens.
Under Absalons ledelse begyndte byen at vokse, og især i 1200-tallet udvidede byen sig, så den efterhånden kom til at dække en større del af området mellem Kongens Nytorv og Rådhuspladsen. Vor Frue Kirke, Gråbrødre Kloster, Skt. Peder og Skt. Nikolai blev alle bygget i første halvdel af det 13. århundrede.
Efterhånden begyndte byen at vokse sig til rigets største og mest betydningsfulde, selv om den endnu ikke var blevet hovedstad. Placeringen midt i riget (Skåne var dengang dansk) var ideel. I 1419 lykkedes det endelig en dansk konge, Erik af Pommern, permanent at tage magten over byen fra kirken. De danske konger betragtede fra nu af denne by som deres vigtigste by, og i 1443 gjorde Christoffer 3. byen til kongelig residensby. 1479 blev universitetet grundlagt.
Christian 4. fik stor betydning for København. Under ham blev byens gamle mure langs Gothersgade lagt ned og udvidet, så de nu gik langs den nuværende jernbanelinje mellem Nørreport og Østerport, udenom det af Christian 4. nyanlagte Nyboder, mens de eksisterende volde rundt om middelalderbyen blev kraftigt moderniseret. Københavns volde blev også udvidet med forsvarsanlæg af det nyanlagte område Christianshavn.
Ved indførelse af enevælden i 1660 under Frederik 3. blev København en endnu vigtigere by i Danmark, fordi det var herfra den stadigt mere centralistiske danske stat blev styret. Byen var imidlertid tosproget. Mellem en tredjedel og fjerdedel af befolkningen havde tysk som talesprog, enten de var indvandret fra kongens tyske provinser eller fra andre egne af Tyskland.
I 1664 blev byens befæstning færdiggjort med bygningen af Kastellet ved Østerport. I 1711-1712 hærgede en af de værste pestepidemier i Københavns historie. Pesten krævede cirka 22.000 af byens omkring 60.000 indbyggere. Nogle år efter gik det endnu en gang galt, da lige over en fjerdedel af byen gik op i røg ved en bybrand i 1728.
I sidste halvdel af det 18. århundrede oplevede København en enorm opgangstid som følge af den profitable handel mellem de stridende magter, England og Frankrig. Opgangsperioden sluttede dog for en tid, da først Christiansborg brændte i 1794 og året efter, hvor endnu en ødelæggende brand hærgede den indre by, og siden da den danske flåde blev kapret af engelske styrker. Værst var dog bombardementet af byen i 1807, hvor bl.a. den middelalderlige Vor Frue Kirke gennemskudt af engelske brandbomber gik op i flammer.
Efter en række kriseår skete der i løbet af det 19. århundrede en enorm udvikling i byen. Kulturelt set kom København til at danne rammen om en af dansk histories mest givende kulturepoker, Guldalderen, men det mest markante var følgerne af industrialiseringen i anden halvdel af det 19. århundrede. Efter en frygtelig koleraepidemi i 1853 besluttede man endelig at nedlægge de gamle og militært set forældede bymure. Det blev nu tilladt at bosætte sig uden for murene. Dette førte til oprettelsen af brokvartererne, Nørrebro (fra 1852), Vesterbro, Østerbro, Amagerbro (fra 1905) og Islands Brygge (fra 1905) og en betydelig forøgelse af indbyggertallet. Omkring 1800 boede der cirka 100.000 mennesker i hovedstaden og i starten af det 20. århundrede boede der næsten 500.000. Bygningsmæssigt blev byen fra omkring 1886 præget af det store befæstningsbyggeri Vestvolden, men bygningen af Rådhuset (1905) og Hovedbanegården (1911) satte også sine spor.
