狭義の中南海は紫禁城の西側にある中海と南海という2つの湖のみを指している。金朝時代、今日の中南海の北半分に太液池と皇帝が夏の離宮として用いていた大寧宮が存在していた。金朝時代、中海の秋の景色は「太液秋波」と称され皇帝章宗によって燕京八景(燕京は北京の古称)のひとつに選ばれている。元の時代になって今日の北京の地に大都が建設されると、太液池は皇城の一部に組み込まれ、池の周囲に大内裏、隆福宮、興聖宮の3棟の宮殿が作られた。元の時代の太液池の範囲は今日の北海と中海に相当する。
明の時代になった1406年、永楽帝によって新たな宮殿の造営が始められた。永楽帝の宮殿は元の皇城より敷地が南にずらされた。 同時に宮殿の景観を豊かにするべく今日の南海が掘削され、南海の掘削残土と紫禁城の堀にあたる護城河の掘削残土によって、風水の観点から皇城の北に人工の丘、万寿山が築かれた。今日の景山にあたる。これにより北海、中海、南海が太液池と総称され、皇城西苑に属する事になった。北海と中海は金鰲玉蝀橋で結ばれ、中海と南海は蜥蜴橋で結ばれた。
清が北京に都を定めると、北海、中海、南海の周りを囲むように赤い壁が廻らされた。御苑の面積は赤い壁の内側までに縮小され、それまで西苑の一部とされていた広大な土地には民家が立ち並ぶようになる。御苑は清朝の歴代皇帝らの避暑や政務の場として用いられた。同治帝と光緒帝の時代、咸豊帝の妃で清朝後期の事実上の権力者だった西太后と皇帝は例年12月になると頤和園から紫禁城に戻ってきていたが、儀式の時のみ紫禁城に出向きそれ以外の時間は御苑で過ごす事が多かったと言う。西太后は戊戌の政変後、光緒帝を南海の瀛台に幽閉、光緒帝の幽閉生活はその死に至るまで続く事になる。
1900年の義和団の乱の際には御苑はロシア軍の駐屯地とされ、略奪の被害にあっている。八カ国連合軍の司令ヴァルダーゼーが北京に到着すると中南海の儀鸞殿が宿舎となった。清朝最後の皇帝溥儀が即位すると中海の西岸にある集霊囿に摂政王府が建てられている。
1911年、辛亥革命によって清朝が滅亡すると中南海は袁世凱率いる北洋政府の総統府として用いられるようになり、1915年12月に袁世凱が帝政を宣言すると中南海は新華宮と改称されている。袁世凱が帝政を取り消し失意のうちに没した後も中南海は北洋政府総統と首相の執務の場として用いられ続け、1926年には中南海は「大元帥府」として張作霖の執務の場となった。1928年に国民政府が南京に遷都した後、中南海は公園として一般に開放された。
1949年以後中南海には中国共産党本部と中華人民共和国国務院が置かれ、毛沢東・周恩来・鄧小平ら党や政府の要人の居住区として整備されて現在に至っている。
政府・党首脳部を指す隠語としても使われている。日本でいう官邸や永田町、アメリカ合衆国におけるホワイトハウスのようなもの。