北京“中关村”闻名于世，始于1953年中科院研究所的进驻。中科院成立后，有些南方的研究所须迁进北京，调整后的各在京研究所也都要扩充实验室和办公室，摆在当时院领导面前最紧迫的一项任务，就是要在北京为科学院的长远发展选择一个有较大发展空间的科研基地，时称“永久院址”。

    那时，北京的建设规划已大致形成了将高校较集中地安排在西北郊的共识。中科院领导认为，科学院的研究基地应靠近大学，这样可以充分利用已有交通和电力条件，使建楼工程和日后科研工作得以迅速走上轨道。而更重要的是，科学院的发展必须注重与大学的合作，地理上的接近，便于学术交流。

    1951年4月，北京市同意在清华以南、海淀以东、京绥路以西的地段内为科学院“保留相当发展用地”。后来明确南沿为大泥湾（黄庄附近）以北，可用地约为4500亩。1952年2月，中科院成立建筑委员会，吴有训任主席，陶孟和、竺可桢任副主席，委员有院内外专家严济慈、梁思成、张开济等20余人。中关村科学城的建设旋即全面展开。

    1951年11月，科学城中第一个科学建筑物——中科院近代物理研究所大楼（“原子能楼”）动工，1953年底竣工。1954年元月研究所正式迁入，成为中关村里科研机构第一家。

    近代物理研究所第一任所长是吴有训。迁此楼时，研究所第二任所长是钱三强（后来长期担任原子能所所长），副所长是彭桓武和王淦昌。到1958年，研究所已经聚集了一大批科学精英，如钱三强、何泽慧、赵忠尧、彭桓武、王淦昌、肖健、邓稼先、朱洪元、胡宁、杨澄中、杨承宗、戴传曾、黄祖洽、陆祖荫、于敏、张文裕、王承书，等等。

    原子能所的重要任务是研制原子弹。“原子能楼”是“两弹一星功勋奖章”获得者的一大摇篮。原子能所就如母鸡孵蛋一般，衍生出一大批研究机构，现属核工业总公司的许多单位，中科院的高能所、理论物理所、兰州近代物理所等都是它的“后代”。

    继1953年原子能楼之后，1954年建成的地球物理所大楼、1955年建成的化学所科研楼、1956年10月建成的生物楼，是科学城里最早的4幢科研大楼，在以后的数十年里，它们是中关村地区的标志性建筑。

    1956年，“12年科技规划”制定后，一座座科研大楼、一个个研究所，在这块土地上出现，一大批科学家在这里工作和栖居。在这里，科学院配合“两弹”攻关，开创人造卫星事业，落实“四大紧急措施”，部署和组织全国自然资源综合考察等具有战略意义的重大科研项目，中关村科学城成为共和国发展现代科学技术和实现国家目标的重要科学基地。

    截至1966年，中科院直属研究机构有118个，分布在北京的28个研究机构中，有22个集中在中关村。可以看出，中关村科学城的基本格局已经在“文革”前形成，它的飞速发展也成为新中国科学技术事业的一个缩影。