Ancón fue creado como un pueblo de pescadores hace 4000 años por la civilización indígena Ancón-Supe, una de las más antiguas de la costa peruana. Durante la colonia hispana, el lugar fue conocido como "Pueblo de Pescadores de Lancón". Sus pacíficas aguas son llamativas para quienes gustan de los deportes de aventura y la navegación.

Atesora en sus predios los restos arqueológicos más importantes de la costa peruana, conocido como el complejo arqueológico de Ancón. En el año 1870 fueron descubiertas las primeras tumbas de una gran necrópolis cuando se realizaban los trabajos de excavación para la construcción del ferrocarril hacia Huacho, continuó con las excavaciones y los estudios. Las conclusiones fueron que en el área existían restos de tres épocas bien definidas. Una muy antigua con influencia Chavín de Huántar, una intermedia con elementos de la Cultura Huaura, y otra reciente dominada por las culturas Chancay e Inca.

En 1959 el arqueólogo Jorge C. Muelle encontró restos precerámicos debajo de las capas chavinoides y remontó la prehistoria de Ancón a varios miles de años a. C.

La bahía de Ancón ha sido utilizada como puerto natural en diversas ocasiones. Una de ellas fue durante la Guerra del Pacífico, conflicto bélico que Perú y Boliviatuvieron con Chile en el período 1879-1883. Incluso, allí se firmó el histórico tratado que diera fin a esa contienda el 20 de octubre de 1883. Desde el año 2005, el distrito de Ancón es sede del penal de Piedras Gordas, el más moderno del Perú.