Iron Mountain werd in 1951 opgericht in Livingston, NY, 200 kilometer ten noorden van New York City. De oprichter van het bedrijf, Herman Knaust, was bij de bewoners van de vallei van de Hudson-rivier bekend als de 'champignonkoning' omdat hij fortuin maakte met het kweken en verkopen van champignons. In 1936 kocht hij een uitgeputte ertsmijn en ruim 400 vierkante kilometer land voor 9.000 dollar omdat hij meer ruimte nodig had om zijn product te verbouwen. Maar tegen 1950 was de champignonmarkt veranderd en Knaust ging op zoek naar alternatieve toepassingen voor zijn mijn, die hij 'Iron Mountain' had genoemd.

Na de Tweede Wereldoorlog steunde Knaust de emigratie naar de Verenigde Staten van veel joodse slachtoffers die hun identiteit waren verloren omdat hun persoonlijke papieren waren vernietigd. Tijdens dezelfde periode nam vanwege de Koude Oorlog de angst voor de atoomdreiging toe. Deze twee factoren deden Knaust beseffen hoe belangrijk het is om informatie te beschermen tegen de gevolgen van oorlogen en kleinere rampen.

In 1951 werd Iron Mountain Atomic Storage, Inc. opgericht. Knaust opende de eerste 'kluizen' in de Iron Mountain en vestigde een verkoopkantoor in het Empire State Building. Hij had gevoel voor publiciteit en haalde beroemdheden als generaal Douglas MacArthur over om Iron Mountain te bezoeken. De hiermee gepaard gaande media-aandacht kwam goed van pas in het marketingprogramma van het nieuwe bedrijf. De eerste klant van Iron Mountain was East River Savings Bank, die microfilmkopieën van stortingsbewijzen en duplicaten van handtekeningkaarten in gepantserde wagens voor opslag naar de nieuwe bergkluis bracht. Andere zakelijke klanten volgden al snel toen meer bedrijven uit New York de noodzaak begonnen in te zien om hun belangrijke archiefmateriaal te beschermen.

Iron Mountain bleef groeien op de markt van New York City. De oorspronkelijke bergruimte werd uitgebreid met een gesloten kalksteenmijn die dichter bij de stad lag. De lege mijn vormde een natuurlijke locatie om een ondergrondse opslagplaats in te richten. Iron Mountain was nu uitgegroeid tot het grootste bedrijf voor de bescherming van belangrijke archieven.

Klanten vertrouwden hun belangrijke archief toe aan Iron Mountain en vroegen het bedrijf weldra om ook hun omvangrijke papieren bestanden te bewaren. In 1978 opende Iron Mountain de eerste bovengrondse opslagfaciliteit in New York voor het bewaren van papieren bestanden. In 1980 was de markt van New York City te klein geworden en werd er een nieuwe locatie geopend in New England voor het beschermen van back-upgegevens. In 1983 vond er nog een uitbreiding in New England plaats met de aankoop van het New England Storage Warehouse in Boston. Dit was de eerste acquisitie van Iron Mountain en opende de weg naar de markt voor het beheer van medische en juridische archieven in New England.

Tegen die tijd had Iron Mountain alle productlijnen verzameld die het fundament vormen van de huidige onderneming. Het bedrijf leverde diensten voor het beheer en de opslag van papieren bestanden (waaronder uitgebreide activiteiten op de medische en juridische verticale markten), off-site gegevensbescherming en bescherming van belangrijke archieven in New York en New England.

In 1988 deed Iron Mountain een grote stap vooruit met de acquisitie van Bell & Howell Records Management, Inc., een dochteronderneming van Bell & Howell Corporation die vier keer zo groot was als Iron Mountain zelf. Bell & Howell Records Management, dat toen de brancheleider was, bediende twaalf grote Amerikaanse markten, en op geen daarvan was Iron Mountain actief. Dankzij deze overname werd Iron Mountain de grootste nationale dienstenaanbieder in deze branche.

De nadruk lag op interne uitbreiding en het bedrijf boekte in 1995 al een jaaromzet van meer dan 100 miljoen dollar. Het tijdstip was gekomen voor de branche voor records management om te gaan consolideren. In februari 1996 werd Iron Mountain een openbare vennootschap, die op zoek ging naar kapitaal, onder meer om de consolidatie te kunnen starten.

Een decennium later viert Iron Mountain zijn tienjarig bestaan als openbare vennootschap. In de tussentijd is het bedrijf belangrijke mijlpalen gepasseerd wat betreft de jaaromzet, de geografische aanwezigheid en uitbreiding van het dienstenpakket.

Sinds haar oprichting is de onderneming de brancheleider geworden in alle dienstenlijnen door de acquisitie van meer dan 150 bedrijven op 166 markten over de hele wereld. Hoewel de beweeggronden om archieven te beheren kunnen zijn veranderd en de risico's zijn toegenomen, zijn de kernproblemen waarmee klanten vandaag te maken krijgen, hetzelfde gebleven. De technieken die werden gebruikt om informatie te creëren en te beheren, zijn echter explosief toegenomen.

Iron Mountain is al geruime tijd de leider in het ontwikkelen van nieuwe oplossingen om aan de veranderende behoeften van klanten tegemoet te komen en verwacht de huidige informatiedragers (papier, film, tape etc.) nog vele jaren te zullen beheren. Bovendien biedt de onderneming nieuwe oplossingen aan die gebruikmaken van de opkomende digitale technieken. Hierdoor ontstaan geheel nieuwe uitdagingen voor klanten en mogelijkheden voor Iron Mountain.

Met 2,1 miljard dollar omzet en het breedste dienstenplatform waarmee de meeste markten worden bediend, is Iron Mountain "de vertrouwde partner voor diensten op het gebied van informatiebescherming en -opslag." Herman Knaust gaf in 1952 blijk van een vooruitziende blik toen hij zei:

"Dit bedrijf zal groeien als een paddenstoel"...
~ voorpagina van de Wall Street Journal, 24 oktober 1952