Krzem został po raz pierwszy wyizolowany w laboratorium szwedzkiego chemika Jönsa Jacoba Berzeliusa w 1824 roku. Berzelius wyjął swoją próbkę przez podgrzanie potasu w glinianym naczyniu, aż krzemianowa skała zaczęła się rozpadać. Kiedy wypłukał zanieczyszczenia, Berzelius został z próbką prawie czystego krzemu.
Krzem odkryto wcześniej niż wiele innych pierwiastków chemicznych z powodu jego względnej obfitości. Krzem jest lekki, więc łatwo syntetyzuje go reakcja jądrowa w gwiazdach. Fakt ten, wraz ze względną stabilnością, sprawia, że krzem jest drugim co do ważności elementem skorupy ziemskiej, a także siódmym najbardziej rozpowszechnionym elementem we wszechświecie.