Krzem został po raz pierwszy odkryty przez Jonsa Jacoba Berzeliusa w 1824 roku, a jego nazwa pochodzi od łacińskiego słowa "krzemień", "silex". Nazwano go tym, że krzemień jest jedną z popularnych form krzemionki. Zostało odkryte po podgrzaniu wiórków potasowych w pojemniku wykonanym z krzemionki, niezwykle powszechnego związku jednego atomu krzemu związanego z dwoma atomami tlenu.
Krzem, ze względu na powszechność i konfigurację elektronową, występuje w wielu związkach, a te związki często występują w różnych postaciach. Podobnie jak inne pierwiastki w swojej grupie, przede wszystkim węgiel, w swojej zewnętrznej powłoce ma cztery elektrony walencyjne, umożliwiając jednocześnie utworzenie do czterech pojedynczych wiązań kowalencyjnych. Tak jak czysty węgiel jest naturalnie znaleziony jako grafit i diament - dwa bardzo różne materiały - czysty krzem występuje w dwóch postaciach. Jego amorficzne ciało stałe pojawia się zwykle jako matowy brązowy proszek, podczas gdy jego krystaliczna postać ma szary połysk.
Krzem jest drugim najobficiej występującym pierwiastkiem w skorupie ziemskiej i siódmym najbardziej obfitym we wszechświecie. Krzemionka jest najczęstszym związkiem krzemu i najbardziej powszechnym związkiem w skorupie ziemskiej. Jego najczęstszą postacią są kryształy kwarcu, ale występuje również w innych formach.