Pierwotny kolor Białego Domu był biały. Według Stowarzyszenia Historycznego Białego Domu, kiedy mury zostały ukończone w 1798 r., zostały pobielone, aby zapobiec zamarzaniu kamienia w zimie.
Ściany Białego Domu zostały pobielone dwa lata przed tym, jak Prezydent John Adams i jego żona Abigail wprowadzili się do budynku jako pierwsi mieszkańcy w 1800 roku. Według często powtarzanej, ale błędnej historii, Biały Dom był pomalowany na biało w 1814 roku. , po tym jak został spalony przez Brytyjczyków podczas wojny 1812 roku. Chociaż istnieją dowody na to, że dom prezydenta został nazwany Białym Domem już w 1812 roku, Theodore Roosevelt nazwał go oficjalnym we wrześniu 1901 roku.