Roy Clark jest synem dwóch muzyków-amatorów, ale od 2015 roku nie ma informacji o jego rodzicach lub najbliższej rodzinie poza żoną. Ożenił się z Barbarą Joyce Rupard w 1957 roku.
Podczas gdy Roy Clark urodził się w Wirginii, dorastał w Nowym Jorku, spędzając większość czasu w Waszyngtonie. Od najmłodszych lat miał silne muzyczne doświadczenie, a w wieku 14 lat zaczął grać mandolina, gitara i banjo. Poprzez poświęcenie się muzyce wygrał dwa krajowe mistrzostwa w banjo. W trakcie kariery muzycznej kontynuował karierę sportową, próbując grać w baseball, a potem boksera. Ostatecznie zdecydował się skupić na swoich muzycznych zdolnościach i po raz pierwszy pojawił się w Grand Ole Opry, gdy miał zaledwie 17 lat.
W połowie lat pięćdziesiątych Roy Clark regularnie występował w programie telewizyjnym Jimmy'ego Dean, ale Dean ostatecznie zwolnił go za spóźnienie. Jednak kariera muzyczna Roya Clarka nie skończyła się na tym, a on grał dla Wandy Jackson w latach sześćdziesiątych. W tym czasie kontynuował karierę solową. W 1963 roku podpisał kontrakt z Capitol Records i nagrał kilka hitów, zanim zaczął nagrywać dla ABC Records.