Pierwsze małżeństwo Jima Boeheima, które trwało około 18 lat, trwało od 1976 do 1994 roku. Jego pierwszą żoną była Elaine Boeheim, z którą ma córkę, Elżbietę, teraz młodszą w Colby College w Maine od 2015 r.
Boeheim, obecny główny trener męskiej drużyny koszykówki na Uniwersytecie Syracuse, jest teraz żonaty z Juli Boeheim, z którym ma trzech synów: Jamesa Artura III i bliźniaków Jacka i Jamie. Są małżeństwem od 1997 roku. Po tym, jak Boeheim cierpiał na raka w 2001 roku, założyli wspólnie Fundację Jima i Juli Boeheim poświęconą opiece nad dziećmi oraz leczeniu i profilaktyce raka.