Fizyczne cechy Nowego Jorku obejmują góry, jeziora, rzeki i przybrzeżne niziny. Szeroka różnorodność funkcji zapewnia szeroki zakres siedlisk dla rodzimych roślin i zwierząt.
Mount Marcy to najwyższy punkt w Nowym Jorku o wysokości 5344 stóp. Góry Adirondack położone są w północnej części stanu, a okolica stanowi największy park narodowy w sąsiednich Stanach Zjednoczonych. Najniższa część państwa obejmuje obszary, w których Nowy Jork spotyka się z Oceanem Atlantyckim na południowym wschodzie.
Główne rzeki w Nowym Jorku to rzeka Hudson, rzeka Mohawk i rzeka Genesee. Lake Ontario, Lake Erie, Lake Champlain i Lake George tworzą państwo serii jezior.