Родился в Огайо, и ещё в молодости сбежал из дома, чтоб стать цирковым артистом. Его мечта скоро сбылась, и он попал в кочевой цирк, где работал в качестве воздушного акробата и гимнаста. Кроме этого она много гастролировал по миру с известной цирковой труппой Ф. Т. Барнума. В 1900 году Грейпвин в первый раз появился на киноэкранах в 2-ух немых короткометражках, а в 1905 году состоялось его единственное возникновение на Бродвее в пьесе «Это находится в зависимости от вас, Джон Генри». В 1929 году он вновь возвратился в синематограф, где за следующие 22 года собственной карьера снялся более чем в 100 картинах. Более колоритными и запоминающимися стали его роли дяди Генри в именитом музыкальном кинофильм Виктора Флеминга «Волшебник страны Оз» (1939) и дед Джоад в драме Джона Форда «Гроздья гнева» (1940). У него также были приметные роли в фильмах «Арбитр Прист» (1934), «Окаменелый лес» (1936), «Отважные капитаны» (1937), «Табачная дорога» (1941) и «Они погибли на собственных постах» (1941).
В 1896 году он женился на актрисе Энн Чэнс, с которой был совместно до её погибели в 1943 году. Сам Грейпвин погиб в Калифорнии в 1956 году в возрасте 86 лет, и был похоронен в Глендейле на кладбище Форест-Лаун рядом с супругой.