Самолет Ил-62 – это  моноплан со стреловидным  низкорасположенным крылом. Двигатели закреплены  на пилонах, расположенных  в кормовой части фюзеляжа, стабилизатор размещен сверху киля, схема шасси  — обычная трехопорная с еще одной  дополнительной хвостовой опорой.

Фюзеляж — типа монокок с эллиптическим  сечением. Компоновка на Ил-62 имеет различные варианты, которые различаются количеством мест для пассажиров 138,168, 186. Кроме того, варьируется и размещение пассажирских мест в салонах: один вариант -  в переднем -72,  в заднем — 114, второй — 66 и 102 соответственно. Кроме того, есть вариант размещения в трех салонах -  12 пассажиров в переднем, 24 – в среднем,  102 – в заднем. В кабинах сохраняется постоянное давление до  7200 м,  которое соответствует  земному. Давление на высоте 13 тысяч метров соответствует барометрическому  давлению на высоте 2, 4 тысяч метров. Также в фюзеляже находится  кабина для экипажа (из 5 членов), кухня-буфет, гардероб (130 мест), пять туалетных комнат, два служебных отсека (передний и задний). Под полом расположены 4 багажные отделения.

Ил-62 имеет  трехлонжеронное крыло моноблочной конструкции, в котором установлены укрепляющие панели из прессованных заготовок. В поперечный силовой набор входят  клепаные нервюры балочного типа. Также стандартную клепаную конструкцию представляет собой носовая и хвостовая часть крыла.  На рулях и на элеронах установлено по паре триммеров. Чтобы создать режим крутого планирования и сократить пробег на посадке, кроме закрылков  используются также и интерцепторы.

Специальный электромеханизм, изменяющий угол установки стабилизатора, оснащен  для надежности двумя двигателями.  Семь баков-отсеков для топлива устроены в крыле. Четыре из них – основные,  три — дополнительные, из которых топливо перекачивается в основные с помощью электронасосов. Дополнительная дренажная система обеспечивает дренажирование  баков при экстренном снижении или на крутом планировании. Кроме того, есть система аварийного слива топлива, оснащенная  семью  электронасосами, способными  работать в форсированном режиме.