Геологическая основа архипелага — подводные горные хребты. Около 80% территории занимают горы и возвышенности с сильно расчлененным рельефом средней высоты 1600 — 1700 м. Насчитывается около 200 вулканов, 90 —действующих, в том числе высочайшая вершина — вулкан Фудэи (3 776 м.) Значительное влияние на хозяйство Японии оказывают также частые землетрясения и цунами.
Страна бедна полезными ископаемыми, однако ведется добыча каменного угля, свинцовых и цинковых руд, нефти, серы, известняков. Ресурсы собственных месторождений малы, поэтому Япония — крупнейший импортер сырья.
Несмотря на небольшую площадь, протяженность страны в меридиональном направлении обусловила существование на ее территории уникального комплекса природных условий: остров Хоккайдо и север Хонсю расположены в зоне умеренного морского климата, остальная часть Хонсю, острова Сикоку и Юсю — во влажном субтропическом, а остров Рюкю — в тропическом климате. Япония находится в зоне активной деятельности муссонов. Среднегодовое количество осадков колеблется от 2 — 4 тыс. мм.
Почвы Японии в основном слабоподзолистые и торфянистые, а также бурые лесные и красноземы. Примерно 2/3 территории, в основном горные районы, покрыто лесами (причем более половины лесов — искусственные насаждения). На северном Хоккайдо преобладают хвойные леса, на центральном Хонсю и юге Хоккайдо — смешанные, а на юге — субтропические муссонные леса.
В Японии много рек, полноводных, быстрых и порожистых, малопригодных для судоходства, но являющихся источником для гидроэнергетики и ирригации.
Обилие рек, озер и подземных вод благотворно влияют на развитие промышленности и сельского хозяйства.
В послевоенный период на Японских островах обострились экологические проблемы. Принятие и выполнение ряда законов по охране окружающей среды снижает уровень ее загрязнения.