Город был основан 1 августа 1850 года экспедицией под руководством Геннадия Невельского как Николаевский военный пост.

Название «Николаевск» было дано в честь императора Николая I.

Город расположен в устье реки Амур, что давало ему большое стратегическое значение, особенно в XIX веке, как морской порт и форпост Российской империи на Дальнем Востоке.

В 1856 году Николаевск-на-Амуре получил статус города и стал центром Приморской области Восточно-Сибирского губернаторства. Однако позднее, в 1880 году, административные органы были переведены в Хабаровск.

Во время Гражданской войны в России (1917-1922 гг.) в Николаевске-на-Амуре произошло событие, известное как «Николаевский инцидент» — город был захвачен вооружёнными отрядами (в том числе японскими), после чего часть населения погибла, а город подвергся разрушению.

После развала Советского Союза население города значительно уменьшилось. Например, в 1989 году там проживало около 36 296 человек, а к 2025 году осталось около 17,5 тысяч.

Город имеет серьёзные трудности с наземным транспортным сообщением. До Николаевска-на-Амуре ведёт одна дорога от села Селихино, протяжённостью сотни километров, большая часть которой — грунтовка, и множество деревянных мостов с трудной проходимостью.

Из-за своего расположения устья Амура, близости моря, наличие морской поверхности и влияния прибрежных факторов, климат в Николаевске-на-Амуре отличается от соседних территорий: зимы холодные, но морская часть несколько смягчает морозы, часто бывают пурги, сильный снег, и весна наступает позже.