Свою карьеру начал с проектирования доходных домов и особняков для влиятельных заказчиков. Позже перешёл на службу в Строительно-технический комитет Министерства внутренних дел, где создал проекты народного театра и дома призрения вдов и сирот. Одним из самых значительных его сооружений в Петербурге стал дом книгоиздательства А. Ф. Маркса на Измайловском проспекте, 29.
Был активным членом множества профессиональных и благотворительных организаций: состоял в Петербургском обществе архитекторов, занимал должности архитектора в различных благотворительных учреждениях, таких как общество помощи хронически больным детям, общество Красного Креста, дом попечения о хронически больных детях. Также входил в состав Городской управы и Городской думы, был членом Губернского земского собрания. Возглавлял Технический комитет Императорского Российского пожарного общества. В 1901 году удостоен звания почётного гражданина Гатчины.
Николай Всеволодович сыграл важную роль в развитии народного образования, став председателем Общества народных университетов, которое размещалось в этом же доме. Идея народных университетов, зародившаяся в Европе в XIX веке, приобрела популярность и в России, несмотря на сопротивление властей. В Петербурге эта инициатива получила развитие благодаря таким энтузиастам, как Дмитриев. В декабре 1905 года он выступил с докладом о необходимости создания Городского народного университета, а затем участвовал в разработке его устава. В октябре 1906 года Общество было официально зарегистрировано, и в первый же год начались занятия.
Лекции читались по широкому спектру дисциплин — от общественных наук до техники и медицины. Дмитриев, помимо организационной работы, активно привлекал новых членов и спонсоров. К 1908 году в Обществе состояло более 1200 человек, а его лекции посещали десятки тысяч слушателей. Несмотря на официальную беспартийность, власти относились к Обществу с подозрением, периодически запрещая отдельные курсы. Тем не менее, оно успешно просуществовало до 1917 года, сыграв значительную роль в распространении знаний среди петербуржцев.
После революции эмигрировал в Париж, где продолжал активную общественную деятельность. Был членом Российского земско-городского комитета, долгие годы возглавлял Русский народный университет в Париже, входил в Правление Общества друзей университета, а также в Совет Российского музыкального общества за границей. Был одним из руководителей Объединения русских архитекторов, инженеров-строителей и механиков, учредил Общество помощи русским сердечным больным. Участвовал в организации Дней русской культуры в Марселе (1928) и Ницце (1933), Педагогического съезда в Париже (1929), а также в торжественном открытии нового здания Тургеневской библиотеки (1937). Скончался в Париже, вероятно, до 1942 года.