В 1700 году Брюс получил чин генерал-майора артиллерии и в годы Северной войны возглавлял артиллерию русской армии. За участие в сражениях и военные заслуги он неоднократно получал награды и личную благодарность Петра I. С 1706 года Брюс курировал Московскую гражданскую типографию, где был издан первый в России календарь, вошедший в историю под названием «Брюсов календарь». В 1717 году он стал сенатором и президентом Берг- и Мануфактур-коллегии.
За верную службу государству в 1721 году Брюсу было пожаловано графское звание. После смерти Петра I он в 1726 году подал прошение об отставке и получил чин фельдмаршала. Оставшиеся годы провел в своем имении Глинки под Москвой, посвятив себя исключительно научным занятиям.
Брюс был одним из самых просвещенных людей своей эпохи. Его научные интересы охватывали астрономию, математику, артиллерию, ботанику, минералогию, географию, инженерное дело. Он был автором и переводчиком многих научных трудов. Умер Яков Вилимович Брюс бездетным. Похоронен в Немецкой слободе в Москве. Перед смертью он завещал Академии наук свою уникальную библиотеку, кабинет с научными инструментами и различными редкостями. Всё это поступило в Кунсткамеру.
Брюс оставил заметный след и в градостроительной истории. На набережной Невы, которую Петр I хотел сделать продолжением Дворцовой, он построил каменный дом. По соседству возвели резиденции цариц Марфы Матвеевны и Прасковьи Федоровны, царевича Алексея Петровича и царевны Натальи Алексеевны. У берега была устроена деревянная набережная с балюстрадой и лестницами, а рядом рос небольшой лесок.
В 1712 году Брюс получил от Петра разрешение построить избы для мастеровых Литейного двора на третьей улице от реки. Уже к 1714–1716 годам здесь были распределены участки, в основном между служащими двора царевича Алексея. Дом самого Брюса, генерал-фельдцейхмейстера и руководителя всей русской артиллерии, был возведен в 1713 году рядом с Литейным двором. Он отличался высокой двухъярусной крышей, украшенным карнизом и балконом со скульптурами. Внутри находилась лаборатория и богатейшая библиотека, в которой Петр I нередко проводил время с Брюсом, занимаясь наукой.
Французский мемуарист О. де ла Мотрэ, посетивший Петербург, писал: «Дом Брюса, шотландского джентльмена и начальника артиллерии, — одно из лучших зданий в Петербурге. Я нанес ему визит, имея честь быть знакомым с ним по конгрессу на Аландских островах в 1719 году, но во время моего пребывания в Петербурге он находился в Москве».
