Ревностный католик и сторонник Стюартов, он, однако, провел почти всю свою жизнь на службе чужим интересам: в 1655 - 1661 годы сражался в войсках Швеции и Польши, а в 1661 г., в чине майора, поступил, и уже навсегда, на службу России. Способный, образованный, храбрый в битве, опытный инженер и военный администратор, честных правил, Гордон скоро выдвинулся и дослужился до чина полного генерала и контр-адмирала. Много лет провел Гордон в Малороссии (1667 - 86), принимая участие в военном управлении края; воевал с турками, был с В.В. Голицыным в Крымских походах 1687 и 1689 годов. Открытый переход, во время смут 1689 г., на сторону Петра Великого поставил Гордона в близкие и дружеские отношения к царю. Участник в поездке Петра на Белое море в 1694 г., главный руководитель Кожуховского похода, третий (после Арт. Мих. Головина и Лефорта ) из генералов, начальствовавших над русскими войсками при осаде Азова, Гордон был главным виновником взятия этой крепости (1696). В 1698 г. участвовал, под начальством боярина Шеина, в поражении мятежных стрельцов под Воскресенским монастырем.

Умер в 1699 г. Гордон оставил после себя дневник, охватывающий всю жизнь автора (окончен 31 декабря 1698 г.) и писанный по-английски. Он дошел не весь: 1667 - 77 и 1678 - 84 годы утеряны. Ныне хранится в военно-ученом архиве Главного штаба. Часть другого английского экземпляра (1684 - 1698) - в Императорской Публичной библиотеке. В 1849 - 52 годы дневник Гордона, с приложением 112 писем его за 1690 - 96 годы.