Сформирован в июне 1806 года в городе Торопец Псковской губернии на основе пяти эскадронов, отчисленных от Александрийского, Ольвиопольского и Изюмского полков.

Боевое крещение получил в январе 1807 года в сражении при Прейсиш-Эйлау. В зимнюю кампанию 1808-1809 гг. гродненские гусары совершили беспримерный рейд в Швецию по льду Ботнического залива.

В начале Отечественной войны 1812 года Гродненский полк действовал на Петербургском направлении, в составе отдельного корпуса генерал-лейтенанта П. Х. Витгенштейна, на правом фланге 1-й армии Барклая де Толли. Полк отличился в сражении под Клястицами. Многие гродненские гусары за бои 16, 18, 19 и 20 июля были отмечены наградами. Нижние чины получили 33 знака отличия Военного ордена, подполковники Силин и Ридигер - ордена Святой Анны 2-й степени, 7 обер-офицеров - ордена Святого Владимира 4-й степени, четыре офицера - ордена Святой Анны 3-й степени, шесть офицеров - золотые сабли с надписью "За храбрость".

В 1812-1814 годах полк заслужил две коллективные награды: серебряные трубы с надписью: "За отличие при поражении и изгнании неприятеля из пределов России 1812 года" и знаки на кивера с надписью: "За отличие". В 1812 году шефом полка был генерал-майор Я. П. Кульнев (смертельно ранен в бою под Боярщиной 20 июля 1812 года), полковым командиром -- полковник Ф.В.Ридигер, с августа 1812 года -- шеф полка.

С 1809 года гродненские гусары носили мундиры (доломаны, ментики и чакчиры) синего цвета. Воротник и обшлага доломана, а также обкладка ташки и чепрака - голубые. Приборный металл - белый.

В феврале 1824 года историческое название армейского Гродненского гусарского полка было передано новому Лейб-гвардии Гродненскому гусарскому полку, сформированному в составе четырех эскадронов и пешего резерва в Варшаве из уроженцев Польши и Литвы. При этом старый Гродненский полк был переименован в Клястицкий. Из старого полка в новый было переведено 176 нижних чинов (чуть больше одного эскадрона) с лошадьми и оружием.