Украинец. Жил в селе Вилищано ныне Бабинского района Киевской области Украины. Окончил 5 классов и медицинское училище в городе Киев.

В первые дни войны Гавриила Тященко призвали в действующую армию. Окончив курсы военфельдшеров, он служил санитаром 384-го отдельного батальона морской пехоты Одесской военно-морской базы Черноморского флота. Гавриил Тященко в качестве санитара участвовал в десантных операциях в городах Кавказского и Азовского побережья.

Похоронен в братской могиле в городе Николаев в сквере 68-ми десантников.
 Весть об их подвиге разнеслась по всей армии, по всей стране. Верховный Главнокомандующий приказал всех участников десанта представить к званию Героя Советского Союза. Его именем названа улица города, открыт Народный музей боевой славы моряков-десантников. В Николаеве в сквере имени 68-ми десантников установлен памятник. В посёлке Октябрьском на берегу Бугского лимана, откуда уходили на задание десантники, установлена мемориальная гранитная глыба с памятной надписью.

В Военно-Морском Флоте с 1941 года, призван Тбилисским горвоенкоматом Грузинской ССР. Окончил курсы военфельдшеров. В боях Великой Отечественной войны с августа 1941 года. В 1941 и 1942 году участвовал в боях за город Керчь. В августе 1942 года оборонял город Новороссийск. Был ранен, затем вновь возвратился на фронт.
 В апреле 1943 года краснофлотец Тященко был направлен на должность санитара в сформированный 384-й отдельный батальон морской пехоты Черноморского флота.
 Осенью 1943 года в качестве санитара участвовал в десантных операциях в города Азовского побережья: Таганрог, Мариуполь и Осипенко (ныне Бердянск). Затем были бои на Кинбурнской косе, освобождение посёлков Херсонской области Александровка, Богоявленское (ныне Октябрьский) и Широкая Балка.
 Во второй половине марта 1944 года войска 28-й армии начали бои по освобождению города Николаева. Чтобы облегчить фронтальный удар наступающих, было решено высадить в порт Николаев десант. Из состава 384-го отдельного батальона морской пехоты выделили группу десантников под командованием старшего лейтенанта Константина Ольшанского. В неё вошли 55 моряков, 2 связиста из штаба армии и 10 сапёров. Проводником пошёл местный рыбак Андреев. В качестве санитара отряда был отобран краснофлотец Тященко.

 Двое суток отряд вёл кровопролитные бои, отбил 18 ожесточённых атак противника, уничтожив при этом до 700 солдат и офицеров врага. Во время последней атаки фашисты применили танки-огнемёты и отравляющие вещества. Но ничто не смогло сломить сопротивление десантников, принудить их сложить оружие. Они с честью выполнили боевую задачу.

 28 марта 1944 года советские войска освободили Николаев. Когда наступающие ворвались в порт, им предстала картина происшедшего здесь побоища: разрушенные снарядами обгорелые здания, более 700 трупов фашистских солдат и офицеров валялись кругом, смрадно чадило пожарище. Из развалин конторы порта вышло 6 уцелевших, едва державшихся на ногах десантников, ещё 2-х отправили в госпиталь. В развалинах конторы нашли ещё четверых живых десантников, которые скончались от ран в этот же день. Геройски пали все офицеры, все старшины, сержанты и многие краснофлотцы. Геройски погиб и краснофлотец Г.Е. Тященко.

Указом Президиума Верховного Совета СССР от 20 апреля 1945 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецкими захватчиками и проявленные при этом отвагу и геройство краснофлотцу Тященко Гавриилу Елизаровичу было присвоено звание Героя Советского Союза (посмертно).
 Награждён орденом Ленина (20.04.1945, посмертно).