Последната четвърт на XVII век е времето, когато в Ямбол е регистрирана арменска общност. В навечерието на освобождението (1878 г.) арменците са около 1000 души, или 12,5% от населението на града. Те живеят сред мюсюлманите в първи отдел, макар, че изповядват християнството. Създават импровизиран храм в хотелска стая, но тя не просъществува дълго време. След изграждането на храм „Свети Николай Чудотворец“, започват да посещават неговите служби. Но арменците мечтаят за собствена църква десетилетия наред, където службите да се водят по техните ритуали.
През 1998 г. за председател на ямболския клон на Общоарменския благотворителен съюз „Парекордзаган“ е избрана преподавателката по музика Соня Аршавир Ховнанян. Още на следващата година тя подава молба до Общински съвет-Ямбол за определяне на парцел за изграждане на арменска апостолическа църква в града. През 2004 г. е регистрирано и църковното настоятелство - с председател Соня Аршавир и членове Егея Агоп Ердеклиян, Ончо Артин Ховсепян, Мария Александрова Марданян и Бохос Сероп Бабикян. През юли 2004 година Общински съвет-Ямбол учредява отстъпено право на строеж на Арменската апостолическа православна църква в България върху общинска земя на ул. „Хан Тервел“.
Дългоочакваната първа копка на храма е на 16 декември 2006 г. Две години по-късно - на 13 декември 2008 г., според канона на Арменската апостолическа православна църква в основите на храма са положени 16-те свещени камъка. Те символизират 12-те апостоли, светците Григорий Просветител и Йоан Кръстител и евангелистите Марк и Лука. Всеки камък е благословен поотделно от архиепископ Дирайр Мардикян, глава на Българската и Румънска епархия на Арменската апостолическа църква (1930-2010). В храма е вграден и вулканичен туф, какъвто има в изобилие в Армения.
На 1 август 2014 г. архиерейският наместник на Арменската епархия в България Харч Мурадян в съслужение с духовните пастири на епархиите от Русе и Варна освещава кръстовете на арменския храм в Ямбол. Те са изработени от Егея Ердеклиян.
С решение на Общински съвет-Ямбол през 2016 г. недвижимият имот, върху който е изградена църквата, е безвъзмездно дарен на Църковното настоятелство на Арменската апостолическа православна църква.
Храмът също е издигнат изцяло с дарения. Първото дарение прави Гаро Шаклиян от Сливен. Сред основните дарители са  Соня Аршавир, Антраник Шакариян, Рупен Чавушян, Масис Багданян, Агоп Кюрегян, сем. Красимира и Ончо Ховсепян, Агоп Ердеклиян, Светлан Делибалтов, църковните настоятелства на Шумен, София, Бургас, Хасково и Добрич, както и десетки други арменци и приятели на арменската общност.
Проектът на сградата също е дарение - от архитект Алла Бадваганян и съпруга й инж. Жирайр Бадваганян.
Храмът е осветен на 24 септември 2017 г. Ритуалът извършва архиепископ Езрас Нерсисян, ръководител на Руската и Новонахичеванската епархия на Арменската апостолическа църква и брат на католикоса (патриарх) на всички арменци Гарегин II.
От тогава до днес в църквата се провеждат редовни служби. Храмовият празник се отбелязва през декември, в деня на св. Яков Нисибински.
До църквата е изграден и павилион за клуб на арменската общност.
ул. „Хан Тервел“ № 2а