A mai Magyarország vidéki múzeumai közül harmadikként jött létre. Megalapítása a köznemesi származású, élénk helytörténeti és régészeti érdeklődésű Mogyoróssy János nevéhez fűződik: 1868 szeptember 8-án a római katolikus elemi iskola emeleti tornácából elfalaztatott szobában helyezte el gyűjteményét. A kis múzeumot az enyészettől Göndöcs Benedek apátplébános mentette meg: vezetésével alakult meg 1874. július 18-án a Békésvármegyei Régészeti és Mívelődéstörténelmi Társulat, amely a múzeum gyarapítását tűzte ki céljául. A gyűjteményt a megyeház udvarán helyezték el. A Békésvármegyei Múzeum megnyitására 1874. augusztus 3-án került sor, az országban ötödikként. A millenniumra, 1895-ben felépült végre Gyula (és a megye) első, kimondottan múzeumi célra emelt épülete a Népkertben.
        1921. április 2-án a gyűjteményt átvette a város, Gyulai Városi Múzeum néven. Új fellendülést csak az új, fiatal igazgató, Implom József hozott a gyűjtemény életébe. Az 1930. november 30-án, a polgári fiúiskola földszinti termeiben megnyílt kiállítását az ország legjobb vidéki kiállításai között tartották számon. A múzeum tudományos műhellyé vált, kiadványsorozatot jelentetett meg. Implom hadifogsága alatt értékesebb részét széthordták. 1950-ben átköltöztették a szomszédba, a jelenlegi óvoda épületébe. Az államosítást követően, 1951 április 2-án Erkel Ferencről nevezték el. Lükő Gábor vetette meg a néprajzi és a nemzetiségi gyűjtemény alapjait, s ő rendezte meg az első állandó kiállítást 1956 tavaszán Gyula és a Kőrösköz története címmel. Dankó Imre nevéhez köthető a múzeum újabb fellendülése. A múzeumbaráti kör megszervezése, A gyulai Erkel Ferenc Múzeum Kiadványai című sorozat elindítása, a gyulai vár múzeumi kezelésbe vétele. Az intézmény 1962 óta a Békés Megyei Múzeumok Igazgatóságának tagmúzeuma.
        Szilágyi Miklós vezetése alatt, 1966-ban költözött jelenlegi helyére az intézmény. 1968-ban nyílt meg a Dürer Terem, s a várbeli első állandó kiállítás. Szerdahelyi István rendezte be az első állandó Erkel-házbeli kiállítást. Bencsik János megszerezte az Erdős Kamill-féle cigánygyűjteményt, s a Ladics család hagyatékát. 1979-ben megnyílt a Kohán Képtár. Czeglédi Imre 1985-ben átrendezte az Erkel-házbeli kiállítást. 1989-ben megnyílt a 19. századi polgárság életmódját bemutató kiállítás a Ladics-házban. Németh Csaba megírta "A gyulai múzeum 125 esztendeje" címmel az intézmény történetét. A "Gyulai katalógusok" sorozat a Dürer Teremben rendezett jelentősebb kiállítások katalógusaiból, Havassy Péter szerkesztésében, 1995 óta jelenik meg. A Kohán Képtár és a Ladics-ház 1990-ben városi kezelésbe került. Ezeket 1993-tól a múzeum működtette, - megtoldva a Városi Képtárral, valamint Lajos Ferenc és kortársai grafikai gyűjteményével -, ám 2001-től a múzeum összes kiállítóhelye városi kezelésbe ment át.

---