Sekolah Jenis Kebangsaan (Cina) Chung Hwa Cawangan 2 ditubuhkan pada tahun 1932. Pada masa itu sekolah ini merupakan satu rumah atap yang disewa dan diberi nama sebagai Sekolah Sin Hwa. Sekolah ini merupakan hasil titik peluh dan usaha sekumpulan orang yang cinta dan mementingkan ilmu dan bahasa ibuda. Mereka ialah Encik Ooi Soo Chin, Lim Chin Soon, Tan Hock Liat, Ooi Fu Chee, Lee Kun Pan, Goh Ann Seng, Ooi Chu Yu dan Goh Su Chen. Mereka bukan sahaja menyumbangkan sumber kewangan, tetapi juga menaruhkan tenaga dan masa mereka untuk mendirikan sekolah ini dengan harapan supaya generasi muda akan berpeluang mendapat pendidikan secara formal. Encik Tan Kwee Kong telah dilantik sebagai Guru Besar Sekolah Sin Hwa dan memikul tanggungjawab mendidik anak-anak murid untuk menjadi generasi yang berilmu dan berpengetahuan.
Lima tahun kemudian, bilangan murid sekolah telah meningkat dengan pesatnya sehingga bilik darjah yang sedia ada tidak lagi cukup untuk menampung murid yang kian meningkat. Satu jawatan kuasa pembangunan sekolah dipengerusikan oleh Khor Chong Lim telah ditubuhkan untuk mengatasi masalah ini. Atas usaha-usaha ahli-ahli jawatankuasa yang berjaya mendapat suatu tapak baru dan mulakan kerja pembinaan bangunan sekolah baru pada tahun 1939. Bangunan sekolah baru telah siap dibina pada bulan Jun 1940 dan bangunan baru ini dijangka dapat menampung murid-murid yang terus bertambah pada tahun-tahun yang berikutan.
Malangnya, Perang Dunia kedua meletus pada tahun 1941, sekolah telah ditawan oleh askar-askar Jepun dan mereka telah merosakkan segala kelengkapan sekolah. Ini merupakan peristiwa yang paling menyedihkan dalam sejarah sekolah ini. Pada tahun 1945, setelah keamanan dipulihkan, masyarakat Cina di Butterworth berusaha membaipulihkan bangunan sekolah yang telah rosak untuk beroperasi semula. Mereka menyatukan empat buah sekolah tempatan iaitu Sin Hwa, Yoke Keow, Ming Chong dan Sekolah Cina Perai dibawah pengelolaan Jemaah Pengurus yang sama. keempat-empat buah sekolah ini dinamakan sebagai Sekolah Chung Hwa dan dibezakan sebagai Chung hwa Pusat, Chung Hwa Cawangan 1, Chung Hwa 2 dan Chung Hwa 3. Keempat buah sekolah ini berkongsi lencana sekolah dan lagu sekolah yang sama.
Encik Jen Yee Nung telah dilantik sebagai Guru Besar untuk menguruskan keempat buah sekolah ini. Ketika itu, sekolah Chung Hwa Cawangan 2 ini hanya mempunyai lebih kurang 100 orang murid. Pada tahun 1962, sekolah ini telah diisytiharkan oleh Ketua Jabatan Pelajaran sebagai Sekolah Jenis Kebangsaan (Cina) Chung Hwa2. Jumlah murid sekolah ini telah meningkatkan tahun demi tahun sehingga menjelang 800 orang pada tahun 1973 tetapi keadaan sedemikian tidak berpanjangan apabila perkembangan pesat berlaku di bandar Butterworth. Rumah-rumah papan yang berdekatan sekolah telah dirobohkan untuk memberi laluan untuk membina rumah kedai dan kompleks perniagaan. Penduduk-penduduk uang tinggal di sekitar kawasan sekolah terpaksa berpindah ke kawasan kediaman yang baru. Akibat perpindahan penduduk tempatan ini, bilangan murid sekolah telah menurun setiap tahun.
Di bawah arus perkembangan, pemilik tanah tapak sekolah telah memutuskan untuk mengambil balik tanah sekolah ini untuk mendirikan kompleks perniagaan. Sekolah ini terpaksa mencari jalan untuk memindah. Pada 2 Ogos 1999, Jawatankuasa Pembangunan Sekolah menghadapi masalah untuk mendapatkan kelulusan memindah dari Kementerian Pelajaran Malaysia dengan alasan terdapat dua buah sekolah cina yang berdekatan dengan tapak baru tersebut. Walaubagaimanapun, Jawatankuasa Pembangunan tidak putus asas dan usaha giat telah dicuba untuk mencari jalan mendapatkan kelulusan untuk memindah. Pada 30 April 2004, pihak sekolah telah menerima surat kelulusan pemindahan sekolah secara rasmi dari JPN Pulau Pinang. Kerja pembinaan sekolah baru dimulakan pada 1 April 2005 setelah menerima kelulusan pelan bangunan dari MPSP.Sekolah berjaya berpindah dari Jalan New Ferry ke bangunan baru di Taman Bagan pada 29 Disember 2005 dan mula beroperasi pada 3 Januari 2006.
