Tidak ada sejarah yang spesifik tentang Gampong Jim. Namun, Sejarah penamaan Gampong Jim berawal dari adanya seorang Teungku Rangkang yang mengadakan pengajian rutin di gampong tersebut, tidak diketahui sebab penamaan gampong ini menjadi Gampong Jim, tetapi, “Jim” yang dimaksud merupakan huruf abjad arab.