1926ല് സമസ്ത കേരള ജംഇയ്യത്തുല് ഉലമ രൂപീകൃതമായി. അതിനു ശേഷം വിവിധ ഘട്ടങ്ങളിലായി പിളര്പ്പുകള് നേരിടേണ്ടി വന്നു, സമസ്തയ്ക്ക്
1953ല് സമസ്ത ഫത്വ ബോര്ഡ് വഹ്ഹാബി-മൗദൂദികളോട് സലാം പറയാന് പാടില്ല എന്ന് ഫത്വ നല്കിയിരുന്നു. ഇത് മദ്റസാ പാഠപുസ്തകത്തിലും ഉള്പ്പെടുത്തിയിരുന്നു. എന്നാല് പില്കാലത്ത് ഇ കെ അബൂബക്കര് മുസ്ലിയാര് സെക്രട്ടറിയായിരിക്കെ ഇതില് മാറ്റം വരുത്തി. ഇതില് മുശാവറയിലെ എ പി അബൂബക്കര് മുസ്ലിയാര് ഉള്പ്പെടെ ചിലര്ക്ക് എതിര്പ്പുണ്ടായി. 1985ല് ശാബാനു ബീഗം കേസ്സ് ഉയര്ന്നു വരികയും, ശരീഅത്ത് വിവാദം ചൂടുപിടിക്കുകയും ചെയ്ത പശ്ചാത്തലത്തില്, കേരളത്തില് മുസ്ലിം സംഘടനകള് യോജിച്ചു. ഇതിന് സമസ്ത പിന്തുണ നല്കുകയും നേതൃത്വം വഹിക്കുകയും ചെയ്തു. ഇതിനോടു വിയോജിച്ചുകൊണ്ട് 1989ല് കാന്തപുരം എ.പി അബൂബക്കര് മുസ്ല്യാര് പരസ്യമായി രംഗത്തു വന്നതിനെ തുടര്ന്ന് അദ്ദേഹത്തെയും ചിലരെയും പുറത്താക്കി. ഇതാണ് വലിയ പിളര്പ്പ്. കാന്തപുരം പിന്നീട് അഖിലേന്ത്യാ സുന്നി ജംഇയ്യത്തുല് ഉലമയുണ്ടാക്കി.
ഇതിന്ന് മുമ്പ് 1960കളില് സമസ്ത, തബ്ലീഗ് ജമാഅത്തിനെതിരെ നിലപാടെടുത്തു. പ്രസ്തുത തബ്ലീഗിന് വഹ്ഹാബി ആദര്ശത്തോട് മമതയാണെന്ന് സമസ്തക്ക് അഭിപ്രായമുണ്ടായിരുന്നു. നിലപാടില് പ്രതിഷേധിച്ച് പുറത്തുപോയ പണ്ഡിതര് ചേര്ന്ന് അഖില കേരള ജംഇയ്യത്തുല് ഉലമയുണ്ടാക്കി.
പള്ളിയിലെ പ്രാര്ഥനകള്ക്ക് ഉച്ചഭാഷിണി ഉപയോഗിക്കുന്നത് മതവിരുദ്ധമാണെന്ന അഭിപ്രായവുമായി പ്രമുഖ പണ്ഡിതനായ സദഖത്തുല്ല മൗലവി രംഗത്തു വന്നു. സമസ്ത ഇത് അംഗീകരിച്ചില്ല. മൗലവിയും ചിലരും പുറത്തുപോയി കേരള സംസ്ഥാന ജംഇയ്യത്തുല് ഉലമയുണ്ടാക്കി.