1922年6月，大权在握的凯末尔正在为土耳其以后建立哪种国家而伤神。按照自己意愿，未来的土耳其必定是一个世俗的共和政权。然而这个想法不但遭到大地主与宗教团体的强烈反对，甚至很多亲信都不支持。这种情况下，凯末尔只能循序渐进，一步一步来。

在他的设想里，要想在土耳其推行世俗化，首先要废除封建君主制。而作为封建君主制的标志，苏丹就成了首个要对付的目标。然而要废黜苏丹谈何容易，奥斯曼帝国之所以可以统治600多年，全仰仗政教合一的政治体系。这种体系让苏丹与哈里发紧密绑定在了一起，他既是政府最高首脑，也是军事最高统帅，更是宗教最高领袖。

土耳其人或许能接受没有苏丹的土耳其，但绝对接受不了没有哈里发的土耳其。如果贸然废除苏丹，他们可能会瞬间翻脸，反抗凯末尔的统治。毕竟在穆斯林看来，可以没有国家，可以没有民族，但绝对不能没有伊斯兰教，更不能没有精神领袖。

为了不激化国内矛盾，凯末尔选了一条折中的法子：将苏丹制与哈里发制分开，拆除政教合一，先废除苏丹，但保留哈里发，等到后面时机成熟再废除哈里发。1922年11月1日，土耳其大国民议会正式废黜苏丹，取消其世俗权力，但保留宗教领袖哈里发的地位。

16日，议会以叛国罪将苏丹穆罕默德六世交给法庭审判。穆罕默德六世在亲信的帮助下，于17日乘英国军舰逃亡国外，议会随即让穆罕默德六世的堂弟阿布杜勒·麦志德成为新的哈里发，以稳住穆斯林的情绪。然而仅废除苏丹是不够的，因为阻碍土耳其世俗化的最大障碍并不是苏丹，而是哈里发。

想要走世俗之路，就必须废除哈里发。而要想废除哈里发，就必须削弱哈里发在国内的影响力与国民中地位。凯末尔为此下令由司法部直接管理沙里亚宗教法庭，宗教学校必须由教育部管辖。1924年3月，凯末尔又以哈里发与英属印度穆斯林相互勾结，意图颠覆新政权为由，废除哈里发制，土耳其最后一代哈里发阿布杜勒·麦志德被驱逐出境。

与此同时，凯末尔废除伊斯兰教长制度，规定所有教职人员必须经过政府的考核才能上岗。废除伊斯兰律法、宗教法庭、宗教称号和各级宗教法官，停办宗教学校、关闭伊斯兰宗教设施等等。如此激进的世俗化政策，必然会遭到伊斯兰宗教势力的反扑。

1925年2月，在托钵僧的唆使下，土耳其东部各省爆发叛乱，联合起来准备推翻共和国，拥护哈里发复位，但很快被凯末尔镇压。事后，凯末尔顺势取消一切教团，关闭教堂，没收宗教团体资产，把宗教服饰严格限制在清真寺之内，禁止男士戴费兹帽，并于19128年从宪法中删除了“伊斯兰教为土耳其国教”的条文，规定任何政党都不得参加任何形式的宗教活动。

为了填补宗教缺失带来的空缺，凯末尔在全国创办了大量世俗学校，规定学校必须加强非宗教的现代化教育和民族意识教育，必须向受教育者传授西方科学技术文化和思维方式，不得宣传伊斯兰教义，而大学中的神学系也被取消，不得开课。凯末尔还以欧洲国家法律为蓝本，制定了民法、刑法、商法3大法典，建立了现代化司法制度和司法机构，并废除一夫多妻制和伊斯兰教的各种陋规，提倡男女平等，用拉丁文取代阿拉伯文。

为了对抗宗教意识，凯末尔大力推行民族意识，放弃泛突厥主义，强调土耳其人是土耳其民族，不是穆斯林民族，更不是阿拉伯民族。土耳其是一系列伟大文明的继续者，伊斯兰文明只是其中的小插曲，世俗化本就是土耳其的常态。今后土耳其只作为民族国家存在，伊斯兰只作为文化因素存在，不会对伊斯兰世界再承担什么责任。你玩的你的宗教，我玩我的民族，我们互不干涉。

为了巩固世俗化，凯末尔还推行“土改”，从大地主、宗教团体手中强征土地分给百姓，并判处13万地主死刑与37万地主亲属进行“无限期强制劳动”。不到10年时间，凯末尔体毁灭了整个地主集团和宗教势力，整个土耳其约有40分之1的人被物理消灭。底层百姓有了土地后，由农奴变成了自由民，再也不用人身依附于地主与宗教团体，地主与宗教团体也就无法通过影响底层来影响国家政局。

1938年11月10日，凯末尔去世，死前曾留下3段著名遗言：1，面对战争，土耳其请务必保持中立，如必须站队，请跟英国一起，因为他们最后总能站在胜利者一边；2，需要做选择时，请跟英国一边，因为他们擅长做选择题；3，国家如有宗教化倾向，军方可发动政变，对其清洗，必要时可推翻民选的政府，不用负任何责任。而为了防止军人干政。凯末尔生前还警告过军方：议会和报纸就是为了监督批评政府和军队，我的将军们，请你们最好习惯这一点。