须与类白血病反应、再生障碍性贫血、传染性单核细胞增多症、骨髓增生异常综合征(MDS)、其他恶性肿瘤(如神经母细胞瘤等)、骨髓外造血反应(雅克什贫血、骨髓纤维化及大理石骨病等)鉴别。临床上出现典型的症状、体征、外周血中查见白血病细胞，骨髓中原始加幼稚细胞≥30%，此时诊断急性白血病并不困难。若是发病初期症状、体征并不典型，外周血不见原幼细胞，此时诊断有一定难度，应与下列疾病进行鉴别诊断。
1.类白血病反应 外周血白细胞增多、显著增多和(或)出现幼稚白细胞者称为类白血病反应，通常有感染、中毒、肿瘤、失血、溶血、药物等原因。粒、单核细胞类白血病反应中常有白细胞显著增加，又有外周血中出现幼稚白细胞，但前者中性粒细胞碱性磷酸酶积分显著增高。淋巴细胞性外周血白细胞可轻度增加，但出现幼稚淋巴细胞。一般而言，去除诱因后类白血病反应即可恢复正常，而且通常类白血病反应外周血中红细胞及血小板不受影响，骨髓无白血病样改变。临床上偶有病例的类白血病反应，难与白血病鉴别，此时宜严密观察，辅以免疫、遗传等方法仔细区别。
2.再生障碍性贫血 本病临床有贫血、出血、发热、全血象降低，易与低增生性白血病混淆，但是本病肝、脾、淋巴结不肿大，骨髓增生低下而无原始、幼稚细胞比例增高现象。
3.恶性组织细胞病 本病是单核-巨噬细胞系统恶性增殖性疾病，临床上可出现发热，贫血，出血，肝、脾和淋巴结肿大，以及全身广泛浸润性病变，很难与白血病鉴别。外周血象也与白血病相似，出现Hb和BPC下降，白细胞降低者超过半数，且可发现幼稚红细胞和幼稚粒细胞，只是若发现恶性组织细胞则高度提示本病。骨髓增生活跃或减低，网状细胞增多，可见到多少不等的组织细胞，按形态可分为一般异常组织细胞、单核样组织细胞、淋巴样组织细胞、多核巨型组织细胞和吞噬型组织细胞，如果见到大量吞噬型组织细胞且出现一般异常组织细胞，则支持诊断本病。恶性组织细胞增生症缺乏特异性诊断手段，骨髓象支持而临床不符合者不能诊断，反之临床支持而骨髓象不符合者不能排除诊断，所以本病依靠综合分析诊断，有时骨髓及淋巴结等活检可以提供一定证据。
4.传染性单核细胞增多症 本症为EB(Epstein-Barr)病毒感染所致。临床有发热，皮疹，咽峡炎，肝、脾、淋巴结肿大;血象白细胞增高以淋巴细胞升高为主，且变异淋巴细胞常达10%以上。临床表现及血象易与急白相混淆，但本症恢复快，骨髓象无原幼淋巴细胞出现，检测EBV特异性抗体如EBV-VCA-IgM等可确诊。
5.骨髓增生异常综合征(myelodysplastic syndrome，MDS) 是一组因造血干细胞受损而致骨髓病态造血和功能紊乱性疾病。本病以贫血为主要表现，可伴有不同程度的出血、肝脾淋巴结肿大，少数病例还有骨痛。MDS不仅应与急性白血病相鉴别，而且有20%～30%的病例最终转变成急性白血病。本症骨髓象呈现三系或二系或任一系的病态造血，红系如比例过高(>60%)或过低(<5%)，出现环铁粒幼红细胞、核分叶、碎裂或多核等红细胞。巨核系可出现淋巴样小巨核、单圆核小巨核、多圆核巨核细胞等。粒-单核系可见原粒或幼单核细胞增多和形态改变，但是原始细胞(或原单+幼单)的比例<30%，因而不能诊为急性白血病。国外有人提出ANLL的诊断步骤进行临床考虑，其中包括与MDS的鉴别诊断。
