早酝酿建立中国共产党的是李大钊和陈独秀，那是在１９２０年１月。３月，李大钊等在北京大学秘密成立了马克思学说研究会，５月，陈独秀等在上海成立了马克思主义研究会，为建党作思想和组织上的准备。５月，毛泽东与陈独秀，蔡和森与毛泽东、陈独秀交换了建立中国共产党的问题。１９２０年８月，陈独秀、李汉俊、沈宏庐、杨明斋、李达等人经过反复讨论酝酿后，在上海发起建立了中国第一个共产主义小组（据回忆，当时不叫共产主义小组这个名称，当时的名称为“共产党”，或“共产党临时中央”）。不久，北京、武汉、长沙、济南、广州以及旅日、旅法勤工俭学青年中也建立了共产主义小组（当时各地成立的党组织也不叫共产主义小组，而称“共产党支部”或“共产党小组”。采用“共产主义小组”这一名称，主要是根据中共一大给共产国际的报告中有“中国的共产主义组织”、“小组”和“地方小组”的提法，故后来统称为“共产主义小组”）。