中国共产党的酝酿和成立，离不开陈独秀和李大钊这两位关键人物。
1919年，中国人民在五四运动中展现出的伟大斗争力量，促使陈独秀和李大钊加快了对马克思主义的实践。1920年2月中旬，陈独秀在李大钊的护送下秘密离开北京，前往上海开启新的事业。二人在路上商讨了在中国建党的问题，并相约在北京和上海分别行动。
1920年3月，李大钊在北京大学成立了马克思主义学说研究会，为成立共产党做思想和干部上的准备。这是中国最早成立的一个研究和宣传马克思主义的团体，研究会的成员还到北京的郊区农村和工厂开办平民学校、举行演讲，不仅起到了宣传和组织群众的作用，也加深了成员对中国社会的了解。
与此同时，回到上海的陈独秀也立即投身于组织和指导工人的运动。1920年4月2日，他出席上海码头工人发起的“船务栈房工界联合会”成立大会，发表了《劳动者底（的）觉悟》演说，高度评价工人阶级，呼吁工人要有争取“管理权”的觉悟。
1920年5月1日，在陈独秀的指导下，上海工界团体组织各业工人5000多人举行集会，庆祝五一国际劳动节，这是中国工人阶级第一次欢度自己的节日。不久后，陈独秀与李汉俊、陈望道等人组织成立了马克思主义研究会，在学习和研究马克思主义理论的同时酝酿建党问题。
20世纪20年代的上海，已发展成为世界第六大都市，拥有繁荣的工商贸易和发达的交通网络，是新学说、新思想的传播高地，也是中国社会主义者的活动中心，这为无产阶级新型政党的成立，提供了极为有利的环境。
在上海时，陈独秀与李汉俊等《星期评论》社成员比邻而居，他们时常交流，共同研讨马克思主义和俄国十月革命的经验。1920年6月，陈独秀同李汉俊、俞秀松、施存统、陈公培5人在老渔阳里2号寓所开会商议，决定成立共产党组织，起初定名为“社会共产党”，并起草了党的纲领。
随后，经过陈独秀和李大钊商议，最终决定组织直接以“共产党”命名。1920年8月，上海共产党早期组织定名为“中国共产党”，陈独秀为书记，这是中国第一个共产党组织，起到了中国共产党发起组的作用，也成了各地共产主义者开展建党活动的联络中心。