中國工人階級先鋒組織的創建有一個艱辛的歷程。最早提出“中國共產黨”這一名稱的是蔡和森，他在1920年8月13日和9月16日給毛澤東寫的兩封信中提出：“我以為先要組織黨——共產黨，因為它是革命運動的發動者、宣傳者、先鋒隊、作戰部”，并對西歐各國共產黨特別是俄國共產黨考察的基礎上提出了具體的建黨步驟，“明目張膽正式成立一個中國共產黨”。毛澤東在回信中表示：“你這一封信見地極當,我沒有一個字不贊成”。上海共產黨早期組織發起人之 一邵力子在《勞動團體與政黨》一文中也呼吁：“勞動團體應當自己起來做個大政黨?！??？梢?在中國先進分子看來組建一個無產階級政黨已是時代不可逆轉的潮流。然而，在所有這些參與建黨的中國早期馬克思主義者中,陳獨秀、李大釗的影響最大，在中國共產黨的創建過程中起到了巨擘作用。

1920年2月，陳獨秀為躲避反動軍閥政府的迫害，從北京秘密轉往上海。李大釗決定親自護送陳獨秀到天津。他們扮作商人，坐一輛騾車，先到河北省樂亭縣李大釗的家鄉大黑坨村。在黑坨村住幾天, 然后起程去天津。一路上他們兩人商討了在中國建立共產黨組織的問題，并相約在北京和上海分別負責黨的籌建工作，史稱“南陳北李, 相約建黨”。敢為天下先的首創精神在陳獨秀和李大釗這兩位中共主要創始人身上得到了充分彰顯。

李大釗送走陳獨秀之后，立即在天津設法與蘇俄友人取得聯系。他和“少年中國學會”會員章志、南開中學學監姜般若、南開中學學生胡維憲等一起，到天津原俄租界，會見蘇俄友人,相互交談了對中國革命前途的看法。由于敵人的嚴密監視，他們的會而很快被密探發現。 第二天，天津《天益報》就登出了“黨人開會，圖謀不軌”的消息。李大釗于是注意防范，不久，就乘車返回北京，并積極創造條件準備建立共產黨組織。

1920年4月，陳獨秀到了上海以后，他意識到社會革命只靠學界運動是無法成功的，只有啟發勞動者的覺悟才是出路。因此，陳獨秀開始把努力的方向從青年學生轉移到工農大眾身上，到處講演、撰寫文章，宣傳馬克思主義，發動工人運動，從進步思想文化的研究和傳播轉向建立共產黨組織，希望通過積極開展建黨工作，為無產階級社會革命準備和蓄積力量。

在中國共產黨的籌建過程中，共產國際和蘇俄給予了全面而具體的幫助，為中國共產黨的誕生創造了有利的外部條件,對中國共產黨的創建起了積極推動作用。

1920年6月，在維經斯基等人的幫助下，陳獨秀與李漢俊、俞秀松、施存統、陳公培等人在上海開始籌建共產黨組織。經過共同努力， 上海共產黨早期組織于8月在上海法租界老漁陽里2號《新青年》編輯部正式成立，當時取名為“中國共產黨”。這是中國的第一個共產黨 組織，由陳獨秀擔任書記，并草擬了以勞農專政和生產合作為革命手段的《黨綱》。12月，陳獨秀離開上海去了廣州，上海共產黨早期組織先后由李漢俊、李達代理書記，成員先后有李漢俊、沈玄廬、陳望道、俞秀松、施存統、李達、楊明齋、周佛海、邵力子、袁振英、沈雁冰、林伯渠、 李啟漢、李中、沈澤民等十余人。上海的共產黨早期組織創造了多個 ，‘‘第一’’，如制訂了黨的第一份政治宣言《中國共產黨宣言》，出版了黨 的第一本理論刊物《共產黨》月刊，創辦了黨的第一所培訓學校外國語學社和黨領導的第一個工會組織機器工會,并指導成立了中國第一個共產主義青年組織上海社會主義青年團。除此之外，上海共產黨早期組織實際上起著中國共產黨發起組的作用，通過寫信聯系、派人指導或具體組織等方式，積極幫助推動了北京、山東、湖北、湖南、廣東等地的建黨工作,為組建一個全國性的無產階級政黨奠定了堅實的基礎。

中國共產黨在北方建立的第一個共產黨的組織是北京共產黨早期組織。李大釗在介紹維經斯基一行去上海后，與陳獨秀通信相商，一致認為需要加快建黨的進程。1920年10月，經李大釗的籌劃,北京共產黨早期組織在北京大學圖書館李大釗的辦公室正式成立,其名為“共產黨小組”，最初成員為李大釗、張申府、張國燾。1920年底，吸收新成員后的北京共產黨早期組織開會決定成立“共產黨北京支部”，李大釗任書記，張國燾負責組織工作，羅章龍負責宣傳工作。到1921年7月，參加北京共產黨早期組織的成員有李大釗、張國燾、鄧中夏、羅章龍、劉仁靜、高君宇、繆伯英、何孟雄、范鴻劼、張太雷、李梅羹、朱務善、宋介、江浩、吳雨銘、陳德榮等。北京的共產黨早期組織在中國北方各地馬克思主義宣傳和幫助黨團的組織建設上發揮了極其重要的領導作用，并積極與無政府主義和基爾特社會主義思潮作堅決的斗爭，取得了很大成績，堪稱早期北方地區共產主義活動的中心。

“北大紅樓兩巨人，紛傳北李與南陳，孤松獨秀如椽筆，日月雙懸照古今。北李南陳，兩大星辰;茫茫黑夜，吾輩仰辰?！边@是北大青年學生中曾經流傳的一首詩。在詩中陳獨秀和李大釗一起被比擬為“懸照古今”、受人仰承的“日月星辰”，不愧為以首創精神勇立時代潮頭的早期共產黨人的光輝典范。