瑯玡王司馬睿(即晉元帝)與王導素來友善。王導知道天下已經開始動亂，于是全心全意輔佐司馬睿，暗中立下了興復朝綱的意愿。司馬睿也非常信任器重他，兩人情同摯友。司馬睿還在洛陽時，王導總是勸說他要盡快回到藩國。

　　永興二年(305年)，司馬睿出鎮下邳，不久遷安東將軍，請王導擔任安東將軍司馬，軍事謀劃，都聽從其安排。

　　永嘉元年(307年)，司馬睿聽從王導的建議，出鎮建業(后改建康，今江蘇南京)。王導相隨南渡。西晉滅吳以后，南方士族被排斥，仕進很困難，當然不滿意。王導想要在原孫吳境內建立以北方士族為骨干的東晉，聯絡南方士族便成為極其重要的事務。王導就勸說司馬睿道：“顧榮、賀循，都是此地最具名望的人，應當結交他們來收服人心，他們兩人來了，就沒有不來的人。”司馬睿就派王導親自去造訪賀循、顧榮，二人都應召而至。由此吳地之人望風順附，百姓歸心。從此之后，他們相互依靠，君臣的名分就確立了下來。(相傳司馬睿初到建業時，吳地之人不愿歸附，到建康已一個多月了，士族百姓還沒有人來登門拜謁，王導為此事很焦急。正趕上司馬睿出去觀看禊祭，王導讓司馬睿乘輿，安排了威嚴的儀仗。王導和王敦等名士們都騎馬侍從，紀瞻、顧榮等人見了后感到驚異，一個跟著一個地在道路左邊行拜禮。此事載入《晉書·王導傳》，但司馬光在《資治通鑒考異》中已有懷疑;今人田余慶在《東晉門閥政治》中則已通過詳細考訂，認為并非史實)。

　　永嘉五年(311年)，漢國大將劉曜、王彌攻破洛陽，俘晉懷帝，殺王公以下士民三萬余人，北方陷入空前的戰亂中。中原人士到江南避難的有十分之六、七，王導勸司馬睿乘機收攬賢人君子，擴大力量以圖大事。

　　當時荊、揚二州比較安定，人口眾多，物產豐饒，王導的治理方針講求清靜，常勸司馬睿克己垂范勵精圖治，輔佐君主安寧邦國。于是越發受司馬睿的器重，兩人之間的感情日益深厚，朝野之中都為之傾心，稱王導為“仲父”。司馬睿曾對王導說：“你就是我的蕭何呀!”王導回答說：“過去秦朝無道，天下百姓厭棄亂世，而極為狡黠的人又欺凌踐踏人民，人們感懷漢王劉邦的恩德，群起響應反秦，所以大功容易告成。自從曹魏立朝以來，直到晉太康時期，公卿士大夫及門閥世族，奢侈揮霍相互攀比，先賢政教逐步衰退，先朝治世法度，無人遵循，大小官吏，沉溺于享樂之中，才使得奸佞之人有機可乘，導致朝政大道虧傷。然而混亂后將會出現安定，這是天地間的規律。大王將要建立蓋世之功勛，重新一統山河，管仲、樂毅這樣的人才，這時就會出現，不是我們這樣普普通通的臣子所能比擬的。希望大王能深謀遠慮，廣擇賢能。顧榮、賀循、紀瞻、周玘，都是南方的名士，希望大王能對他們禮敬優待，則天下可安。”司馬睿采納了王導的建議，從而逐漸贏得了南北士族的共同擁戴。南渡士人桓彝在初到江東時，看到司馬睿勢力單薄，很為擔心，對名士周顗說：“我因為中原多故，想到江南尋個安身立命之地，不料朝廷如此微弱，怎么辦才好呢?”當王導和他縱談形勢以后，他的態度有了變化：“我見到了江左‘管仲’，不再憂慮了。”

　　永嘉(307年—313年)末年，王導遷任丹陽太守，加輔國將軍。王導上奏勸諫司馬睿不要輕易賜予臣下鼓蓋等禮崇之物，讓尊卑雅俗有所區別。司馬睿下令嘉獎王導，拜他為寧遠將軍，不久又加振威將軍。

　　建興元年(313年)，晉愍帝司馬鄴即位，征王導為吏部郎，但他沒有入朝就職。

　　建武元年(317年)，司馬睿即晉王位后，任命王導為丞相軍諮祭酒。不久拜右將軍、揚州刺史、監管江南諸軍事，又遷驃騎將軍，加散騎常侍、都督中外諸軍、領中書監、錄尚書事，假節、刺史如故。王導因為看到王敦統率六州，堅決辭掉都督中外諸軍的職務。后又因他事牽連，被除去符節。

　　司馬睿喜愛瑯玡王司馬裒，有以他取代長子司馬紹的想法，去征求王導的意見。王導說：“立太子都是立長子，而且司馬紹也很賢明，不應當隨意改變。”司馬睿還是猶豫不決。王導常常勸諫，司馬紹的名分才得以確立。