阿門洲時期
埃努（可以理解成天使）是伊露維塔（相當於上帝）於創世之前在其意念之中創造誕生。維拉是埃努中的大能力者，而其餘的則被稱作邁雅。在維利諾時期，甘道夫被稱作歐羅林，就是一位侍奉維拉之王曼威的邁雅。
歐羅林居住在世間最美之地羅瑞恩，伊爾牟、美麗安等眾多維拉也住於此。在維林諾期間，歐羅林經常造訪涅娜（維拉），從她那裡學到了憐憫和耐心。
歐羅林十分喜愛精靈，不過他常隱形往來於他們中間，或者化作他們的模樣；所以，精靈們並不知道自己內心浮現的美妙景象或靈光一現的智慧，其實是受了他的啟發。就像涅娜所做的一樣，他聆聽所有伊露維塔兒女們（這裡指精靈）的悲傷，並憐憫他們，讓從絕望中覺醒。
第二紀元中期，索倫鑄得至尊戒後不久，曼威召開會議決定向中洲派遣幾位使者，以應對索倫日益膨脹的勢力。前去的使者被稱為伊斯塔爾 “須得力量強大，位次不居索倫之下；亦須棄置其力，軀殼以肉體”，意為巫師。歐羅林便是其一。
踏足中土
第三紀元1000年左右，巫師們相繼抵達中洲，他們均以年老的人類樣貌來到。歐羅林抵達灰港時，唯有奇爾丹（灰港的精靈領主）知曉其來歷。他在港口迎接歐羅林，並將自己的火之戒納雅（精靈三戒之一）交託給他。
之後，歐羅林開始了他在中洲長久的漫遊。與薩魯曼不同，他主要在西部地區遊歷，並且從未給自己選定任何長久住所，因由與各個種族的結交，他有了許多不同的名字，其中最廣為人知的是甘道夫。
早期行動
第三紀元1100年左右，巫師和精靈發現有邪惡佔據了黑森林中的多古爾都。甘道夫不確定在多古爾都盤踞的是誰，但他擔心這是索倫再度現世，於是在第三紀元2063年來到多古爾都，試圖解開此地之謎。盤踞此地的所謂死靈法師迅速逃離，甘道夫沒能查清他的身份。此後這股邪惡許久未現，使中洲在數個世紀的和平時光中得以喘息，這段時光被稱作警戒和平，但那茲古爾（戒靈之一）利用這段時間為索倫的迴歸作好了準備。第三紀元2460年，因邪惡重回多古爾都，巫師和精靈首領們於三年後建立了白道會。凱蘭崔爾希望甘道夫出任白道會領袖，但最終卻被薩魯曼謀得。因甘道夫不想被職位所累，更無紮根某地的打算。
在埃裡阿多地區期間，甘道夫在夏爾發現了與世無爭的霍比特人，並開始和他們相熟。在第三紀元2758年的漫長冬季，甘道夫曾來幫助他們。也就是在那時他發現了霍比特人骨子裡的堅韌。
之後，孤山之王瑟萊因二世在前往他失去的王國的路途中離奇消失。甘道夫為尋找他的去向，在第三紀元2845年之後的某個時候進入了墨瑞亞，最終一無所獲地自都林之門離開，因此，雖然他穿越過都林之門，但並不清楚進入此門的方法。
第三紀元2850年甘道夫第二次來到多古爾都，矮人王失蹤的謎團才水落石出。他在地牢裡找到了奄奄一息的瑟萊因二世。瑟萊因將孤山秘門的鑰匙和地圖託付給他。同時，甘道夫也查明瞭盤踞多古爾都的死靈法師就是索倫。而索倫正在搜尋眾戒，包括至尊戒；而從瑟萊因身上，他已經奪得了矮人七戒中的最後一枚。
甘道夫從多古爾都脫身，將其報告給白道會。他敦促白道會，應趁索倫羽翼未豐，至尊戒又未被索倫尋到時進攻多古爾都，但薩魯曼卻提出靜觀其變，謊稱至尊戒早已被安都因河帶入大海。薩魯曼的發言最終獲得了多數同意，但半精靈埃爾隆德隨後私下對甘道夫說，他預見到至尊戒將被尋獲，而這個紀元的大戰即將來臨，他擔憂這個紀元將終結於黑暗和絕望。甘道夫寬慰他道，世間仍有許多機緣，而“當智者兀自猶疑不決，援助往往來自弱者之手”。此時甘道夫並不清楚薩魯曼的真正意圖乃是將至尊戒據為己有。
孤山任務
甘道夫時常參加霍比特人的聚會，為孩子們燃放煙花，講故事。他與老圖克是好友，也知道老圖克的外孫比爾博·巴金斯。
惡龍史矛戈毀滅孤山和河谷鎮時，甘道夫認為索倫正在謀劃開戰，鐵丘陵的矮人不能擋住來自東方試圖收復安格瑪的敵人。而史矛戈造成的恐怖影響可能被索倫所利用，正在思慮如何才能除掉史矛戈時，甘道夫恰恰與都林一族的繼承人梭林·橡木盾偶遇。
第三紀元2941年甘道夫和索林在布理相遇，梭林挑起了話頭，他說自己有種奇怪的感覺像是應該去找甘道夫。甘道夫意識到他們有著共同的麻煩和目標。
為幫助梭林殺死史矛戈並奪回山下的財富，甘道夫把梭林的父親交給他的地圖與鑰匙給了梭林，為他制定了計劃，並要求他一定要帶上自己推薦的“飛賊”——比爾博·巴金斯。甘道夫隨後去拜訪了比爾博，並帶來了梭林和他的12位同伴，儘管比爾博不太情願，甘道夫和矮人們最終還是說服了他作為“飛賊”加入這一行動。甘道夫與這一隊伍一起出發，一路上甘道夫多次幫助和指導眾矮人與比爾博並救了他們命。
由於白道會認為索倫的攻擊迫在眉睫，在前往孤山途中甘道夫離開了，並說服了白道會成員進攻多爾古都。索倫在他們面前退卻了，並逃到了魔多。
當多爾古都事了，甘道夫得知了矮人們被幽暗森林的精靈所擒。但是甘道夫不知道的是，比爾博發揮了作用，在甘道夫趕到前救出了眾矮人，並帶他們來到了孤山。埃瑞博被奪回而龍也被殺死，一切似乎都很順利。但是當甘道夫趕到後，卻發現13位矮人和他們鐵丘陵的親族與長湖鎮的人類、幽暗森林的精靈劍拔弩張。他加入了巴德與瑟蘭杜伊的陣營，試圖和梭林談判。在矮人和精靈與人類的聯軍即將開戰的時刻，甘道夫站了出來，警告大家半獸人即將來襲。果然之後獸人大軍來到，五軍之戰開始了，精靈、矮人和人類結成了同盟，對戰半獸人與野狼。最終貝奧恩（類似熊德）和大鷹也來相助，最終聯軍取得了勝利。
之後，甘道夫和比爾博回到貝奧恩家中住了一段時間，第二年春天才離開，於五月一號他們來到瑞文戴爾，再後來甘道夫陪伴比爾博回到了夏爾。
邪惡重臨
第三紀元2956年，甘道夫同阿拉貢相識。同時，也常常造訪夏爾，看望朋友比爾博和後者的侄兒弗羅多。他注意到比爾博始終未顯老態，開始思考比爾博那枚魔法戒指在其中扮演的角色。他回憶了比爾博承認戒指是偷自咕嚕的描述；在他眼裡，比爾博顯然已經對這枚戒指十分著迷。這樣的著迷進一步加深了他的懷疑。第三紀元3001年，比爾博的告別宴會之後，甘道夫提醒弗羅多不要使用這枚戒指；這充分說明，甘道夫已經懷疑此戒是力量之戒的其中一枚。
後來，甘道夫找到了咕嚕，根據他的說法，結合米那斯提力斯的史料，甘道夫拼湊出了至尊戒自失落以來的全部歷史。當他確認咕嚕曾去過巴拉督爾之後，心頭就為憂懼籠罩。索倫對咕嚕加以非人的折磨，不僅知曉了魔戒的歷史，還得到了“夏爾”和“巴金斯”這名字。
第三紀元3018年4月12日，為了確認弗羅多的魔戒就是至尊戒，甘道夫抵達霍比屯。他與弗羅多在袋底洞內深談，並將魔戒擲入爐火一會兒才將它取出。戒指上原本什麼也沒有，卻在被火焰燒過後出現了用精靈文拼寫的黑語銘文。這就才確認了弗羅多的戒指就是至尊戒。
甘道夫用通用語為弗羅多翻譯了銘文，並把真相告訴了他。他告訴弗羅多，大敵已經通過咕嚕得知至尊戒再現、知道了 “夏爾”和“巴金斯”的隻言片語，並可能已經在尋找夏爾了。他還告訴弗羅多，只有一個辦法能摧毀至尊戒：將至尊戒丟入末日火山歐洛朱因的末日裂罅。顯然，魔戒在夏爾已經藏不住多久了，弗羅多決定要離開夏爾，以保護自己和他身邊的人。這出乎甘道夫的意料。隨後甘道夫為弗羅多取了一個旅行用的假名“山下先生”；並讓他帶上偷聽談話的山姆一起上路。
途中他告別弗羅多，下到夏爾的南方收集消息，在南方邊境上，甘道夫得知索倫進攻了剛鐸。並在後來離布理不遠的地方遇到了拉達加斯特（褐袍巫師）。得知了薩魯曼的口信：九位偽裝成黑騎手的戒靈正朝西而來打聽夏爾；如果甘道夫需要，可以尋找薩魯曼的幫助。甘道夫希望決定去見薩茹曼。
7月10日，甘道夫抵達艾森加德。薩茹曼正在塔底等候著甘道夫，他領甘道夫上到了高層的議事廳，並向甘道夫提供一個選擇：向他投誠並倒向邪惡。遭到拒絕後，薩茹曼終於暴露出了他的真面目。他把甘道夫囚在了歐爾桑克的塔頂上。在歐爾桑克的塔頂上，甘道夫看見惡狼與獸人，發現薩茹曼已經召聚了大批兵力。
9月18日夜晚，巨鷹們載著甘道夫自艾森加德逃出。10月18日抵達瑞文戴爾。10月20日夜晚，弗羅多也帶著至尊戒抵達瑞文戴爾。
10月25日早晨，他們一起出席了埃爾隆德的會議。在會議上，確認了薩魯曼的背叛，以及成立護戒隊送至尊戒到末日山摧毀的任務。甘道夫成為遠征隊的領隊。
護戒途中，他們在墨瑞亞遇到了炎魔，甘道夫與之一戰後，炎魔就此被滅，而他也力竭而死。
白袍甘道夫
但作為五位巫師中唯一始終忠於使命的一位，甘道夫被創世神伊露維塔送回中洲，並被獲准更大程度地動用他作為邁雅的力量。
甘道夫被送回舊軀後，於是趕往範貢森林南部同阿拉貢、萊戈拉斯和吉姆利會合。之後，他們來到埃多拉斯，罷黜了格里馬，力諫了被蠱惑的洛汗國王希奧頓。之後，依次參與了聖盔谷之戰、白城米那斯提力斯的佩蘭諾平野之戰，以及最後的黑門之戰，並都得以勝利。最終魔戒別摧毀，索倫被覆滅。
最後的離別
護戒遠征隊在米那斯提力斯重聚；甘道夫應阿拉貢之請為後者加冕，迎接屬於人類的紀元。
阿拉貢與阿爾溫成婚後，護戒隊成員與其他在魔戒大戰中功勳卓著的人開始籌備返程，並於7月22日出發。旅途中，甘道夫常與凱蘭崔爾和凱勒博恩在星光下聚首，交流彼此的思緒，盡言過去、現世和未來。甘道夫在夏爾邊界與弗羅多、山姆、梅里和皮平道別。
第三紀元3021年9月29日，甘道夫戴著精靈三戒之一納雅在米斯瀧德的港口迎接弗羅多，捷影在他身旁。甘道夫與埃爾隆德、凱蘭崔爾以及弗羅多一同西渡而去，作為唯一一位圓滿完成任務的伊斯塔爾回到西方之地。
閱讀更多 魔法師的尖頂帽 的文章
