葛洪出身江南士族，三国方士葛玄之侄孙。其祖在三国吴时，历任御史中丞、吏部尚书等要职，封寿县侯。其父悌，继续仕吴。吴亡以后，初以故官仕晋，最后迁邵陵太守，卒于官。那年葛洪十三岁，自此家道中落，只得以砍柴所得，换回纸笔，在劳作之余抄书学习，常至深夜。乡人因而称其为抱朴之士，他遂以“抱朴子”为号。性格内向，不善交游，只闭门读书，涉猎甚广。
葛玄曾师从炼丹家左慈学道，号葛仙公，以炼丹秘术传于弟子郑隐。葛洪约16岁时拜郑隐为师，因潜心向学，深得郑隐器重。郑隐的神仙、遁世思想对葛洪一生影响很大，自此有意归隐山林炼丹修道、著书立说。
西晋太安元年，其师郑隐知季世之乱，江南将鼎沸，及负笈持仙药之朴，携入室弟子，东投霍山，唯葛洪仍留在丹阳。晋永兴元年，葛洪加入吴兴太守顾秘的军队，任将兵都尉，与石冰的农民起义军作战有功，被封为“伏波将军”。次年石冰事件，葛洪不愿争功邀赏，辞官往洛阳搜寻炼丹制药之书，但因陈敏盘据江东作乱，归途断绝，遂流落在徐、豫、荆、襄、江、广诸州之间。太安二年，张昌、石冰于扬州起义，大都督秘任葛洪为将兵都尉，由于镇压起义有功，迁伏波将军。然稽君道在此之后就遇害了，便滞留广州多年。
后来又经历了一些琐碎的事情，让葛洪有所顿悟，绝弃世务，修行赤松子、王子乔的隐逸之道，自己支配自己，不受治于人。准备登上有名的山峰，服食丹药涵养本性。
到了广东，他又拜南海太守鲍靓为师。鲍靓精于医药和炼丹的技术，见葛洪虚心好学，年青有为，就不但把技术毫无保留地传授给他，并且把精于灸术的女儿鲍姑也嫁给了他。
建兴二年，葛洪返回家乡，隐居深山继续从事《抱朴子》的创作。东晋开国，朝廷念其旧功，赐爵关内侯，食句容二百邑。咸和(326—334)初，司徒王导召葛洪补州主簿，转司徒掾，迁咨议参军。
咸和二年，葛洪听闻交趾出产丹砂，自行请求出任勾漏(今广西北流县)令。赴任途经广州，刺史邓岳表示愿供他原料在罗浮山炼丹，葛洪遂决定中止赴任的行程，从此隐居于罗浮山。他在朱明洞前建南庵，修行炼丹，著书讲学。因从学者日众，又增建东西北三庵(东庵九天观、西庵黄龙观、北庵酥醪观)。卒于东晋兴宁元年，享年81岁。