中国科学院广州地球化学研究所的前身，可上溯到1964年根据国家需要从中国科学院地质研究所分设出来的中国科学院地球化学研究所。1966年该所由北京迁至贵阳，长期以来在涂光炽院士的直接领导下，建立和发展了我国地球化学和矿物学领域的许多新兴分支学科，在揭示成矿物质来源、成矿机理、成矿规律、能源开发与应用，以及探寻我国矿产资源综合利用途径等方面，取得了一系列高水平的理论及应用性成果，为我国国民经济建设、国防建设和科学事业的发展作出重大贡献。1986年，在广东省人民政府支持下，该所部分学科和研究室整建制搬迁到广州，与1978年开始筹建的广州地质新技术研究所合并，成为中国科学院地球化学研究所广州分部。1993年经中国科学院批准地球化学研究所广州分部独立建所，暂以中国科学院广州地质新技术研究所名称运行；1994年经国家编制委员会批准成为独立的研究所建制，正式启用中国科学院广州地球化学研究所名称。2002年初，按照中国科学院关于建立南方海洋科学创新基地的战略部署，原中国科学院长沙大地构造研究所与广州地球化学研究所实行异地整合，整合后的广州地化所整体进入中国科学院知识创新工程二期试点序列，2011年进入中国科学院“创新2020”整体择优支持研究所行列。　　

   研究所拥有有机地球化学和同位素地球化学2个国家重点实验室，边缘海地质和矿物学与成矿学2个中国科学院重点实验室，资源环境利用与保护和矿物物理与矿物材料研究开发2个广东省重点实验室，以及国家大型科学仪器中心—广州质谱中心；为承担国家重大需求任务，2007年中科院批准建立中科院珠江三角洲环境污染与控制研究中心；为服务地方环境质量改善和可持续发展，在院省战略合作框架下，相继成立中国科学院佛山环保技术与装备研发专业中心和佛山市中科院环境与安全检测认证中心。建有“地学与资源科普教育基地”，主办有中国核心期刊《地球化学》和《大地构造与成矿学》。

   研究所设有地球化学、矿物学岩石学矿床学、构造地质学、环境科学和环境工程5个博士培养点，地球化学、矿物学岩石学矿床学、第四纪地质学、构造地质学、海洋地质、环境科学、环境工程、地图学与地理信息系统和人文地理学9个学术型硕士培养点，环境工程、地质工程2个专业型工程硕士培养点，并设有地质学和环境科学与工程2个一级学科博士后科研流动站。

　  该所“地学与资源科普基地”于2005年被列为广州市、广东省和国家科普教育基地。

　　迁所广州以来历任所长：傅家谟 、孙大中（以上主持广州分部工作）、赵振华 、夏  斌 、范蔚茗。