青羊宫座落在成都西南郊，南面百花潭、武候祠（汉昭烈庙），西望杜甫草堂，东邻二仙庵。相传宫观始于周，初名“青羊肆”。据考证，三国之际取名“青羊观”。到了唐代改名“玄中观”，在唐僖宗时又改“观”为“宫”。五代时改称“青羊观”，宋代又复名为“青羊宫”，直至今日。
关于青羊宫的历史，唐乐朋龟《西川青羊宫碑铭》说：“太清仙伯敕青帝之童，化羊于蜀国。”题名汉杨雄《蜀王本记》亦曰：“老子为关令尹喜著《道德经》，临别曰：“子行道千日后，于成都青羊肆寻吾”。时隔三年，老君降临此地，尹喜如约前来，老君显现法相，端坐莲台，尹喜敷演道法。自此以后，青羊宫观便成为神仙聚会、老君传道的圣地。到了唐代，青羊观的规模已相当大。
天宝十五年（775），唐玄宗为避安史之乱而幸蜀，居于观内。恰好诗人杜甫居住草堂，亲见雨映行宫，即景赋诗《严公雨中垂寄见忆一绝奉答二绝》。中和元年（881年），唐僖宗为避黄巢之乱奔蜀，也在观中驻营。据记载，在观内忽见红光入地，挖得一块玉砖，上面刻古篆文：“太上平中和灾”。僖宗认为这是天降吉祥的象征，是太上老君的恩典，返回长安后特下诏令，赐内外库钱二百万，大建殿堂，改“观”为“宫”。现在青羊宫的宏大格局，就是在那时形成的。唐乐朋龟《西川青羊宫碑记》说：“冈阜崔嵬，楼台显敞，齐东溟圆峤之殿；抗西极化人之宫，牵剑阁之灵威，尽归行在；簇峨眉之秀气，半入都城。烟粘碧坛，风行清磬。”此后，青羊宫便成为唐末四川最大、最有影响的宫观了。
到了明代，唐所建殿宇不幸毁于天灾兵焚，破坏惨重。今之所见，均为清康熙六至十年（1667-1671年）陆续重建恢复的，在以后的同治和光绪年间，又经多次培修，解放后又多次修葺，即形成现在的建筑规模。
三清殿是青羊宫主要建筑，始建于唐，重建于清同治八年(1869年)，殿基长40米，为正方形，占地面积1600平方米，通高24米，十分雄伟气魄。建筑为木石砖结构，有木柱8根，石柱28根，石柱、窗户、撑弓上，都雕有花卉、六鹤童、双狮戏绣球等图案。殿内神台高大庄严，长24米，宽6米，供奉着三清像。三清像两侧是四位大神。第一位是玉皇大帝，全称“吴天金阙无上至尊自然妙有弥罗至真玉皇上帝”，为总执天道最祟高之神；第二位是中天紫微北极大帝，为四御之一；第三位是勾陈上宫天皇大帝，为四御之一。第四位是后土皇祗，为掌管阴阳生育、万物之美与大地山河之秀的女神。
三清殿两侧为十二金仙塑像，他们是太乙、广成、巨留、玉鼎、燃灯、准提、接引、臣留、文殊、慈航、黄龙、赤托真人等十二位道教人物；民间另一说为广成子、赤精子、道行真人、太乙真人、道德真君、灵宝大法师、惧留孙、云中子、文殊天尊、普贤真人、慈航道人、玉鼎真人等佛、道混合人物、神祗。殿后正中供奉的是太乙救苦天尊像，左侧为钟离权，右侧是吕洞宾、汪一萃的塑像。
殿左悬挂着重约3000公斤的大钟一口，右为直径1．5米的大鼓一个，还有重约一吨的生铁香蜡筒一对，明正德十二年(1517年)春铸造的生铁化钱炉一座，炉高1．5米。
斗姥殿，建于明代，为五间两层的楼阁，木结构。正中供奉斗姥神像。斗姥，又作斗姆，是道教信奉的女神，传说是北斗众星之母，故名斗姆。青羊宫斗姆殿的斗姆像两侧，塑有侍女像、南北二斗(南斗六星，北斗七星)像。
皇楼殿因供奉玉皇大帝塑像而得名。此殿也为清代建筑，五间两层，砖木结构。楼上供奉玉皇大帝，两侧为王灵官、赵公明、段文仲、马武四臣塑像；楼下供奉北方真武大帝神像；在青羊宫庭院深处，还有紫金台、降生台和说法台。
此外，其它建筑，如三真殿、三宫殿、三法殿、七真楼、向礼堂、功德祠、斋堂、小西尺、柴房、祖堂、客堂都配殿侧房，这些年来也逐步修缮一新，成为成都市道教活动的中心。
青羊宫内最为宝贵的文物是《道藏辑要》经板。为光绪三十二年(1906年)刻制，全部用梨木雕成，共1.3万多块。经版为双面雕刻，版面厚重，字迹工整，为道教典籍保存最完整的经版。