吴玉霞自幼在上海学习琵琶，曾受到卫祖光、杨承业先生的启蒙教育。1977年赴京，先后就读于北京舞蹈学院音乐班、中央音乐学院民乐系、北京大学艺术学系，分别师从于刘德海、李光华、陈泽民、李光祖、吴国樑、赵忠达等名家；并曾得到卫仲乐、秦鹏章、王范地、林石城、殷荣珠、陈恭则等前辈的指导。

80年代以来曾在国内外重大艺术活动中担任独奏，成功举办个人独奏音乐会及专题讲座数百场，其中《千秋颂》《玉鸣东方》《弦歌雅韵》等反响强烈。发表专著《我的琵琶行》、指尖上的舞蹈——“琵琶技术技巧练习”、《吴玉霞琵琶教学曲精选》《实用琵琶演奏教程》等；文论《我的舞台——一个琵琶演奏者的触点与立点》《远去的背影》《采撷生活的旋律-于庆祝和他的弹拨乐合奏“绿色的竹楼”》《艺术需要精神支撑-写在第8届中国音乐金钟奖全国琵琶比赛之后》《刘德海琵琶艺术探源与思考》《民乐掌门人的坚守与初心》等；独奏专辑《千秋颂》《玉鸣东方》《律动》《珠落玉盘》等;创作《律动》《风戏柳》等琵琶曲;首演《春秋》《古道随想》《妙音天舞》《茶歌》《云影》等协奏、独奏、重奏作品；担任《华乐大典·琵琶卷》副主编、《你是秋》李光华纪念文集以及《琵琶考级教材》主编。

吴氏曾获1980年首届全国琵琶比赛二等奖、1993年全国音像制品评比金奖、1996年大阪国际室内乐比赛组委会特别奖、2010-2012年文旅部展演优秀演奏家、华乐论坛暨“新绎杯”杰出民乐演奏家称号等。有评论道:“她的演奏细腻而不做作，激情而不狂放，深切的领会，细腻的表达，情感的充沛，个性的鲜明，为琵琶演奏艺术树立了新的品貌”。

作为当今活跃于艺术舞台和讲坛的优秀学科带头人，吴玉霞重视理论与实践相结合、探讨器乐演奏从技术储备到舞台呈现的基本规律和实践逻辑，她于2016年组建中国艺术研究院“艺苑国风”艺术家小组，2018年成立中国艺术研究院艺术·学术吴玉霞乐坊，身体力行地践行着“推动新时代民乐艺术事业发展繁荣，需要从乐者与乐曲、继承与创新、交流与交融、塔基与塔尖等多维度深入研究”的艺术主张。