几年后，韦玄成被征召为未央宫卫尉，又升迁为太常。但韦玄成的仕途并非一帆风顺，一开始，因为他和司马迁的外孙杨恽关系很好，杨恽被杀，杨恽的故旧朋友都被牵连，全部被免职。再后来，韦玄成以列侯身份陪同祭祀孝惠帝庙，应该在早晨进入祠庙，由于下雨，道路泥泞，韦玄成没有乘坐驷马车，而是骑马参加祭祀。主管官员弹劾韦玄成不敬，和韦玄成同辈的几个王侯都因此被削减为关内侯。韦玄成因为自己犯错，致使父亲的爵位被削，感到十分难过，叹气道：“我还有何面目再进祖庙！”并且写诗自我谴责。

　　宣帝宠幸的张婕妤生的皇子，淮阳宪王刘钦热衷于政事，又通晓法律，宣帝认为他很有才干，而太子刘奭太柔弱好儒，因此一度有改立太子想法。可是太子生于宣帝贫贱之时，宣帝对太子的母亲许皇后故剑情深，而太子早早就失去了母亲，宣帝因此迟迟下不了决心。最终宣帝还是选择太子刘奭来继位，也许是担心刘钦以后会作乱，便考虑安排一位懂礼让的人来辅佐刘钦，于是征召韦玄成为淮阳国中尉。当时刘钦尚未前去封国，在这一段时间，韦玄成受诏，与太子太傅萧望之及《五经》儒生讨论经学异同，在石渠阁展开了一场有名的讨论。

　　自从汉武帝采用董仲舒提出的“罢黜百家，独尊儒术”的建议，并大量起用儒家学者做官，这些人成为朝廷中新兴的政治势力，儒家学说成为了当时的统治思想。到了汉宣帝时期，经过几十年的发展后，儒家被分成了好几个流派，他们对儒家经典的解读有着各自不同的见解，由于对治国见解的不同，引发了很大的纷争。宣帝为了进一步统一儒家学说，加强思想统治，下诏让韦玄成跟萧望之、刘向、薛广德、周堪等精通“五经”的著名儒生，在长安城内未央宫北的石渠阁讲论“五经”异同。之所以要在石渠阁讨论，那是因为这里是汉高祖刘邦建国之后，由萧何出面建设的，集中了先秦时期绝大多数经典书籍档案的藏馆。这里面的经典著作非常丰富，很多著名的历史篇章都是在这里完成和收藏的。宣帝亲自评判裁定，石渠阁讲论的奏疏经过汇集，辑成《石渠奏议》，共155篇。经过这次会议，博士员中《易》增立了“梁丘”，《书》增立了“大小夏侯”，《春秋》增立了“谷梁”。石渠阁会议对儒家的发展有着里程碑式的地位，其影响力延续了数千年之久。韦玄成作为经学流派的代表人物参与其中，奠定了其儒家经学大师和领袖的政治地位。

　　元帝即位后，任命韦玄成为少府，又升迁为太子太傅，教导太子刘骜，后来又升迁为御史大夫。永光年间，韦玄成继于定国之后当上了丞相。韦玄成被贬10年，终于继父亲之后担任丞相，受封为列侯，封邑仍在原来的地方，一时间被世人传颂。韦玄成实现了愿望，为此写诗，自述从挫折中奋起的艰难，以警示子孙。

　　在汉元帝时代，儒家学派与宦官集团的斗争是非常激烈的，各种政治风波遍布朝野，也引起了社会的极大动荡。在这一时期的政治斗争中，由于汉元帝的纵容，宦官集团的首领中书令石显得以专权，使得儒家学派遭到惨重的打击，被贬官获罪的数不胜数，其中作为儒家领袖的萧望之、周堪等人先后被逼死，就连宗正刘向也被迫辞官，宦官集团一时间权倾朝野。然而在这样的政治风暴中，只有韦玄成得以幸免，这主要得益于汉元帝的保护和利用，元帝需要韦玄成整合儒家学派，同时韦玄成个人政治态度较为中立，不积极参与反对宦官集团的行动。韦玄成担任了七年丞相，于建昭三年去世，后世评论说，他在坚守正道和老成稳重方面赶不上父亲韦贤，但他的文章风采却超过了他的父亲。

　　从汉高祖起西汉就实行“徙陵制度”，每代皇帝修建陵园时，都要将一些资产雄厚、位居高位的豪族迁去陵邑，守护陵园。昭帝修建平陵，韦贤在朝为光禄大夫，受命带领韦氏自邹鲁搬家到关中的平陵县。宣帝营建杜陵，韦玄成再次搬家，迁到了长安城南的杜陵县，这就是后来的的京兆杜陵韦氏。韦玄成去世前通过使者向元帝请求说：“我不能忍受父子分葬两地，希望皇上能准许我辞官，回去与父亲葬在一起。”元帝批准了他的请求。

　　韦玄成去世，谥号为共侯。嗣子韦宽继承爵位，去世，谥号为顷侯。嗣子韦育继位，去世，谥号为僖侯。嗣子韦沈继位，去世，谥号为节侯。从韦贤起，封爵一直传到玄孙。韦玄成的大哥韦方山的儿子韦安世，历任郡太守、大鸿胪、长乐宫卫尉，朝廷认为韦安世有宰相之才，可惜还来不及任命，韦安世病逝。二哥韦弘的儿子韦赏通晓《诗经》，哀帝做定陶王时，韦赏在定陶国担任太傅。哀帝即位，韦赏担任大司马车骑将军，位列三公，受封爵关内侯，食邑一千户。韦赏寿终正寝，享年80多岁。韦氏宗族子弟，官至二千石的有十余人。

　　富不过三代，这似乎是家族兴衰的魔咒，但这个魔咒放在京兆韦氏身上就不灵了。京兆韦氏自西汉中期显达，千年不倒，直到唐末黄巢起义军清洗门阀世族，北方的京兆韦氏自此凋零，而逃到广西的客籍韦氏和早期定居南岭的土著韦氏，又和八桂大地的少数民族融合，成为了广西壮族的重要组成部分。