당태종은 정권을 잡은 후, 태자 이건성의 책사로 태종을 죽이라는 계책을 내놓았던 위징을 죽이기는커녕 가신들의 반대를 무릅쓰고 간의대부로 중용해 가까이에 두고 충언을 들었다. 즉위 초 태종이 위징에게 물었다. “황제가 어떻게 하면 현명해지고 어떻게 하면 아둔해지는가?” 위징은 이렇게 답한다. “많은 사람들의 의견을 두루 듣게 되면 현명해집니다. 하지만 한쪽 말만 듣고 믿는다면 아둔해질 것입니다.”(兼聽則明 偏信則暗) - 『자치통감』,『신당서』
당태종은 군주가 듣기 좋은 소리만 받아들이면 주위에 간신들이 들끓게 된다는 사실을 일찍이 깨우치고 있었다. 당태종의 위대함은 스스로 자신의 부족함을 인정하고, 그 부족함을 신하들의 간언으로 채웠다는 데 있다. 그도 때로는 감정에 사로잡혀 노여움을 감추지 못했으며 잘못된 판단도 없지 않았다. 그럴 때마다 그를 바로잡아준 것은 신하들, 특히 위징의 간언이었다.
하루는 태종이 조회를 마치고 내전에 들어오더니 화난 얼굴로 “내일은 꼭 그 촌놈을 죽여버리겠다.”라고 말했다. 황후가 무슨 말인지 묻자, 태종은 “위징이란 놈이 조회 때마다 나를 욕보인단 말이오.”라고 했다. 황후가 그 얘기를 듣고 물러가더니 잠시 후 예복으로 갈아입고 들어와 태종에게 큰절을 올렸다. 태종이 의아해서 물으니 황후가 하는 말이, “임금이 밝으면 신하가 곧다(君明臣直) 하였습니다. 이제 위징이 곧은 것을 보니 폐하의 밝음이 드러나는지라 경하 드립니다.”
위징을 비롯하여 두여회, 방현령 등 태종 당시 명신들의 간언들은『정관정요』라는 책에 수록되어 있다. 위징이 태종에게 충언한 횟수가 무려 200회가 넘는다는데, 태종은 눈살을 찌푸리면서도 이들 대부분을 수용했다. 훗날 위징이 죽자 태종은 매우 애통해하며 “나의 거울이 깨졌구나!”라고 탄식했다고 한다. 위징의 쓴소리를 거울삼아서 스스로 몸가짐을 바로잡을 수 있었다는 뜻이다.
이처럼 귀찮다 못해 때로 죽이고 싶을 정도로 잔소리와 쓴소리를 해대는 신하들의 간언을 받아내며 태종은 “나는 여위더라도 천하는 반드시 살찔 것이다.”라고 했는데, 그의 말대로 당나라 시대의 수도 장안은 인구 100만에 외국인 거주자가 5만 명인 국제적 개방도시가 되어 ‘세계의 수도’로 불리었고, 불교는 물론이고 이슬람교, 기독교, 배화교 등 세계의 여러 종교가 이곳에 전파돼 꽃을 피웠다. 당태종이 신하에게 보였던 ‘개방과 포용’이 훗날 당나라를 세계를 향해 활짝 열린 선진국으로 이끌었던 것이다.