依法治国，建设社会主义法治国家，要求政府依法行政。２００４年国务院颁布的《全面推进依法行政实施纲要》，明确提出了建设法治政府的目标。那么，依法行政要依据哪些“法”呢？概括起来，主要有以下几个方面：
宪法的基本原则和精神。宪法是国家的根本大法，在一国法律体系中的效力最高，是制定其他法律的基础。依法治国，首先必须依宪治国。宪法是依法行政的最高法律依据，也是坚持执政为民的法律保证。。国务院如果没有得到立法机关的特别授权，不能直接依据宪法出台相关的行政法规。行政法规调整国家经济、社会、文化等方面的广泛的社会关系，是依法行政的重要依据。同时，由于国务院各部委系统的管理具有行政系统内专业分工管理的特色，政府部门除了需要依据法律、行政法规进行行政管理外，还需要本系统业务方面的专业指导和规范。因此，各部委根据自己管理事务的特点，对国务院的行政法规作出进一步的专业解释，制定部门规章。这些部门规章，也是行政机关依法行政的依据。
地方性法规、地方政府规章、自治条例与单行条例。根据《中华人民共和国地方各级人民代表大会和地方各级人民政府组织法》，省、自治区、直辖市的人大及其常委会根据本行政区域的具体情况和实际需要，在不同宪法、法律、行政法规相抵触的前提下，可以制定和颁布地方性法规，报全国人大常委会和国务院备案。省、自治区人民政府所在地的市和经国务院批准的较大的市的人民代表大会及其常委会根据本市的具体情况和实际需要，在不同宪法、法律、行政法规和本省、自治区的地方性法规相抵触的前提下，也可以制定地方性法规，报省、自治区的人大常委会批准后施行，并由省、自治区的人大常委会报全国人大常委会和国务院备案。我国《立法法》还规定，省、自治区、直辖市和较大的市的人民政府，可以根据法律、行政法规和本省、自治区、直辖市的地方性法规，制定地方政府规章。根据宪法规定，民族自治地方的人民代表大会有权依照当地民族的政治、经济和文化的特点，制定自治条例和单行条例，并履行相应的报批和备案程序。自治条例和单行条例的内容必须符合宪法和法律的基本原则。