平谷境域东西长35.5公里，南北宽30.5公里。地处燕山南麓与华北平原北端的相交地带，因其东、南、北三面环山，中间为平原谷地，故得名平谷。境域群山耸翠，万里长城环绕北部山间；泃、洳二河映带左右，萦回境内。平谷地貌由北部、东部、南部山地和中部、西南部平原两大地貌单元组成，山区、半山区占七分之四，平原占七分之三。地势由东北向西南倾斜，中间平缓，呈倾斜簸箕状。平谷区地势东北高，西南低。东南北三面环山，山前呈环带状浅山丘陵。中部、南部为冲击、洪积平原。山区半山区约占总面积的三分之二，有17座海拔千米以上的山峰。全国15大名山之一的盘山，矗立东南县境。
明代长城沿北部山区蜿蜒经过。中低山区占北京市山地面积的4.5%，是林果的发展基地。岗台阶地分布于山前，呈环带状由西樊各庄向东，经乐政务、王辛庄、山东庄、南独乐河、韩庄等乡镇北部转向南至东高村镇大旺务村止，面积131.13平方公里，大部分地区已成平坦的块状阶地，为果园分布带。平原分布于中部、西南部，面积344.94平方公里，为洪水冲积平原，地势平坦，海拔20~100米，马坊镇小屯村北双泉地段海拔11.2米，为全县最低点。
平原地区水源充沛，土壤肥沃，为主要粮菜区。境域的土壤主要是棕壤、褐土、潮土、水稻土4个土类。在县城东、北、南部的中低山和丘陵地带为山地棕壤褐土区。在山前岗台阶地和沟谷上，为山前褐土区。在中、西部和西南部的、洳二河的冲积平原为潮土区，间有小片水稻土。平谷东北部的四座楼山周围为中心区，有17座山峰超过千米，其中柳树湾山的主峰东纸壶达1234米，为最高峰，是与兴隆县的界山。岩石由元古界火山岩、石英砂岩组成。该山区特点是县崖耸露，沟深壁陡，溪谷狭长，草木繁茂。分布在镇罗营乡北部、熊儿寨乡东部与黄松峪乡北部。面积15.07平方公里，呈垄岗状或浑圆状。海拔150~800米的低山区456.19平方公里，呈“M”型分布于北、东、南部，以片麻岩、硅质白云岩、碎硝岩、碳酸盐岩类构成的单面山、馒头山为主。平谷是独立的山间盆地水文地质单元区。山区以基岩裂隙水为主，受降水入渗补给；平原区以第四系孔隙水为主，主要受降水入渗，河流漏渗，山区侧向及灌水回渗等因素补给。
境内有泃、洳两河，水库3座，其中海子水库库容1.21亿立方米，灌溉面积7.4万亩。平谷素有“宝山神水”之称。
境内有河流20余条，属海河流域蓟运河水系，自东、北流向西南。每年3~5月为枯水期，8~10月为丰水期。泃河是境内最大河流，发源于兴隆县青灰岭南麓，南流蓟县北部黄崖关，经罗庄子急转向西，在泥河村附近入平谷县境。倚山西流，沿途汇入三泉水、将军关、黑水湾、黄松峪、豹子峪等季节性河流。至南独乐河村附近潜入地下，在西沥津村附近复出。此段有北寨、鱼子山季节性河纳入。流经平谷故城东门外，迂回折向西南，依次纳入龙家务、杨各庄的泉水、逆流河、拉鞭子沟水，在前芮营附近纳入洳河，英城村南纳入金鸡河，折向南流，于马坊镇东南入三河市。
在蓟县九王庄附近与州河汇合后流入蓟运河。总长180公里，境内长66公里。洳河系泃河支流，发源于密云区东邵渠乡的银冶岭。由北往南流经太保庄南入平谷县境。经刘家店、峪口、乐政务、王辛庄、大兴庄、平谷镇于前芮营村南汇入泃河。总长40.7公里，境内长22.7公里。金鸡河系泃河支流，史称五百沟水，发源于顺义县唐指山南麓，由西北流向东南，于英城乡河奎村西北入境，于英城大桥北汇入泃河，总长27公里，境内长5公里。境内多泉，日流量在20立方米以上的山泉就有33处，多出露在片麻岩、灰岩、砂岩、砂砾岩中。流量最大的为靠山集乡的东沟老泉，流量为102.96升/秒。南山村泉日流量67.6立方米，是清澈、优质的天然矿泉水。