2001年4月，吴青峰与谢馨仪、新哥和史俊威组成“苏打绿”乐团；同年5月，随苏打绿参加台湾政治大学“金旋奖”的比赛，并凭借歌曲《窥》获得最佳人气奖。
2002年5月，随苏打绿再次参加台湾政治大学“金旋奖”的比赛，并获得乐团组冠军、创作组冠军、最佳作词奖、最佳作曲奖4项大奖；同年，他还创作了《空气中的视听与幻觉》、《飞鱼》等41首歌曲。
2003年，先后创作了《蜘蛛天空》、《相对论IV》等29首歌曲以及纪念曲《左边》；同年7月，随苏打绿举办“in summer（印夏天）”台湾西部巡回演出。2004年，签约林暐哲音乐社，成为旗下签约艺人；同年，他还创作了《Believe in music》、《女爵》等23首歌曲。
2005年，为动画电影《红孩儿》的片尾曲《风景》作词；同年9月，随苏打绿推出乐团首张同名专辑《苏打绿》，收录了包括《后悔莫及》、《是我的海》等在内的11首歌曲。
2006年8月，随苏打绿推出单曲《迟到千年》；同年9月，随苏打绿举办“六人行”THE WALL巡回演唱会；同年10月，随苏打绿推出乐团第二张音乐专辑《小宇宙》，收录了包括《小情歌》、《被雨困住的城市》等在内的11首歌曲。
2007年6月16日，随苏打绿获得“第18届台湾金曲奖”最佳乐团奖，而吴青峰本人则凭借歌曲《小情歌》获得最佳作曲作品奖；同年11月2日，随苏打绿推出乐团第三张音乐专辑《无与伦比的美丽》，收录了包括《白日出没的月球》、《左边》等在内的10首歌曲，整张专辑除了民谣、摇滚曲风外，还融入了管弦编曲；随后，随苏打绿在台北小巨蛋举办“无与伦比的美丽演唱会”。
2008年3月，随苏打绿入围“第7届MTV日本音乐录像带大奖”最佳buzzAsia大中华区歌手奖；同年5月2日，随苏打绿推出乐团现场演唱专辑《陪我歌唱》；同年，参加几米音乐剧《向左走‧向右走》的演出，并负责词曲方面的创作；同年10月27日，随苏打绿获得“第8届华语传媒音乐奖”最佳乐队奖、最佳制作人奖、最佳编曲人奖等四项大奖。
2009年5月8日，随苏打绿推出乐团第四张音乐专辑《春·日光》，收录了包括《日光》、《早点回家》等在内的12首歌曲；同年7月5日，随苏打绿获得“第19届台湾金曲奖”最佳乐团奖；同年9月11日，随苏打绿推出乐团第五张专辑《夏/狂热》，收录了包括《他夏了夏天》、《狂热》等在内的14首歌曲 ；随后，随苏打绿举办“日光狂热”世界巡回演唱会 ；同年11月19日，随苏打绿获得“第9届全球华语歌曲排行榜”最受欢迎乐队奖、最佳编曲奖、港台地区杰出歌手奖等四项大奖。
2010年1月23日，随苏打绿获得“MY Astro至尊流行榜颁奖典礼”至尊组合/乐团金奖，而歌曲《狂热》则获得至尊金曲奖；同年8月27日，随苏打绿推出乐团演唱专辑《十年一刻》；同年，随苏打绿举办“各站停靠”巡回演唱会。
2011年11月11日，随苏打绿推出乐团第六张音乐专辑《你在烦恼什么》，收录了包括《你被写在我的歌里》、《当我们一起走过》等在内的11首歌曲。
2012年4月23日，随苏打绿获得“MusicRadio中国TOP排行榜颁奖礼”港台地区年度最受欢迎乐团奖 [28] ；同年，随苏打绿举办“当我们一起走过”巡回演唱会；同年11月2日，随苏打绿获得“第12届全球华语歌曲排行榜颁奖礼”最受欢迎乐团奖，而歌曲《你被写在我的歌里》则获得最受欢迎对唱金曲奖 。
2013年，随苏打绿举办“当我们一起走过”巡回演唱会；同年8月，受那英的邀请担任浙江卫视歌唱选秀节目《中国好声音第二季》的梦想导师；同年9月18日，随苏打绿推出乐团第七张音乐专辑《秋:故事》，收录了包括《我好想你》、《我们走了一光年》等在内的16首歌曲；之后，随苏打绿在北京举办“苏打绿秋：北京故事live演唱会”。
2014年，随苏打绿举行“空气中的视听与幻觉”世界巡回演唱会；同年4月19日，随苏打绿在昆明举办“瞌睡枕头live演唱会”；随后，为张艺谋执导，巩俐、陈道明主演的电影《归来》演唱主题推广曲《跟着你到天边》。
2015年11月4日，随苏打绿推出乐团第八张音乐专辑《冬 未了》；同年12月，随苏打绿在台北小巨蛋连续三天举行“故事未了”演唱会。
2016年6月25日，凭借歌曲《他举起右手点名》获得“第27届台湾金曲奖”最佳作词人奖，并随苏打绿获得最佳乐团奖、最佳编曲人奖，而专辑《冬 末了》则获得最佳国语专辑奖