فیلتر مرحله دوم تصفیه آب وظیفه ی کاهش کلر ، طعم و بوی نامطبوع آب را بر عهده دارد. فیلتر مرحله ی دوم و سوم مکمل یکدیگرند. البته در دستگاه های مختلف فیلتر مرحله ی دوم ممکن است نوع و کارایی متفاوتی داشته باشد. به عنوان مثال در دستگاه های آنتی باکتریال به جای فیلتر کربن گرانول، از یک فیلتر پلی پروپیلن استفاده می شود. در این دستگاه ها مرحله ی اول و دوم به تصفیه فیزیکی آب اختصاص داده شده است. اما در اکثر دستگاه های موجود در بازار به عنوان فیلتر مرحله دوم، از یک فیلتر کربنی استفاده می شود. آب با عبور از بین دانه های ذغال موجود در فیلتر، تصفیه شیمیایی می گردد و گازهای محلول در آن توسط این دانه ها جذب می شوند.

دومین فیلتر به فیلتر کربن پودری یا دانه ای معروف است.

مرحله دوم تصفیه آب , با فیلتر کربن پودری می باشد. کربن بکار رفته در این فیلتر از جنس پوست نارگیل  یا پوست پسته است که جهت حذف کلر ، تری هالومتان ها و بیشتر مواد شیمیایی آلی موجود در حشره کش ها و آفت کش ها ,می باشد و نیز رنگ ، طعم و بوی آب در این مرحله بهبود پیدا می کند.

 از مزیت هاى فیلتر مرحله دوم تصفیه خانگى میتوان به ارزان قیمت بودن آن و همچنین كارایى آن  در دستگاه تصفیه خانگى اشاره كرد. 

بنابراین خیلی بدیهی است که باید تعداد تعویض این فیلتر نسبت به تعداد تعویض فیلتر مرحله یک کمتر و نسبت به تعویض فیلترهای مراحل بعدی دستگاه تصفیه آب بیشتر باشد.