তিনি ১৯৯৪ সালে ইস্টার্ন ব্যাংকে প্রবেশনারী অফিসার হিসেবে তাঁর বর্ণাঢ্য ব্যাংকিং ক্যারিয়ার শুরু করেন। পরবর্তীতে তিনি ওয়ান ব্যাংক, শাহ্জালাল ইসলামী ব্যাংক, যমুনা ব্যাংক এবং প্রিমিয়ার ব্যাংকে বিভিন্ন পর্যায়ে সাফল্যের সঙ্গে দায়িত্ব পালন করেন। দীর্ঘ দুই যুগেরও অধিক সময়কালের অভিজ্ঞতা সম্পন্ন বিচক্ষণ এই ব্যাংকার বিভিন্ন শাখার প্রধান ছাড়াও প্রধান কার্যালয়ে করপোরেট ব্যাংকিং, ঝুঁকি ব্যবস্থাপনা বিভাগসহ প্রধান ঝুঁকি কর্মকর্তা হিসেবে দায়িত্ব পালন করেন। তিনি দেশে ও বিদেশে অর্থনীতি ও ব্যাংকিং বিষয়ক বিভিন্ন সেমিনার ও প্রশিক্ষণ কর্মশালায় অংশ নেন।
এম. শামসুল আরেফিন ভারতের আলীগড় মুসলিম বিশ্ববিদ্যালয় থেকে বাণিজ্য বিভাগে প্রথম শ্রেণীসহ স্নাতক (সম্মান) এবং ঢাকা বিশ্ববিদ্যালয় থেকে প্রথম শ্রেণীসহ মাস্টার্স (ফিন্যান্স) ডিগ্রি অর্জন করেন। পরবর্তীতে তিনি নর্থ সাউথ বিশ্ববিদ্যালয় থেকে এমবিএ (ফিন্যান্স) ডিগ্রী অর্জন করেন।