พระองค์ทรงได้รับถวายพระสมัญญาจากกองทัพเรือว่าเป็น “พระบิดาของกองทัพเรือไทย” และต่อมาได้แก้ไขเป็น “องค์บิดาของทหารเรือไทย” เมื่อวันที่ 19 เมษายน พ.ศ. 2544 จากพระกรณียกิจของพระองค์ที่ทรงวางรากฐานและพัฒนาปรับปรุงทหารเรือสยามให้เจริญก้าวหน้าตามแบบประเทศตะวันตก

ส่วนกรณีที่นักเรียนนายเรือพากันเรียกพระองค์ว่า “เสด็จเตี่ย” นั้น พลเรือโท ศรี ดาวราย สันนิษฐานว่า มาจากการที่พระองค์ทรงขัดดาดฟ้าให้นักเรียนนายเรือใหม่ๆ ที่ฝึกภาคทางทะเลบนเรือหลวงพาลีรั้งทวีปดูเป็นแบบอย่าง ในปี พ.ศ. 2462 หลังจากที่ทอดพระเนตรเห็นนักเรียนเหล่านั้นทำงานนี้ด้วยท่าทางเงอะงะเก้งก้าง โดยตรัสกับพวกนักเรียนเหล่านั้นว่า “อ้ายลูกชาย มานี่เตี่ยจะสอนให้”

เมื่อช่วงต้นรัชกาลที่ 6 กรมหลวงชุมพรฯ ทรงออกจากราชการซึ่ง สมเด็จฯ กรมพระยาดำรงราชานุภาพทรงพระนิพนธ์ถึงเหตุการณ์ดังกล่าวว่า “…กรมหลวงชุมพรฯ ไม่ทรงสบาย ได้รับพระราชทานพระบรมราชานุญาตออกเป็นนายทหารกองหนุนอยู่ชั่วคราว ๑ จนถึงปีมะเส็ง พ.ศ. ๒๔๖๐ จึงเสด็จกลับเข้ามารับราชการเป็นตำแหน่งจเรทหารเรือ…”

แต่กรณีนี้ ศรัณย์ ทองปาน มีความเห็นต่างออกไปโดยเห็นว่า “…ในช่วงต้นรัชกาลที่ ๖ เกิดเหตุนายทหารเรือผู้หนึ่งเมาสุราในร้านอาหารสันธาโภชน์ ที่ตำบลบ้านหม้อ แล้วเกิดวิวาทกับมหาดเล็กหลวง ทำให้รัชกาลที่ ๖ ทรงพิโรธ ดังความในพระราชหัตถเลขาตอนหนึ่งว่า ‘…ปรากฎชัดว่าได้ฝึกสอนนักเรียนนายเรือในหนทางไม่ดี ทำให้มีจิตร์ฟุ้งสร้านจนนับว่าเสื่อมเสียวินัยและนายของทหาร…สมควรลงโทษเป็นตัวอย่าง’

ประกอบกับมีข่าวลือว่า กรมหมื่นชุมพรเขตรอุดมศักดิ์กับกรมขุนนครสวรรค์วรพินิต กำลังวางแผนก่อกบฏ ชิงราชสมบัติ โดยแม้ว่าพระองค์ทรงออกจากราชการแล้วทางการก็ยังให้ตำรวจท้องที่คอยติดตามการเคลื่อนไหวของพระองค์…”

ระหว่างที่ทรงอยู่นอกราชการ กรมหลวงชุมพรฯ ทรงหาเลี้ยงชีพด้วยการเป็นหมอยา ใช้พระนามว่า “หมอพร” ในช่วงนี้เองที่กล่าวกันว่า ทรงปราบนักเลงนางเลิ้งได้อยู่หมัด ได้นักเลงมาเป็นลูกน้องด้วย ช่วงเวลานี้กินเวลาราว 6 ปี พระองค์จึงได้กลับเข้ารับราชการกองทัพเรืออีกครั้ง หลังสยามประกาศสงครามกับเยอรมนี

เมื่อได้เสด็จกลับเข้ารับราชการทหารเรือและทรงอุทิศพระองค์ปฏิบัติราชการทหารเรือด้วยพระอุตสาหะวิริยะแล้วก็ได้รับพระมหากรุณาธิคุณเลื่อนพระยศเป็นนายพลเรือโท และนายพลเรือเอก ทั้งยังได้โปรดเกล้าฯ เฉลิมพระอิสริยยศเป็น กรมขุนและกรมหลวงชุมพรเขตอุดมศักดิ์ตามลำดับ กับได้โปรดเกล้าฯให้ทรงดำรงตำแหน่งเสนาธิการทหารเรือ ซึ่งเป็นตำแหน่งบังคับบัญชากำลังพลเทียบเท่าตำแหน่งผู้บัญชาการทหารเรือในปัจจุบัน ก่อนที่จะโปรดเกล้าฯให้ทรงดำรงตำแหน่งเสนาบดีกระทรวงทหารเรืออันเป็นตำแหน่งสูงสุดในราชการทหารเรือ