คุณหญิงบุนนาค เศวตนันทน์ เปนมารดา เมื่อยังเยาว์ ได้เล่าเรียนอักขรสมัยที่วัดพระยาธรรมในสำนักพระนิกรมมุนี (เบญจวรรณ) ซึ่งเปนบุตรเจ้าพระยารัตนาธิเบศร์ (กุน) ต้นสกุลรัตนกุล เมื่อบิดาทำการมงคลตัดจุกในรัชกาลที่ ๔ พระบาทสมเด็จฯ พระจอมเกล้าเจ้าอยู่หัว ทรงพระกรุณาโปรดฯ พระราชทานทองคำหนัก ๔ บาทกับเงินตรา ๕ ตำลึงเปนของขวัญ นับว่า เปนเกียรติยศเริ่มแรกซึ่งพระยาอภิชิตชาญยุทธได้รับพระราชทาน เหตุด้วยเมื่อในรัชกาลที่ ๓ พระยามหานิเวศฯ ผู้บิดา ได้เปนตำแหน่งเจ้ากรมในสมเด็จพระมหาสมณเจ้า กรมพระปรมานุชิตชิโนรส พระบาทสมเด็จฯ พระจอมเกล้าเจ้าอยู่หัว ได้ทรงคุ้นเคยและทรงพระเมตตามาแต่ยังทรงผนวช ครั้นสมเด็จพระมหาสมณเจ้าฯ พระองค์นั้นสิ้นพระชนม์ จึงโปรดฯ ให้เข้ารับราชการ ได้เปนตำแหน่งพระยาอัพภันตริกามาตย์อยู่ในกรมสนมพลเรือน จึงทรงพระกรุณาฯ ตลอดไปถึงบุตร เมื่อพระยาอภิชิตชาญยุทธโกนจุกและบวชเปนสามเณรอยู่ที่วัดพระยาธรรมตามประเพณีการศึกษาในสมัยนั้นแล้ว บิดานำถวายตัว ได้เปนมหาดเล็กวิเศษอยู่ในเวรศักดิ์มาแต่ในรัชกาลที่ ๔
เมื่อสิ้นรัชกาลที่ ๔ พระยาอภิชิตชาญยุทธอายุได้ ๑๘ ปี ปรากฎว่า เปนมหาดเล็กคนหนึ่งซึ่งคล่องแคล่วฉลาดเฉลียว (เปนอนุชาตวุฒิสืบมาแต่บิดา) ถึงรัชกาลที่ ๕ จึงทรงพระกรุณาโปรดเกล้าฯ ให้เปนตำแหน่งมหาดเล็กรายงาร แล้วได้เลื่อนเปนมหาดเล็กกำกับศาลกระทรวงวัง ศาลกระทรวงเมือง และศาลต่างประเทศ ซึ่งมีหน้าที่
