1912년 3월 마스도미는 선교를 위한 준비를 위해 고베 신학대학교에 입학하였다. 그리고 같은 해 9월 마스도미의 지원을 약속받은 양태승 역시 윤치병, 김영구 등과 함께 현해탄을 건너 고베신학대학교 예과에 입학하였다.

마스도미는 매하와 윤치병 그리고 김영구 등 조선의 세 청년이 예과에 입학하자 기숙사 생활을 함께 하게 했는데, 주일날에는 마스도미의 본가에 함께 모여 많은 대화를 나누고 돈독한 친교를 가꾸어나갔다.

매하와 마스도미가 함게 고베신학대학교를 다녔지만,.두 사람이 대학을 진학하면서 품었던 뜻은 서로 달랐다. 마스도미는 애초부터 기독교인으로서 정식 신학공부를 목표로 했었지만, 매하의 경우에는 일본에 건너가 직접 그들의 사회를 공부하고 경험하는 것이 일차적인 목적이었다. 이는 당시 매하와 함께 유학길에 올랐던 윤치병, 김영구 같은 동학들은 귀국하여 목사의 길을 선택했지만, 매하는 본래부터 마음에 품고 있던 바대로 민족교육자의 길로 접어든 데에서도 확인된다.

당시 매하와 마스도미는 국적과 성장과정 그리고 사회적 조건은 다르지만, 한쪽은 민족교육자로서 다른 한쪽은 기독교적 계몽가로서 의기투합하였다. 마스도미가 유학을 떠나기 전 아내인 데루꼬에게 매하를 처음 소개하는 자리에서 “자신의 뒤를 이어 사업을 이어받을 인재”라고 강조하였다. 또한 일본에서 생활하는 동안에도 마스도미와 매하는 가까운 편이었고, 귀국해서도 매하가 바로 흥덕한당에 들어간 점으로 미루어 보아 두 사람은 일본으로 떠나기 전부터 공동으로 학교를 운영할 구체적인 계획과 포부를 함께 나누었던 것으로 짐작된다.

그렇다면 일본에서 매하의 생활은 어떠했을까? 매하는 일ㄹ본에 건너오기 전부터 서구의 신문명을 접하였다. 이때부터 문명의 발달이 곧 나라의 힘이라는 것을 체득한 매하의 가슴 속에는 늘 조선 민족의 문명화에 대한 열망으로 가득 차 있었다. 그 열정은 안으로는 무지몽매한 민족의 계몽을 위한 것이었으며, 밖으로는 우리 민족을 수탈하고자 하는 일본인들에 대항할 민족의 역량을 키우고 결집시키기 위한 것이었다.

이 웅대한 꿈을 실현하기 위해 매하는 자신이 해낼 수 있는 작은 일부터 착실하게 준비해 나갔다. 이를 위해서는 신교육을 통해 스스로 강해지는 단련이 필수적이었다. 서구문명과 문물, 그리고 일본의 발달된 제반 사회적 조건에 대한 연구는 결국 조선이 강해지는 데에 꼭 필요한 것들이었다. 그리하여 매하는 일본행을 결심하기에 이르렀고, 배움을 위한 길에 신학대학 입학은 그리 문제될 것이 없었다.