日本的高等教育体系较为封闭，因此申请日本的大学往往比许多欧美国家要困难。与中国不同的是，日本的很多大学并没有专门针对留学生而开设的英语课程。换句话说，绝大多数留学生都需要和日本学生一起听老师用日语授课，所以语言关就成了留学日本的第一道门槛。作为小语种，日语在中国的中学以及大学教育中并不普及，除去学习日语专业的人，绝大多数来日留学生都是通过日本的语言学校来系统学习日语的。顺利的话经过1年左右的时间，通过日语1级考试之后，就可以进入大学进行学习。
一般来说，日本的大学是4年本科、2年硕士、3年博士。其中博士的3年是最低年限，也就是说名义上3年可以读完，但很多人尤其是文科类博士取得学位要花4、5年甚至更长的时间。研究会(seminar)是日本大学中的一个独特的制度。每一个研究会都挂靠在一个老师名下，拥有一个大的研究方向和课题。本科生在升入3年级之后就会被要求选择一个研究会，在这个研究会下完成自己的研究任务和毕业论文。在硕士和博士阶段，学生同样隶属于一个特定的研究会，研究会的成员在导师的带领下通过每周的研究指导来交流观点，以便发现自己的不足来改进和完善研究课题。
这种导师中心制也影响到日本的硕博研究生录取。考取日本的大学院(即中国的研究生院)一般需要通过院生考试;如果学生并没有自信能通过院生考试，有的学生会以“研究生”(相当于中国的预科)的身份入学旁听，这种一般需要事先同导师取得联系，如果导师表示出接收意愿，才会通知学校发放录取通知书，但并不保有学籍，一旦通过院生考试，方可以转为正式的“院生”(研究生)。
不过，随着国际化程度加深，越来越多的日本大学开始提供以欧美院校AO(admission office)录取方式为基础的诸如“志愿导师制”或“导师分配制”等先录取后择师的入学制度，一些有条件的学校甚至提供不需要日语基础的全英语生录取名额，以方便更多优秀的外国留学生来日学习。
