한반도에 발해와 통일신라가 있던 시기, 일본은 율령을 정비하고 천황권을 강화하며 당과 직접 통하려 하였다. 그러나 실제로는 당과 직접 교류를 하기는 어려웠고, 신라와 사절 왕래가 매우 빈번하게 이루어졌다. 여기서 율령을 도입하는 데 신라의 도움을 많이 받았음을 알 수 있다.
그 후 일본은 ‘왜’라는 명칭을 버리고 ‘일본’이라고 칭하기 시작했고, 『삼국사기』에서도 698년에 ‘일본국의 사신’이라는 표현이 등장하였다. 점차 일본은 신라와 발해에 대해 ‘조공국’이라는 표현을 사용하려 하였지만, 신라와 발해가 이에 응하지 않아 공식적인 외교관계가 어려워졌다. 그러나 실리를 위한 교역활동은 꾸준히 이루어졌다.
신라는 민간무역을 통해 일본과 교류하였는데, 청해진이나 당항성을 이용하였고, 발해는 동경을 거쳐 뱃길을 이용하여 일본에 닿았다.
일본의 고승 엔닌은 838년에 당나라에 갔다가 10년 후 귀국하는데, 이때 귀국길에 이용한 배가 신라 상선이었다. 당시 상선은 당과 신라, 일본 사이를 왕래하고 있었다고 한다.