Istnieje wiele teorii wyjaśniających pochodzenie języka japońskiego. Nie wykazuje on znacznych podobieństw do żadnego innego języka. Został on zaliczony do języków ałtajskich, ze względu na pewne podobieństwo do nich.
Wiadomo natomiast w jaki sposób kształtowało się pismo japońskie i związana z nim sztuka kaligrafii. Z badań naukowców wynika, że pierwsze wzory japończycy czerpali z Chin. Około VI wieku naszej ery (czyli w okresie Asuka), kraje te nawiązały ze sobą stosunki. Mieszkańcy Kraju Kwitnącej Wiśni zaczęli się wtedy wzorować na zaprzyjaźnionym państwie. Dążono do tego by wprowadzić m.in. taki sam typ rządów. Do tego właśnie, ale nie tylko do tego potrzebne było pismo. W tamtym okresie język japoński nie posiadał zapisu.
Początki były skomplikowane. Korzystający z alfabetu Kanji, używali zapożyczonych znaków do fonetycznego zapisu ich własnego języka. Posługiwanie się tą metodą wymagało znajomoście wielu trudnych znaków. By zaradzić temu problemowi wymyślono wtedy Hiraganę. System ten ukształtował się w epoce Heian. Jego pierwszą nazwą była onna-de czyli "kobieca ręka". Spowodowane było to faktem, że pierwszymi jego użytkownikami były kobiety. Jednakże naprawdę jego twórcą był mężczyzna-mnich Kobo Daishi-Kukai. System ten stał się głównym alfabetem dopiero po II wojnie światowej. Obecnie służy on do zapisywania nie reprezentowanych przez kanji prostych słów, końcówek czasowników oraz przymiotników. Składa się on z 46 znaków i jest alfabetem sylabicznym (w języku japońskim nie wyrózniamy poszczególnych zgłosek tylko sylaby).
Drugim sylabariuszem kana, którym wtedy wprowadzono była katakana. Kibi no Mikibi uważany jest za jego twórcę. W przeciwieństwie do hiragany korzystali z niego głównie mężczyźni. Został stworzony przez studentów buddyzmu, by ułatwić zapis trudnych kanji. Obecnie system ten przydaje się gdy piszący chce umieścić w swoim tekście słowo obcego pochodzenia czy też imiona czy nazwiska. Tak jak hiragana składa się z 46 znaków.