在古代日本，只有贵族和武士才能有姓氏，最尊贵的是源、平、藤、橘四大姓。
藤指藤原，出自掌管祭祀的神官，并一度控制过朝政。藤原氏有4个分支，以北家最为尊贵，因此逐渐形成了一种不成文的传统，太政大臣（首相）和摄政关白（类似于摄政大臣，在天皇未成年时称摄政，成年后称关白）这两个朝廷最高官位，世代都必须以藤原北家的子弟来充任。其余三大姓都是皇室的分支，而源、平二氏（尤其是其中的清和源氏与桓武平氏）曾一度成为武家领袖——镰仓幕府就是源氏建立的，室町幕府的足利将军也源出源氏。
一个姓氏就代表一个大家族，但大家族的子弟成年后分家，又将大家族分割成许多小家族，这些分家用以标示自己的不是姓，而称为“苗字”。比如藤原是姓，而九条、鹰司、姊小路等苗字就是藤原家族的分支。平氏分家的苗字主要有北条、千叶、长尾等；源氏分家著名的有木曾、武田、足利等。到了7世纪中叶，大化革新废除了世袭的称号，这表示家族地位的姓失去意义，氏与姓混合为一，有一部分成为流传到现在的姓。
这时姓仍然是贵族的专利品，到19世纪，姓也只限于武士、巨商和村里有权势的人。直到1870年，明治政府颁布了一系列法令强制平民必须取姓，以方便编造户籍，课税征役。一时间，涌出了各式各样的姓，有根据地名取姓的，有根据职业取姓的，还有其他很多种方法，取姓十分随意，其中一些姓十分 奇怪。1898年，政府制定了户籍法，每户的姓这才固定下来，不得任意更改。因为日本人的姓来得突然，来得特殊，它的内涵也与众不同。世界各国的姓多是表示血缘关系的，而日本的姓因为上述缘故很少有这个意义，同一个姓的不一定是亲戚朋友，不是一个姓的倒可能有血缘关系。