1920年（大正9年）、現名誉会長・伊藤雅俊の母親・伊藤ゆき（故人）の弟にあたる吉川敏雄（故人）が、浅草に「羊華堂洋品店」を開業したのが始まり。この羊華堂が非常に繁盛したため、吉川と14才の差がある異父兄・伊藤譲（故人）が手伝い始め、浅草、千住、荻窪に3店舗あるうちの浅草の一店を任される。
譲の弟である雅俊は、市立横浜商業専門学校（現・横浜市立大学）卒業後、当時の三菱鉱業（現・三菱マテリアル）に就職。入社後すぐに、陸軍特別甲種幹部学校に入校し陸軍士官を目指したが、敗戦を迎え三菱鉱業に復帰。
空襲で焼け出されたゆきと譲は、足立区千住で羊華堂を再開。1946年、雅俊も三菱鉱業を退社し、羊華堂を手伝うことになる。 1956年、気管支喘息の持病を患っていた譲社長が死去し、雅俊が経営を引き継いだ。1971年、現在の社名であるイトーヨーカ堂に改称（ハトの図柄のコーポレートアイデンティティ（CI）も同時に採用）。
