Pomimo tego, iż Japonia uczestniczy w Letnich Igrzyskach Olimpijskich od 1912 r. i ma za sobą 21 występów (na 26 możliwych) według klasyfikacji wszech czasów zajmuje wysoką 12 pozycję z 130 złotymi medalami, 126 srebrnymi oraz 142 brązowymi. Nieco gorzej wygląda kwestia uczestnictwa w Zimowych Igrzyskach Olimpijskich, na których Japonia występuje od 1928 r. Obecnie zajmuje 16 pozycję z 9 złotymi medalami, 10 srebrnymi oraz 13 brązowymi.
Japońscy sportowcy olimpijscy w zakresie sportów letnich są zdecydowanym liderem w zapasach, gimnastyce oraz judo. Jeżeli chodzi o sporty zimowe, są to zdecydowanie łyżwiarstwo figurowe oraz skoki narciarskie.
Jako wysoce rozwinięte państwo świata, Japonia niejednokrotnie była również gospodarzem Igrzysk Olimpijskich, tj.: Letnie Igrzyska Olimpijskie 1964 w Tokio, Zimowe Igrzyska Olimpijskie 1972 w Sapporo oraz Zimowe Igrzyska Olimpijskie 1998 w Nagano. W 2020 roku Japonia będzie gospodarzem Letnich Igrzysk Olimpijskich, które odbędą się w Tokio.
Statystyka medalowa japońskich sportowców na Letnich Igrzyskach Olimpijskich:
| Rok | Miejsce | Złoto | Srebro | Brąz | Klasyfikacjageneralna |
| 2012 | Londyn | 7 | 14 | 17 | 11 |
| 2008 | Pekin | 9 | 6 | 11 | 8 |
| 2004 | Ateny | 16 | 9 | 12 | 5 |
| 2000 | Sydney | 6 | 5 | 3 | 15 |
| 1996 | Atlanta | 3 | 6 | 5 | 23 |
| 1992 | Barcelona | 3 | 8 | 11 | 17 |
| 1988 | Seul | 4 | 3 | 7 | 14 |
| 1984 | Los Angeles | 10 | 8 | 14 | 7 |
| 1980 | bojkot | – | – | – | – |
| 1976 | Montreal | 9 | 6 | 10 | 5 |
| 1972 | Monachium | 7 | 5 | 9 | 5 |
| 1968 | Meksyk | 11 | 7 | 7 | 3 |
| 1964 | Tokio | 16 | 5 | 8 | 3 |
| 1960 | Rzym | 4 | 7 | 7 | 8 |
| 1956 | Melbourne | 4 | 10 | 5 | 10 |
| 1952 | Helsinki | 1 | 6 | 2 | 17 |
| 1948 | nie uczestn. | – | – | – | – |
| 1936 | Berlin | 6 | 4 | 8 | 8 |
| 1932 | Los Angeles | 7 | 7 | 4 | 5 |
| 1928 | Amsterdam | 2 | 2 | 1 | 15 |
| 1924 | Paryż | – | – | 1 | 23 |
| 1920 | Antwerpia | – | 2 | – | 17 |
Statystyka medalowa japońskich sportowców na Zimowych Igrzyskach Olimpijskich:
| Rok | Miejsce | Złoto | Srebro | Brąz | Klasyfikacja generalna |
| 2010 | Vancouver | – | 3 | 2 | 20 |
| 2006 | Turyn | 1 | – | – | 18 |
| 2002 | Salt Lake City | – | 1 | 1 | 21 |
| 1998 | Nagano | 5 | 1 | 4 | 7 |
| 1994 | Lillehammer | 1 | 2 | 2 | 11 |
| 1992 | Albertville | 7 | 1 | 2 | 11 |
| 1988 | Calgary | – | – | 1 | 16 |
| 1984 | Sarajewo | – | 1 | – | 14 |
| 1980 | Lake Placid | – | 1 | – | 15 |
| 1976 | Innsbruck | – | – | – | – |
| 1972 | Sapporo | 1 | 1 | 1 | 11 |
| 1968 | Grenoble | – | – | – | – |
| 1964 | Innsbruck | – | – | – | – |
| 1960 | Sqaw Valley | – | – | – | – |
| 1956 | Cortina d’Ampezzo | – | 1 | – | 10 |
| 1936 | Garmisch-Partenkirchen | – | – | – | – |
| 1932 | Lake Placid | – | – | – | – |
| 1928 | Sankt Moritx | – | – | – | – |
