日本在本屆巴黎奧運會的三大球比賽中，共派出六支隊伍參賽，成功獲得全部參賽資格。這是亞洲國家首次以非東道主身份在奧運會"三大球"項目上獲得全部參賽席位。截至目前，男籃、男足、女足、女籃、女排已經全部出局，只有男排尚未被淘汰。

日本男籃在小組賽中三戰皆負（分別輸給德國、法國、巴西），凈勝分為負42分，排名小組墊底，無緣晉級。日本男排在小組賽中取得1勝2負的成績（分別輸給德國、美國），以小組第三的最好成績壓線晉級，將在1/4決賽中對陣意大利男排。日本男足在小組賽中三戰全勝，以第一名的成績出線，但在1/4決賽中以0-3不敵西班牙被淘汰。

日本女籃在小組賽中三戰全負（分別輸給美國、德國、比利時），凈勝分為負64分，排名小組墊底，無緣晉級。日本女排在小組賽中取得1勝2負的成績（分別輸給巴西、波蘭），最終無法突圍，連續兩屆奧運會止步小組賽。日本女足在小組賽中取得2勝1負的成績，以第二名的身份晉級，但在1/4決賽中加時賽中以0-1不敵美國女足而被淘汰。