Koszykówka pojawiła się w programie olimpijskim na ostatnim przedwojennym forum - w 1936 r. W Berlinie. Uczestniczyły w nim 23 drużyny, dzięki czemu turniej koszykówki stał się najbardziej reprezentatywnym wśród sportów zespołowych podczas XI letnich rozgrywek. Pierwsze złoto w tym sporcie trafiło do drużyny amerykańskiej, drugie to Kanadyjczycy, a trzecie Meksykanie.
Amerykanie nadal dominują w tym sporcie - z jednego i pół tuzina turniejów, w których wzięła udział drużyna tego kraju, tylko w trzech przegrał mistrzostwo. Dwukrotnie w górnej linii mogłaby być reprezentacja ZSRR, raz reprezentacja Argentyny. Amerykanie nie brali udziału w igrzyskach olimpijskich w 1980 roku, a następnie jugosłowiańscy koszykarze zdobyli złoto. Na koncie drużyn radzieckich oprócz dwóch złotych nagród są cztery srebrne i trzy brązowe - to druga linia w połączonym rankingu osiągnięć męskich koszykarzy.
Koszykówka kobiet została dodana do programu letnich igrzysk dziesięć cykli olimpijskich później - przed XXI Olimpiadą, która odbyła się w Atlancie w 1976 roku. Pierwszy turniej wygrał koszykarz Związku Radzieckiego, a także następny, który odbył się bez udziału Amerykanów. Jeszcze raz, podczas Letnich Igrzysk w Barcelonie w 1992 roku, zespół złożony z zawodników z byłych republik ZSRR wyróżniał się w rozgrywkach koszykówki. We wszystkich innych turniejach olimpijskich kobiet, a było ich już sześć, zwyciężyły tylko drużyny narodowe USA.
Męskie drużyny koszykówki w Rosji w okresie, gdy działały one jako niezależne państwo, nigdy nie były w stanie zdobyć medali Olimpiady. Kobiety mają lepsze wyniki - na dwóch ostatnich letnich forach sportowych zdobyły brązowe medale.
Zgodnie z obowiązującymi przepisami zawodowi koszykarze mają prawo brać udział w olimpijskich turniejach koszykówki. Wyboru drużyn, które mogą w nim startować, dokonuje się zgodnie ze z góry określonym schematem, w którym tylko trzy miejsca są wyłonione w zawodach kwalifikacyjnych. Reszta jest rozdzielona między mistrzów Afryki, Ameryki (2 drużyny), Azji, Europy (2 drużyny) i Oceanii. Panujący mistrz świata i drużyna narodowa kraju gospodarza Olimpiady zdobywają inne miejsce.