В соответствии с Олимпийской хартией, ОК СССР содействовал развитию олимпийского движения, физической культуры и спорта в стране, расширению и укреплению международных спортивных связей, формировал национальную олимпийскую команду, направлял спортсменов на олимпийские состязания, осуществлял контроль за их выступлением на играх, обеспечивал финансирование, экипировку, проезд и размещение команд на Олимпиадах. Также ОК СССР сотрудничал с Национальным олимпийским комитетом и другими организациями, входящими в признанные международные спортивные объединения. В состав комитета входили представители всех спортивных федераций и спорткомитетов СССР и союзных республик, известные спортсмены, видные деятели спорта: Ю.Власов, С.Муратова, П.Колчин, В.Куц и другие. В разные годы Олимпийский комитет СССР возглавляли такие известные представители отечественного и мирового спорта, как К.Андрианов, С.Павлов, М.Грамов, В.Васин, В.Смирнов.