A világsport fejlődése attól függ, ki vezeti a Nemzetközi Olimpiai Bizottságot. Hiszen az Olimpiai Bizottság vezetője nem csupán tisztviselő, hanem olyan ember is, akire hatalmas reményeket fűznek, és nehéz feladatok elé néz. Ezért egy véletlenszerű ember nem lehet ilyen helyen.
A Nemzetközi Olimpiai Bizottság feje az elnöke. Ez a poszt választható. A bizottság vezetőjét egy speciálisan szervezett ülésen, titkos szavazással választják meg. A NOB vezetőjének hivatali ideje 8 évre szól, de négyévente további 8 évre megújítható. A bizottság elnökévé válhat olyan közszereplő, aki közismert és híres beszédeiről, jótékonysági és egyéb tetteiről, amelyek a szülőföld javát és az egész világ fejlődését szolgálják.
Az első elnököt 1894-ben választották meg az Olimpiai Bizottság létrehozásával. Demetrius Vikelas nevű görög költő és közéleti személyiség volt. Helyettesének Pierre de Coubertin bárót, korunk első olimpiai játékainak ideológiai inspirálóját nevezték ki. Két évvel az első játékok diadalmenete után azonban Vikelas helyére ugyanaz a báró de Coubertin került, mint a NOB elnökének. Ebben a posztban 1925-ig maradt.
Annak a ténynek köszönhetően, hogy a hatáskörök kibővíthetők, csak 8 elnök látogatta meg a Nemzetközi Sportbizottság vezetői posztját 100 éve.
De Coubertint Henri de Bole-Latour váltotta, aki 17 évig kitartott a vezetői székben. A következő Siegfried Edstrom volt - 1946 és 1952 között volt az elnök. Helyét az amerikai Avery Brandage vette át. 20 évig irányította a NOB-t 1972-ig. Utódja, Michael Morris Killanin ír, egy ciklusig töltötte be a bizottság élét. Ezt követően Juan Antonio Samaranch került 21 évre az élre. 2001-től napjainkig a Nemzetközi Olimpiai Bizottság elnöke a belga Jacques Rogge.
Azonban egyedül az elnök aligha tudta volna irányítani a bizottságot. Ezért vannak olyan segédvezetők is, mint 4 alelnök és 10 rendes bizottsági tag, akiket szintén titkos szavazással választanak meg. Hivatali idejük 4 év. Ezen túlmenően az irányító bizottságba 25 olyan személy tartozik, akiket itt "tiszteletbeli" néven neveznek - ezek azok, akik korábban a bizottság tagjai voltak. A NOB-ba olyan jeles tagok is beletartoznak, akik nem voltak az Olimpiai Bizottság tagjai, de felbecsülhetetlen szolgáltatásokat nyújtottak a mozgalom számára.
A bizottság összetétele 110 tagot számlál a világ 70 országából. A működés elve a következő: azok, akik a Nemzetközi Olimpiai Bizottság tagjai, nem képviselik országaikat abban, hanem éppen ellenkezőleg, képviselik a szabályozó testületet hazájukban.