Bez jego badań nie byłoby Internetu i szybkiej łączności między kontynentami. – Jestem inżynierem, więc moim prawdziwym celem jest to, co może być przydatne. Interesującą rzeczą jest przewidywanie, w jaki sposób można wprowadzić ulepszenia, a gdy już się je wprowadzi – jaką rolę mogą one pełnić w służbie ludzkości – mówił Kao w jednym z wywiadów.
Urodził się w Szanghaju w 1933 roku. Jako dziecko przejawiał większe zainteresowanie chemią niż fizyką. Mieszał łatwopalne związki chemiczne, wypełniał nimi kule błota, robiąc bomby. – Wszędzie dookoła był chlor. Podejrzewam, że niemal się zagazowałem – wyznał.
Naukę rozpoczął w Hongkongu, później przeniósł się do Londynu, gdzie zrobił doktorat. Jednocześnie pracował jako inżynier w firmie telekomunikacyjnej Standard Telephones and Cables, a później w jej laboratoriach badawczych STL. Przełomowe badania nad światłowodami przeprowadził w połowie lat 60. wraz z Georgem Hockhamem. Z STL odszedł jeszcze przed wprowadzeniem swojego wynalazku do użytku. Został dyrektorem naukowym w firmie ITT, pełnił funkcję wicerektora Uniwersytetu Chińskiego w Hongkongu, kierował firmą Transtech. Dziś 75-letni Kao kieruje firmą ITX Services.