Jerry Yang dilahirkan dengan nama Yang Chih Yuan di Taipei, 42 tahun silam. Pada saat berumur 2 tahun, ayahnya meninggal dunia. Yang kecil lalu hijrah ke San Jose, California, AS bersama ibu dan adiknya ketika berumur 10 tahun.
Meskipun ibunya adalah seorang guru bahasa Inggris, kosakata Yang kecil ketika pertama kali bersekolah di Amerika hanyalah kata ‘Shoe’ (sepatu). Namun hanya dalam waktu 3 tahun, Yang dapat menguasai bahasa inggris dengan baik. Bahkan masuk ke dalam ‘Advance Placement (semacam kelas percepatan). Yang berkuliah di Stanford University pada tahun 1990, dan memperoleh gelar sarjana muda dan master sekaligus dalam kurun waktu 4 tahun saja.
Pada akhir medio 1993, Jerry Yang melanjutkan pendidikannya di Electrical Engineering Stanford University mengambil program Ph.D. Disana ia berkenalan dan dekat dengan seorang bernama David Filo. Bersama Filo, Yang menjadi seorang pecandu internet. Berjam-jam waktu dihabiskannya setiap hari hanya untuk berselancar di dunia maya, hingga kuliah mereka mandek dan tak terurus.
Selama surfing di internet, Yang dan Filo seringkali mengalami kesulitan menemukan apa yang mereka cari. Akhirnya pada medio Februari 1994, kedua sahabat ini mulai mengumpulkan indeks-indeks dan link-link situs website kesukaan mereka. Hal ini segera menjadi hobi yang tak bisa dihentikan. Padahal saat itu keduanya sedang menulis disertasi untuk menyelesaikan program doktor mereka.
Akhirnya daftar dari link yang telah mereka buat tersebut menjadi sangat banyak. Sehingga saat mereka memutuskan untuk menyusunnya menjadi kategori-kategori khusus, masih belum mencukupi juga.
Akhirnya mereka membagi link tersebut hingga ke bagian sub kategori, dari sinilah muncul konsep awal situs Yahoo!
Pada awalnya, Yang menamakan situs untuk link tersebut “Jerry and Dave’s Guide to the World Wide Web”. Namun karena dirasa terlalu panjang, akhirnya situs tersebut dinamakan Yahoo, yang merupakan singkatan dari ‘yet another hierarchical oficious oracle’. Pada awal mulanya, tujuan Yahoo hanyalah sebagai situs search engine untuk memudahkan mereka menemukan tautan situs yang dikehendakinya.