Stephen Pan wurde in eine Familie geboren, die in China für ihr künstlerisches Talent bekannt ist. Im Alter von fünf Jahren gab ihm sein Großvater Bo Yin Pan seinen ersten Unterricht in Zeichnen und Malen.

Obwohl Pan eine enge Beziehung zu den formalen chinesischen Kunsttraditionen hatte, verliebte er sich in die Gemälde der Renaissance und des französischen Impressionismus. Bereits im Alter von dreizehn Jahren hatte er eine Einzelausstellung und gewann für seine wunderschönen Ölgemälde den ersten Platz bei den National Art Excellence Awards in China.

Pan begann im Alter von 20 Jahren in Shanghai, China, zu unterrichten. Um seine Künstlerkarriere fortzusetzen, unterstützte sein Onkel seine Einwanderung in die Vereinigten Staaten. Stephen Pan wurde 1997 eine Lehrstelle am Academy of Art College in San Francisco angeboten.