ولد غاستون لويس كريستوفر بورش في 8 مارس 1871 في جينيس، باس دي كاليه، فرنسا، لامرأة فرنسية (إيما لويز صوفي هينكين) وأب نرويجي (كريستوفر وولنر بورش). كانت السيدة هينكين عازفة بيانو وسوبرانو ممتازة، ويقال إنها كانت مخطوبة ذات يوم للزواج من الملحن جول ماسينيت. ومن المعروف أنها أحيت حفلاً موسيقياً بالتعاون مع ماسينيت عام 1860، وظلت تتواصل معه حتى وفاتها. عزف بورش على التشيلو، ودرس التأليف مع جول ماسينيت في فرنسا، وبرونو ليلجيفورس في مدرسة فالاندز للفنون الجميلة في السويد، ومع سفيندسن في كوبنهاغن. من عام 1893 إلى عام 1899 قاد فرق أوركسترا مختلفة في النرويج. في عام 1898، عُرضت أوبرا سيلفيو في كريستيانا. في هذه المرحلة، ربما كان قد تلقى دروسًا خاصة مع جريج، الذي أوصى به باعتباره "أحد أفضل طهاة الأوركسترا، وأكثر الملحنين الواعدين في عصرنا."