Родина Шульгіних мала козацько-старшинське походження. Була споріднена з відомими родинами Полуботків, Скоропадських, Самойловичів та Апостолів.
Викладав історії та філософію у Санкт-Петербурзькому університеті (1908 – 1915 рр.). Там же розпочав свою громадсько-політичну діяльність. Активіст Петербурзької громади ТУП, а пізніше – Української демократично-радикальної партії, яка з 1917 р. взяла назву Української партії соціалістів-федералістів. Був членом її Центрального комітету. У Петрограді з ініціативи Української Національної Ради був делегатом до Ради робітничих і солдатських депутатів.
У березні 1917 р. повертається до України і стає членом Української Центральної Ради, а загодом і Малої Ради. З липня 1917 до січня 1918 рр. був генеральним секретарем міжнаціональних (пізніше – міжнародних) справ. Був співавтором Статуту Вищого Управління України, співорганізатором З’їзду народів росії в м. Київ (вересень 1917). За його керівництва закордонною політикою Франція та Великобританія визнали УНР de facto, УНР розпочала мирні переговори з союзом Центральних Держав у м. Брест.
За гетьманату Скоропадського Шульгін був співробітником міністерства закордонних справ Української Держави, а з липня і до кінця грудня 1918 р. був послом України у Болгарії.
У 1919 р. був призначений Директорією УНР членом української делегації на Паризькій мирній конференції, а з 1920 р. зайняв посаду голови делегації на Першій асамблеї Ліги Націй у м. Женева (Швейцарія), а з 1921 р. очолював Надзвичайну дипломатичну місію УНР у м. Париж. На цих посадах О. Я. Шульгін боронив українські інтереси перед різними міжнародними організаціями, особливо з ініціативи Міжнародної Унії для Ліги Націй, головою якої він був.
Після 1921 р. перебував в еміграції і продовжував боронити українські інтереси. У 1933 – 1938 рр. виступав проти більшовицького терору, розпочатого в Україні, проти примусової праці, голоду, домагався від установи біженців при Лізі Націй визнання української національності. У 1928 р. звернувся з нотою до Голови Ліги Націй з проханням видати українцям нансеновські паспорти – міжнародні документи, які посвідчують особу власника і підтверджують його статус біженця без громадянства.
З 1920-х років О. Я. Шульгін неодноразово намагався привернути увагу Європи до проблеми голоду в Україні. Як міністр закордонних справ уряду УНР в екзилі підготував доповідь для конференції в Монтрьо 1936 р., де розглядалось питання статусу Чорноморських проток.
Проживав у 1923 – 1927 рр. у м. Прага. Разом з провідними українськими інтелектуалами, серед яких були Олександр Колеса, Олександр Олесь, Станіслав Дністрянський, Степан Рудницький, Дмитро Дорошенко, Степан Смаль-Стоцький, Іван Огієнко, Володимир Кушнір, стояв у витоків Українського вільного університету, який у 1921 р. переїхав з Відня до Праги. Також був професором Українського високого педагогічного інституту ім. М. Драгоманова, де викладав загальну історію й філософію історії. Відновив радикально-демократичну партію, став головою її празького комітету. У 1926 р. був призначений міністром закордонних справ УНР в екзилі й керував її зовнішньою політикою у 1926 – 1936, 1939 – 1940 (як голова уряду УНР у екзилі) і у 1945 – 1946 рр.
Переїхавши до м. Париж (Франція) у 1927 р., брав активну участь у житті української еміграції – був головою Головної Еміграційної Ради (1929 – 1939 рр.), редактором ревю «Прометей», співредактором тижневика «Тризуб» (з 1940 р. – редактор), співзасновник Комітету дружби народів Кавказу, Туркестану та України. Під час німецької окупації Франції був арештований і перебував в ув’язненні 1940 – 1941 рр.
По закінченню Другої світової війни повернувся до наукової діяльності – засновник і голова Українського Академічного Товариства у Парижі (1946 – 1960), ініціатор та віце-президент Міжнародної Вільної Академії у Парижі (1952 – 1960). Ці дві установи об’єднували українських науковців на еміграції. Не полишав і політичної діяльності – був представником українських інтересів у Міжнародній організації біженців (1948 – 1952), був співробітником французької організації для охорони біженців і бездержавних при міністерстві закордонних справ (1952 – 1960).
Автор розвідок з історії української державності 1917 – 198 рр. та діяльності уряду УНР в екзилі. Праці видавалися українською та французькою мовами. Розглядав загальні питання історії та історіософії, які виклав у праці «Нариси з нової історії Європи» (1925), займався історії Гетьманщини.
Помер у м. Париж, похований у м. Сарсель, яке розташоване за 17 кілометрів від Парижа у регіоні Іль-де-Франс і являється з 1951 р. осідком Наукового Товариства ім. Шевченка (НТШ) в Європі. Тут же розташована штаб-квартира НТШ, бібліотека з 20 тисяч томів та редакція Енциклопедії Українознавства, а також Комісія Допомоги Українському студенству, Делегатура Українського Вільного Університету і центр Українського Християнського Руху.
В Україні пам’ять про Олександра Яковича Шульгіна увічнена лише меморіальною дошкою на Терещенківській вулиці м. Київ, де він проживав, та меморіальною дошкою на школі с. Андріївка Хорольської громади, бо його мала батьківщина с. Софине занепадає. Також у м. Кпровиницькому є вулиця Родини Шульгиних, яка увічнює пам’ять всієї родини, яка зробила значний вклад у відродження національної культури, науки та розбудову держави.