Jaan Poska sündis 12-lapselises peres viienda lapsena. Tema perekonna kodune keel oli vene keel. Ta kasvas üles täiesti venevaimulises õhkkonnas, sest ta vanemad käisid läbi peamiselt preestritega ja nende perekondadega, kes olid enamasti venelased. Hoolimata sellest, et Jaan Poska kõneles vene keelt nagu venelane ja ta eesti keel kõlas veidi vene hääldusega, oli ta alati suur eesti isamaalane, mida on näidanud tema tegevus.

Ta õppis Tuhalaane õigeusu kiriku koolis. Andeka poisina pääses ta Karksi-Nuia preestri Alliku abil Riia Vaimulikku Seminari, kus ta sai alg- ja keskhariduse. See oli õigeusu köstrile kõige kergem ja odavam tee oma poegade koolitamiseks. Vaimulik kool oli neljaklassiline progümnaasium, seminar aga keskkool, kus neljas klassis anti ilmalikku haridust, kahes viimases aga usuteadust. Kummagi juures oli ka internaat, kus õpilased elasid. Õppekeeleks oli vene keel, läti ja eesti keelt õpetati eriainena. Õppureist enamus olid lätlased, eestlasi oli tunduvalt vähem ja venelasi mõni üksik. Eriti rohkesti õpetati vaimulikus seminaris filosoofiat ja loogikat.

1882. aastal, kui Jaan Poska oli 16-aastane, suri ta isa. Ema kolis siis Tartusse, kus üks poegadest, Mihkel, õppis ülikoolis ning ka nooremad pojad ja tütred käisid koolis. Kuna üks vendadest oli läinud vaimulikku akadeemiasse ja teine hakkas preestriks, oleks Jaan Poskast saanud ka preester, kuid õnneks määrati vend Mihkel rahvakoolide inspektoriks ja tal oli võimalik Jaani aineliselt toetada.

1886. aasta kevadel sooritas Jaan eksternina küpsuseksami ja lõpetas seminari, astumata kahte viimasesse klassi. Sama aasta sügisel astus ta Tartu ülikooli arstiteaduskonda. Aasta hiljem siirdus Jaan Poska õigusteaduskonda, siis oli võimalik õppimise kõrvalt ka teenida ning õigusteaduskonna sai ka rutem lõpetada. Tartu ülikoolis peeti tol ajal loenguid õigusteaduskonnas veel saksa keeles. Ülikooli astudes oskas Poska saksa keelt vähe, kuid peagi õppis ta keele vajalikult ära. Ta suhtles enam õigeusu vaimulike ja eesti isamaalastega, kes tundsid poolehoidu vene kultuurile.

Jaan Poska side kirjandusega ajendas teda tõlkima. Ta tõlkis Aleksandr Puškini “Padaemanda” ja ühe raamatu Peeter Suurest. Need tõlked avaldas ta Jaan Karu nime all. Samuti aitas ta üliõpilasena oma venda Mihklit Eesti algkoolidele vene lugemiku väljaandmisel.