شیخ در سال 408 هجری یعنی در 23 سالگی به بغداد مهاجرت کرد و تا پایان عمر در عراق ماند و پس از استادش سید مرتضی علم الهدی، ریاست علمی و فتوایی شیعه به او منتقل شد.
شیخ طوسی مدت پنج سال نزد شیخ مفید درس خوانده است. سالیان دراز از خدمت شاگرد مبرز شیخ مفید، سید مرتضی بهرهمند شده است. استادش سید مرتضی در سال 436 هجری درگذشت و او دوازده سال بعد از سید در بغداد ماند، ولی بعد به علت یک سلسله آشوبها که در نتیجه خانه و کاشانهاش به تاراج رفت، به نجف مهاجرت کرد و حوزه علمیه نجف را در آنجا تاسیس کرد و در سال 460 هجری در همان جا درگذشت. مقبره ایشان در نجف معروف است.