گرچه در آن زمان رابرت کندی با یکی از خدمهٔ مک کارتی، روی کوهن، مشکلاتی پیدا کرده بود و از همکاری با مک کارتی استعفا داده بود. جان کندی پیش نویسی از سخنرانی در دفاع از اخراج مک کارتی را نوشت اما هرگز آن را ایراد نکرد. وقتی سنا در ۲ دسامبر ۱۹۵۴ به اخراج مک کارتی رای داد کندی در بیمارستان بود و هرگز، چه در آن زمان و چه بعدها، اعلام نکرد که اگر در سنا بود به چه چیز رای می‌داد.

کندی از ۱۹۵۳ تا ۱۹۶۰ به مدت هفت سال سناتور بود.

در ۱۹۵۲، کندی با شعار «کندی بیشتر به ماساچوست خدمت خواهد کرد» خود را کاندید سنا کرد. او با حدود ۷۰ هزار رای بیشتر بر «هنری کابوت لودج پسر»، کاندید حزب جمهوری‌خواه، پیروز شد و به سنا راه یافت.

در ۱۹۵۶ کندی در مجمع ملی حزب دموکرات خود را کاندید نیابت ریاست جمهوری کرد، اما شکست خورد و به جای او سناتور ایالت تنسی، «استس کفائوور»، انتخاب شد. اما تلاش‌های انتخاباتی او برای گرفتن این مقام باعث افزایش شهرتش در درون حزب گردید.

در ۱۹۵۸، کندی اولین ویراست از کتابش - «ملت مهاجرین» - را منتشر کرد.

در ۱۹۶۰، کندی اعلام کرد که قصد دارد برای ریاست جمهوری آمریکا کاندید شود. در انتخابات اولیهٔ درون حزبی او رقبایی چون سناتور هابرت ه. هامفری از مینه سوتا، سناتور لیندون ب. جانسون از تگزاس و «آدلای استیونسون»، ‌کاندید حزب دموکرات در انتخابات‌های ۱۹۵۲ و ۱۹۵۶ را در مقابل خود می‌دید. کندی در چند منطقهٔ کلیدی مانند ویسکونسین و ویرجینیای غربی در انتخابات اولیه پیروز شد. از آن‌جایی که ویرجینیای غربی به ایالتی با مردم محافظه‌کار و غالباً پروتستان مشهور بود که احتمال می‌رفت که به کندی کاتولیک رای ندهند او به معدنی در این ایالت رفت و از کارگران معدن خواست به او رای دهند. پس از پیروزی کندی در ویرجینیا بسیاری بر سر قبول او به عنوان کاندیدا موافقت کردند.

در ۱۳ ژوئیه ۱۹۶۰ حزب دموکرات رسماً اعلام کرد که کندی کاندید ریاست جمهوری این حزب است. کندی علیرغم جدال‌هایی که با جانسون در انتخابات اولیه داشت از او تقاضا کرد که به عنوان نایب رییس جمهور به همراه او کاندید شود. او برای پیروزی در انتخاباتی که به نظر می‌آمد از سال ۱۹۱۶ به این طرف نزدیک‌ترین انتخابات باشد، به محبوبیت جانسون در جنوب نیاز داشت. مهم‌ترین مسائل انتخاباتی در آن سال شامل چگونگی به حرکت در آوردن دوبارهٔ اقتصاد، کاتولیک بودن کندی، کوبا و چگونگی رقابت فضایی و موشکی با شوروی می‌شد. او برای این‌که اذهان را از فکر این‌که کاتولیسیسم رومی او بر تصمیم‌گیری‌هایش تأثیر می‌گذارد رها کند، در ۱۲ سپتامبر ۱۹۶۰ سخنرانی معروفی در هوستون، تگزاس ایراد کرد؛ «من کاندیدای کاتولیک نیستم. من کاندیدایی از حزب دموکرات هستم که اتفاقاً کاتولیک نیز هست! در مسائل عمومی من از طرف کلیسایم صحبت نمی‌کنم – و کلیسا نیز از طرف من صحبت نمی‌کند.»