הכנסת השנייה הושבעה ב-20 באוגוסט 1951 (י"ח באב תשי"א). הרכבה נקבע בבחירות שנערכו ב-30 ביולי 1951. כהונת הכנסת נמשכה מעל 4 שנים עבריות, ו-5 ימים בלבד פחות מ4 שנים לועזיות מלאות, והסתיימה ב-15 באוגוסט 1955 (כ"ז באב תשט"ו), עם התכנסות הכנסת השלישית.
הסכם השילומים שנחתם במהלך כהונתה של הכנסת השנייה, לווה באירועים סוערים. ב-6 בינואר1952 עלה ההסכם לסדר יומה של הכנסת השנייה, ולאחר שלושה ימי דיון נערכה הצבעה במליאה. ההחלטה שהתקבלה הייתה לייפות את כוחה של הממשלה לנהל את המשא ומתן. ההחלטה התקבלה ברוב של 61 חברי כנסת מול 50 מתנגדים ו-6 נמנעים. 3 חברי כנסת נעדרו. בייפוי כוחה של הממשלה תמכו 45 חברי הכנסת של מפא"י, 6 מתוך שמונת החברים בהפועל המזרחי 3 מהמפלגה הפרוגרסיבית, אחד מהמזרחי (דוד צבי פנקס) ואחד מאגודת ישראל (אברהם דויטש) וחמשת נציגי המיעוטים (הרשימה הדמוקרטית לערביי ישראל, קידמה ועבודה וחקלאות ופיתוח).[1] הקואליציה ככלל, ומפלגות מפא"י ו"הפועל המזרחי" בנפרד, נתנו לחברים ניצולי השואהחופש הצבעה, כדי לא להעמידם בדילמה מוסרית. חופש ההצבעה ניתן רק לאחר שהתברר לבן-גוריון שקיים רוב התומך בהחלטה.
ב-7 בינואר1952, במהלך הדיון בכנסת, קיימו מתנגדי ההסכם הפגנה גדולה, שהחלה בכיכר ציון בירושלים, וצעדה לבניין הכנסת (אז בבית פרומין, מרחק דקות הליכה מהכיכר). יושב-ראש מפלגת חרות, חבר הכנסתמנחם בגין, שנאם בהפגנה, דיבר בחריפות רבה נגד הממשלה. לאחר דבריו של בגין החל ההמון לצעוד לעבר הכנסת. על הכנסת הופקדו שוטרים רבים שפרסו סביבה גדרות תיל והציבו ברחובות מחסומים רבים. חרף ניסיונות המשטרה לבלום את המפגינים באלות ובגז מדמיע, הגיעו המפגינים למפתן הכנסת והשליכו אבנים לתוך אולם המליאה. במהלך ההפגנה נפצעו כמאתיים אזרחים וכמאה וארבעים שוטרים. ח"כ חנן רובין נפגע מאבן בראשו ועוד מספר חברי כנסת שרסיסי החלונות המנופצים פגעו בהם. עיתון "הארץ" תיאר את רחבת הכנסת באותו היום כ"שדה קרב". בגין נשא נאום חריף מאוד בתוך המליאה, במהלכו כינה את בן-גוריון "פשיסט" ו"חוליגן".