לאחר ששאגאל השלים את הציורים שעל בסיסם נארגו השטיחים, הוא הציע לקבוע ברצפה 12 פסיפסים שבהם יוצגו מוטיבים בהשראת תיאורים מפסיפסים בבתי כנסת עתיקים בארץ מהמאות החמישית והשישית לספירה.​​ בפסיפסים נראים פֵרות, בעלי חיים, פמוטים, שופר, ידיים מברכות ועוד. אבני הפסיפס הן ברובן אבנים מקומיות; אלה שצבען בהיר הן מאזור ירושלים, האבנים הכחולות והירוקות הן אבני אילת ממחצבות תמנע, והאבנים השחורות והחומות  – אבני בזלת מצפון הארץ. הצבעים הצהובים והכתומים הן זכוכיות מורנו מאיטליה. הפסיפסים מבטאים את היצירה התרבותית היהודית בארץ בעבר הרחוק, ואת גילויה מחדש בחפירות הארכאולוגיות בימי שאגאל. בשל המורכבות בהעברת רישומיו של שאגאל לעבודת פסיפס נוקשה ומוגבלת בצבעוניותה, הנחה שאגאל כי עבודת השיבוץ תיעשה בידי בני הזוג מלנו (Melano), שאיתם עבד בעבר, לפי אתר הכנסת.