בסוף שנת 1933, ביוזמת נציגי הפועלים, הוקם בי"ס עממי נפרד לילדי הפועלים. ביה"ס הוקם בתחילה בקבוצת שילר, משתי סיבות:
1. אסור היה לקיים שני בתי ספר עממיים במושבה.
2. הסביבה בקיבוץ התאימה יותר לחינוך לחקלאות ולעבודה.

יוזם ההקמה של "בית חינוך", היה צבי צמחוני, שהיה מורה במשך מספר שנים ברחובות, ומועצת פועלי רחובות לקחה את ביה"ס תחת חסותה.

ביה"ס התחיל את דרכו עם 65 תלמידים. תוכנית הלימודים כללה גם מקצועות-לימוד נוספים: נגרות, מטבח, אמנויות, ריתמיקה ומוסיקה.

בעקבות הפרעות בשנת 1936, לא היו עוד ביה"ס והדרך אליו בטוחים, ו"בית חינוך" עבר לתחומי המושבה. תחילה שכן ביה"ס בבית הפועלים, אחר כך בבתים שכורים ולבסוף בבית הגדול והמרווח של יורשי מרדכי יעקובזון. בהמשך רכשה מועצת פועלי רחובות7 דונמים עבור ביה"ס. 2 דונמים נוספים ניתנו במתנה ע"י הגב' שמוליאן. מעכשיו עמד מגרש רחב ידיים לבנייני בית חינוך (נבנו ב 1945), לגינות ולעצים.

את מקומו של צמחוני כמנהל ביה"ס תפס יעקב שניידר (שריד), שהרים מאוד את קרנו של"בית חינוך".

במועצת המושבה היו חילוקי דעות בנוגע לביה"ס ולאחר שנים רבות הצליחו התומכים (מצד הפועלים) להעביר את ביה"ס לחסות מועצת המושבה.