באוקטובר 1909 התבקש האדריכל הפרוסי אלכסנדר ברוולד לתכנן תוכנית ראשונה לבניין החדש. ברוולד, שניגן בצ'לו ברביעיית מיתרים עם אלברט איינשטיין, קיבל השראה מהרעיון של מיזוג צורה אירופאית עם אלמנטים מזרחיים.

התכנון המצטיין שלו אושר על ידי הקורטוריון, ובאוגוסט 1910 ניתנה לברוולד המשימה לערוך את התוכניות המפורטות ולפקח על הביצוע.

מלבד האבן, רוב חומרי הבנייה האחרים הגיעו מחו"ל. הסיד יובא מצרפת והמלט מגרמניה. מתקני אינסטלציה ומתקנים שונים הגיעו גם מאירופה, ועד היום יכולים המבקרים בבניין הטכניון הישן לקרוא את כתובות היצרנים הגרמנים על לוחות הרצפה ובמקומות אחרים במבנה.

גם חפירת הבאר יצרה בעיות. ניסיונות ראשונים יכלו להגיע רק לעומק של 40 מטרים, ואז הופסקה העבודה עקב מחסור בכוח אדם מיומן. התקבל אישור מיוחד לייבא את הדינמיט הנדרש, ורק כאשר הובא מומחה זר ניתן היה סוף סוף לחדש את העבודה בבאר.

הבאר נחפרה לעומק של 93 מטרים, והיא הועמקה לבסוף ל-100 מטרים. קיומו של מקור מים במורדות העליונים של הכרמל הפך את חיפה למרכז יסודי לקיום חיים בעשורים הבאים, והבאר ומימיה הפכו למקור הכנסה חיוני עבור הטכניקום הצעיר והעני.

ב-11 באפריל 1912, 36 שנים לפני הכרזת העצמאות של ישראל, הונחה אבן הפינה לטכניקום, בחסות האימפריה העות'מאנית הכובשת.