לאחר פטירתו של הרצל בשנת 1904 עברה האפוטרופסות על ארכיונו האישי לוועדה, שהייתה אחראית על ביצוע צוואתו, וועדה שבה היו חברים כמה ממקורביו. חדר העבודה של הרצל ומסמכיו האישיים והמקצועיים נותרו בביתה של אלמנתו ג'ולי הרצל בווינה. לאחר שזו נפטרה ב-1907, הועבר חדר העבודה, על כל רהיטיו, לקלן שבגרמניה על ידי מי שהיה נשיאה השני של ההסתדרות הציונית, דוד וולפסון. חדר העבודה הועבר לישראל ב- 1928, וכיום הוא שמור ב"מוזיאון הרצל". ארכיונו של הרצל הועבר לאחר מותה של ג'ולי הרצל לביתו בווינה של היו"ר הראשון של קרן קימת לישראל, יונה קרמנצקי. בשנים אלו היה עצם קיומו של הארכיון ידוע לחברי התנועה הציונית, אולם טרם נעשתה בדיקה לעומקו. במסמכים מסוימים נעשה שימוש לצורך כתיבת ביוגרפיות מוקדמות שעסקו בהרצל, אולם רוב המסמכים, שהכילו מידע חשוב בנוגע לראשית פעילותו של הרצל ולהתפתחות הרעיון הציוני, טרם נחשפו.
ב- 1919 הוקם הארכיון הציוני בברלין, ומרגע זה החל גיאורג הרליץ, מנהל הארכיון, לפעול למען העברתו של עזבון הרצל לידי המוסד.
ב- 1931, לאחר פטירת האנס, בנו של הרצל, נמצא בין חפציו יומן הנעורים של האב. היומן נמכר על ידי אחת מבנותיו של הרצל, טרודה, לשם כיסוי חלקי של חובות האח. פרשת היומן, שנמכר ל"מכון היהודי המדעי" בווילנה, ושמור כיום בניו יורק, העלתה את נושא עזבונו של הרצל למודעות הציבורית, והבהירה את חשיבות האיסוף והשימור של כל ארכיונו על ידי מוסד ממלכתי ומקצועי.
ב- 1933 הועבר הארכיון הציוני לארץ ישראל. שלוש שנים לאחר מכן נעתר מוריץ רייכנפלד, האחרון מבין מבצעי צוואת הרצל שנותר בחיים, להעביר את ארכיונו האישי של הרצל לארכיון הציוני. סיפור העברתו של הארכיון היה, בהתאם לרוח התקופה, פתלתל ומלא מהמורות. כדי להימנע מהפרעות מצד השלטון האוסטרי הוחלט, כי הסופר יוסף קסטיין, שעמד לשוב לארץ ישראל ממסע הרצאות באירופה, יביא את הארכיון עִמו כמטענו האישי. גיאורג הרליץ פגש אותו בנמל חיפה, והעביר את הכבודה לירושלים במשאית דרך שכם ורמאללה.
האוסף מורכב מתעודות אישיות, כגון תעודות לידה, תעודות בית ספר ועוד, וכן מהתכתבויות אישיות של הרצל עם אישים היסטוריים שונים. כמו כן שמורים בו תעודות אישיות של בני משפחתו ופריטים מוזיאליים שונים.