המלון נפתח בשנת 1964, יש בו 1,479 חדרים ו-39 מסעדות. הוא אירח מספר רב של ראשי מדינות, כמו ביל קלינטון, טוני בלייר, ולדימיר פוטין, ראש ממשלת סין וון ג'יאבאו, נשיא סין הו ג'ינטאו וראש ממשלת בריטניה תרזה מיי. המקום אירח את פסגת ה-G7 שלוש פעמים, את מנהיגי העולם שהשתתפו בהלווייתו של הקיסר הירוהיטו ב-1989, את הכתרתו של הקיסר אקיהיטו ב-1990 וההסמכה של הקיסר נארוהיטו ב-2019.
היוזמה להקמתו הייתה של ממשלת יפן, שביקשה לארח מבקרים זרים באולימפיאדת הקיץ של 1964. Yonetaro Otani, מתאבק סומו לשעבר שהקים וניהל חברת פלדה קטנה, הסכים לבנות את המלון באתר שבבעלותו. הגן המרשים, הפך לחלק מהמלון, למרות שהוא מאפשר ביקור לכולם ולא רק לאורחי המלון.
ה-New Otani היה הבניין הגבוה ביותר בטוקיו עד 1968, אז קם בניין Kasumigaseki. אבל האטרקציה האמיתית שלו, הייתה המסעדה המסתובבת הייחודית אשר בצמרתו. כאן צילמו סצנות לסרט ג'יימס בונד "You Only Live Twice" משנת 1967. משנת 1974, המתחם הורחב עם מגדלים נוספים.