Do Wha? w ciemnej i wilgotnej piwnicy wypełnionej używanymi krzesłami i maleńką sceną schodziło się w dół po stromych schodach. Kiedyś była tam stajnia dla koni, z rampą prowadzącą w stronę MacDougal Street, na środku pomieszczenia pozostała więc przechodząca przez jego środek rynna, którą w dawnych czasach odprowadzano końskie odchody. Pomieszczenie nie było zbyt wielkie, w Cafe Wha? mogło się tu maksymalnie zmieścić tylko 325 osób. Skąd ta dziwna i zagadkowa dość nazwa? Tłumaczył sam Manny Roth, który kilka lat przed opisanymi tu wydarzeniami został właścicielem pomieszczenia, przerobionego na mały garaż z wyjazdem na West 3rd Street. Piwniczne pomieszczenie oddalone było zaledwie o jeden dom na południe od Washington Square, było więc w ścisłym centrum "Wioski". Zatem w 1960 roku Roth postanowił wykorzystać to miejsce inaczej. Wstawił wełnianą kanapę, wniósł trochę starych, znalezionych na śmietnikach mebli, na ścianie umieścił znak "folk music" i otworzył swój interes. ...Nazwałem tę kawiarnię Cafe Wha? - wspominał Manny Roth - bo nic innego nie wymyśliłem. Każdy proponował jakąś nazwę, a ja mówiłem 'Why? Dlaczego?' Ludzie będą tu wchodzić i pytać 'Dlaczego?'. Pokryty jutą sufit, dziwnie wyglądające ścienne lampy i tania kawa, złożyły się na popularność Cafe Wha? - zanotował Steven Roby - To tutaj komicy Richard Pryor i Bill Cosby pierwsi zdobywali publiczność... I tak, mimo dość nikłej reklamy oraz nieczęstych anonsów w prasie, otwarty w piwnicy po dawnej stajni i garażu klub, stopniowo wśród fanów folku i sceny post-beatowej, zdobywał coraz większą popularność.