The New Yorker démarra le 17 février 1925 comme édition du 21 février. Il fut fondé par Harold Ross et sa femme Jane Grant, journaliste au New York Times. Ross souhaitait créer un journal humoristique sophistiqué et subtil — se démarquant de la banalité et de la lourdeur des autres publications humoristiques telles que Judge pour lequel il avait travaillé, ou Life. Ross s'associa au promoteur Raoul H. Fleischman pour fonder l'entreprise F-R Publishing et installer les premiers bureaux du journal au 25 West Forty-fifth Street à Manhattan.
Ross continua à éditer le magazine jusqu'à sa mort en 1951. Au cours ses premières années d'existence, parfois incertaines, le magazine s'enorgueillit de sa sophistication cosmopolite. Avec sa couverture illustrée par Rea Irvin représentant Eustace Tilley, un supposé dandy du début du siècle dernier3, The New Yorker publia dans sa première édition cette célèbre déclaration « It has announced that it is not edited for the old lady in Dubuque. » — « Il fait savoir qu'il n'est pas publié pour la vieille dame de Dubuque dans l’Iowa ». Sous cet apparent snobisme, se cache en fait un stimulant sens de l'autodérision et de l'ironie, décalage dont jamais le magazine ne se départira.
Bien que le magazine n'ait jamais perdu son sens de l'humour, The New Yorker s'est rapidement établi comme une tribune prééminente du journalisme « sérieux » et de la fiction. Peu de temps après la fin de la Seconde Guerre mondiale, l'essai de John Hersey Hiroshima remplit un numéro entier. Au cours des décennies suivantes, le journal publia les nouvelles de nombreux auteurs parmi les plus respectés du XXe siècle et du XXIe siècle, dont Ann Beattie, J. D. Salinger, Haruki Murakami, Alice Munro, Vladimir Nabokov, Philip Roth et John Updike. La publication de La Loterie de Shirley Jackson le 26 juin 1948 engendra plus de courrier après sa publication que toutes les autres nouvelles dans l'histoire de The New Yorker. Pendant ses premières décennies, le magazine publia parfois deux, voire trois nouvelles chaque semaine, puis le rythme a été ramené ces dernières années à une histoire par numéro. Quoique certains thèmes et styles littéraires soient plus récurrents que d'autres dans les fictions publiées par The New Yorker, les récits du magazine se distinguent moins par leur uniformité que par leur diversité, des récits intimistes de John Updike aux côtés surréalistes de Donald Barthelme, allant de tranches de vie de New-Yorkais névrosés à des récits situés dans des lieux et époques variés et traduits de nombreuses langues.
Les articles de fond constituent la plus grosse partie du magazine : ils sont connus pour couvrir un ensemble éclectique de thèmes. On trouve parmi les sujets récents l'excentrique évangéliste Creflo Dollar, les différentes manières dont les humains perçoivent le passage du temps et le syndrome de Münchhausen.
Une française, Françoise Mouly, est directrice artistique depuis 1993 et choisit les couvertures du magazine.