1894年2月20日イリノイ州シカゴ生まれ。
1951年9月17日イリノイ州シカゴにて死去。
6歳でヴォードヴィルのショウに参加、歌と踊りで舞台に立った。
1915年頃独学で覚えたピアノをレント・ハウス・パーティーなどで弾き始めた。夫人はブルース・シンガーのエステラ・ママ・ヤンシー。
油井正一氏は彼は一度もプロの音楽家として活動したことはなく、地元シカゴ・ホワイト・ソックスのホーム・グランド・キーパーとして働いたと書いているが、『ジャズ人名事典』では、1925年に音楽界を去った後グランド・キーパーとして働いたとあり、プロの期間もあったと書いている。
音楽界を去った後ミード・ルクス・ルイスがジミーに捧げる「ヤンシー・スペシャル」を作曲して録音、38年にはボブ・クロスビーも録音するなどし俄かに脚光を浴びることとなった。
これによって40年代音楽界に戻り、40年代はシカゴを中心に夫人とのコンビで活躍、48年にはニューヨークのカーネギー・ホールにも出演した。
51年には夫婦でアトランティックに、LP「ピュア・ブルース」を吹き込んだという。
“The piano blues of Jimmy Yancey”(Swaggie 824）
「RCAジャズ栄光の遺産シリーズ／クラシック・ジャズ・ピアノの精髄」(RCA RA-28)