- Big Joe Williams dari Blues dikreditkan dengan menulis lagu ini, tetapi dikembangkan dari lagu rakyat berjudul ' John panjang ,' yang direkam pada tahun 1934 oleh John dan Alan Lomax untuk Library of Congress. Rekaman itu merekam lagu yang dinyanyikan oleh para tahanan kulit hitam yang bekerja di Darrington State Prison Farm di Texas. Itu adalah lagu yang populer di sana karena 'Long John' adalah tentang sebuah tahanan yang melarikan diri dalam pelarian dari pihak berwenang.
Williams mengubah lagunya, tetapi dia mempertahankan tema penjara, dengan baris-baris seperti, 'Saya yakin ada seorang pria yang pergi ke pertanian pedesaan, dengan rantai panjang.' - Secara lirik, lagu ini menghasilkan klise blues yang sudah usang: Bayinya akan pergi, dan dia mati-matian berusaha membuatnya tetap tinggal. Dia berencana berangkat dengan kereta tengah malam, tapi yang ini akan ke New Orleans, bukan Georgia .
- Lester Melrose merekam Williams di Chicago untuk Bluebird Records. Kredit pada single mengidentifikasi band sebagai Joe Williams' Washboard Blues Singers. Chasey 'Kokomo' Collins memainkan papan cuci dan Dad Tracy memainkan biola pada rekaman ini.
Karena pencatatan yang tidak merata, sejarawan tidak yakin berapa banyak salinan lagu yang terjual. Berapa pun jumlahnya, itu sudah cukup untuk meluncurkan karier yang sukses bagi Williams dan menjadi salah satu lagu yang paling banyak dicover dan ditiru dalam sejarah blues. - Williams merekam versi modern dari lagu tersebut pada tahun 1941, sekali lagi untuk Bluebird. Dia merekam untuk ketiga kalinya pada tahun 1947, yang ini untuk Columbia Records.
- Muddy Waters menyanyikan lagu tersebut pada tahun 1953. Chess Records merekamnya dengan judul 'Turn the Lamp Down Low.' Versi ini adalah salah satu yang paling kuat mempengaruhi interpretasi kemudian.
- Band pertama Van Morrison, Them, mengcover lagu tersebut pada tahun 1964, merilisnya sebagai single pertama mereka dengan ' Kejayaan ' sebagai B-side. Itu naik ke # 10 di Inggris dan menggelembung di bawah di Amerika, memetakan di # 102. 'Gloria' kemudian dirilis sebagai single A-side.
Morrison mendasarkan versi Them pada aransemen John Lee Hooker tahun 1949, yang ia beri judul 'Don't Go Baby.' Dia mendengar lagu itu di tahun 1959 milik Hooker Jalan Raya Blues album. - Jimmy Page, seorang musisi sesi pada saat itu, memainkan gitar versi Them. Ada perdebatan apakah dia menulis bagian gitar atau hanya memainkan apa yang diciptakan oleh Billy Harrison. Apakah Page sebenarnya yang bermain, itu sendiri, diperdebatkan, tetapi baik penulis biografi Page George Case dan penulis biografi Morrison Johnny Rogan percaya dia melakukannya.
- Pada tahun 1992, Blues Hall of Fame memasukkan lagu tersebut ke dalam kategori Classics of Blues Recordings; Rock and Roll Hall of Fame memiliki 'Baby, Please Don't Go' dalam daftar '500 Lagu yang Berbentuk Rock and Roll.'
- AC/DC membawakan lagu tersebut secara live secara teratur sepanjang masa hidup band. Mereka pertama kali merekamnya pada tahun 1974 di album debut mereka Tegangan tinggi .
- Aerosmith melakukan lagu tersebut pada tahun 2004 di Honkin adalah Bobo . Versi mereka mencapai #7 di Mainstream Rock Track Chart. Sejak saat itu, band ini menjadikannya bahan pokok dari set live mereka.
