Ông Bùi Đức Tịnh ghi nhận rằng kinh Tàu Hủ vốn mang tên Cổ Hủ hay Củ Hủ vì khúc kinh chỗ này phình ra rồi thắt lại giống như cổ hủ heo, cổ hủ dừa. Ở Long Xuyên cũng có một con kinh mang tên Tàu Hủ, có người gọi là Củ Hủ. Điều ghi nhận của ông Bùi Đức rất hữu lý. Xin lý giải thêm. Trước hết phải viết cổ hũ mới đúngvì từ ghép này vốn chỉ cái cổ của cái hũ (theo Đại Nam quốc âm tự vị). Các vật có hình dáng phình ra rồi thắt lại đều gọi là cổ hũ, như cổ hũ cau, cổ hũ dừa, cổ hũ heo,… Tiếp theo, ta thấy từ ngữ này dùng để chỉ hình dáng của lòng sông, rạch và đã trở thành địa danh, giống như cổ cò (cổ con cò), cổ lịch (cổ con lịch) đã trở thành địa danh (rạch Cổ Cò ở Nhà Bè và Duyên Hải, sông Cổ Lịch ở Cửu Long). Mặt khác, trong hai từ ngữ cổ hũ và tàu hủ, đối với người Nam Bộ có một yếu tố đồng âm: hũ và hủ phát âm như nhau. Trong trường hợp này, từ ngữ nào quen thuộc hơn (ở đây tàu hủ quen thuộc hơn cổ hũ), sẽ thay thế từ ngữ kia: (trái) sầu riêng thay thế đu-riêng, (cái) lục bình thay thế độc bình, (cái) bồ cào thay thế bừa cào… Hơn nữa, kinh Tàu Hủ, trong Gia Định thành thông chí được gọi là sông An Thông, tục danh sông Sài Gòn và được mô tả là “quanh xa mà hẹp nhỏ, khuất khúc, nước cạn” (Tập thượng , quyển I, tờ 22b – 23a).
Ngoài ra, từ ngữ Củ hủ chỉ là biến âm của cổ hủ (viết đúng chính tả là củ hũ, cổ hũ), theo hiện tượng đồng hóa vần trong tiếng Việt: (cây) so đũa thành sua đũa, y nguyên thành y nguy, bách kích pháo thành bích kích pháo… Vùng Bến Nghé xưa kia có nhiều rạch từ trên gò đất cao của nền thành Ô Ma (Camp de Mares) cũ đổ xuống. Để thoát nước vào mùa mưa, nhiều con kinh đã được đào thêm, về sau được lấp lại thành những con đường Charner (nay là đường Nguyễn Huệ), Bonard (nay là Lê Lợi), De La Somme (nay là Hàm Nghi), Pelleri (nay là Nguyễn Thị Minh Khai).
Trong vùng chợ Lớn, vào năm 1819, phía ngọn rạch Bến Nghé trở nên cạn hẹp nên đã được đào vét lại từ cầu Đề Thuông đến ngã tư sông Rạch Cát. Khúc kinh này dài 5.472 mét được đặt tên là An Thông Hà. Khởi công từ ngày 23 – 1, gần 12.000 dân công đã hoàn thành việc đào kênh trên vào ngày 23 – 4 – 1819, dưới sự điều khiển của Phó Tổng trấn Gia Định Huỳnh Công Lý (cha vợ Minh Mạng). Sau đó, năm 1887 và 1889, kinh Tàu Hủ được đào vét thêm 2 lần nữa dưới thời thực dân Pháp.
Cùng với rạch Lò Gốm và kinh Ruột Ngựa nối tiếp với sông Cần Giuộc phía nam, Kinh Tàu Hũ chiếm một vị trí quan trọng về mặt chiến lược và kinh tế, nối liền đường thủy từ đồng bằng sông Cửu Long đến Chợ Lớn, Sài Gòn. Tàu ghe chở nông phẩm từ Lục tỉnh tới lui tấp nập trên kinh, hai bên bờ nhiều nhà máy xay, chà lúa được dựng lên từ Bình Tây đến Bình Đông.
Ngày 15/2/1859 tàu chiến của tướng Pháp Genouilly đã tiến đánh lần đầu tiên các pháo đài ở ngã ba kinh, tức vàm Bến Nghé để chiếm Sài Gòn lần thứ nhất. Năm 1861 khi trở lại chiếm Sài Gòn lần thứ 2, tướng Page đã dùng 50 tàu và thuyền máy đóng dọc từ kinh Tàu Hũ đến rạch Thị Nghè và bố trí một phòng tuyến vòng cung từ Bắc xuống Nam, dựa vào chùa Khải Tường, Chợ Rẫy, Cây Mai đối diện với đồn Chí Hòa. Chiếc pháo hạm Jaccaréo đậu án ngữ trên kinh Tàu Hũ tại đầu đường Tản Đà, một chiếc tàu khác đậu tại Rạch Cát để uy hiếp đồn Cây Mai.
Năm 1934, phong trào tổng bãi công sôi nổi ở Nam Bộ đã mở đầu bằng cuộc tổng bãi công cả 12 nhà máy xay, dọc theo kinh Tàu Hũ. Ngày 15/2/1938 lại nổ ra cuộc bãi công của 4.000 thợ trên 350 chiếc thuyền chở gạo, hàng ngàn công nhân ở các nhà máy xay và các công nhân hưởng ứng.
Trong hai thời kỳ kháng chiến, quân nhân đã nhiều lần vượt qua kinh Tàu Hũ để tấn công địch ở nhiều vị trí của trung tâm thành phố, nhất là vào dịp tết Mậu Thân(1968).