한강의 줄기 중에서 한양 근처를 흐르는 강을 조선시대에 경강(京江)이라고 불렀다. 이 경강의 포구에 어선들이 들어와 사대문 안 시장으로 수산물을 넘겼다. 용산, 마포, 노량진, 동작진(銅雀津), 서빙고 등에 장이 섰다. 경강시장은 구한말 제물포와 노량진을 잇는 경인선이 생기면서 쇠퇴하게 된다.
1905년 서울역 앞에 경성수산이란 이름의 수산물 도매시장이 생기며 원시적 형태의 어물전에서 전문시장으로 변모하게 된다. 이후 여러 시장과의 통합을 거쳐 1927년 경성부 수산시장이 되는데, 그 경성부 수산시장이 지금의 노량진으로 자리를 옮긴 게 1971년의 일이다.
1971년 한국냉장이 노량진역 북쪽의 현 위치에 근대화된 도매시장을 건설해 1975년까지 운영한 것을 시작으로, 2002년 수산업협동조합이 시장을 인수해 지금에 이르고 있다. 서해의 수산물뿐만 아니라 새벽 물차를 타고 싱싱한 수산물들이 전국 각지에서 노량진으로 몰려든다.