무척추동물들은 척추동물에 비해 화석 기록이 훨씬 더 길지만 구조적으로는 더 단순하다. 척추동물들은 바로 이 무척추동물들에게서 진화되어 왔다. 물론 척추동물들은 신경관(nerve canal)과 척삭(notochord)이 있는 골질의 기둥인 등뼈를 갖고 있다. 척삭은 조밀한 조직이 뻣뻣한 막대기처럼 보이는 특수화된 구조이며, 그것을 둘러싸고 있는 등뼈보다도 좀더 기초적인 형질이다. 그것은 척추동물들을 척삭동물문에 배치하는 파생형질(derived character)이다. 여기엔 척삭은 있지만 머리나 골격이 없는 몇몇 생물들도 포함된다.
맨처음 척삭은 헤엄치는 것을 돕기 위한 구조로 진화된 듯하다. 척삭동물은 빳빳하고 단단한 척삭에 의지해 근육을 당김으로써 능률적인 수영을 할 수 있도록 충분한 탄력성을 유지하는데, 이때 척삭은 탄성에너지를 저장했다가 수영할 때에 맞춰 그것을 방출할 수 있다. 바로 이 에너지 저장과 방출에 관한 메커니즘을 가진 척삭의 진화가 연체 척삭동물의 성과를 진척시킨 진화학적인 새로운 경험인 것으로 생각된다. 그것은 전형적인 척추동물의 진화보다 시간적으로 상당히 앞선다. 하지만 유체 역학의 물리적 현상으로 보면 수영 능률은 몸길이와 함께 증가하는 것으로 나온다. 그렇기에 초기의 척삭동물들은 다양한 생활 방식들을 탐구하면서, 아마 보다 활동적으로 헤엄칠 수 있는 종들이 몸집을 더 크게 늘려왔으리라 생각된다. 하지만 큰 몸을 가지고 능률적으로 헤엄을 치기 위해서는 척삭보다도 더 빳빳한 것이 필요다. 그래서 능률을 높일 수 있는 손쉬운 방법으로 연골이나 광물화된 골격과 같은 종류를 택했다.
미삭동물(urochordate)과 두삭동물(cephalochordate)은 척추동물의 조상이 어떤 모습으로 살았는지를 우리에게 알려줄 수 있는 살아있는 연체 척삭동물이다. 바다 바닥에 고착해서 군체를 이루며 성체로 살아가는 작은 박스 모양의 생물인 피낭동물(tunicates)이 미삭동물에 포함된다. 그들의 유생은 마치 꼬리처럼 생긴 구조물 속에 척삭과 근육을 갖고 있어서 활발하게 유영한다. 하지만 성체가 되어 고착하면 그것은 사라지게 된다. 피낭동물인 시오나(Ciona)는 완전하게 배열된 게놈을 갖고 있는데, 그 게놈은 척추동물의 것과 꽤 비슷해 보이지만 더 단순하다.

현생 미삭동물인 시오나(Ciona)의 성체(좌)와 미삭을 가진 유생(우).

두삭동물은 몸에 특수한 빈 공간을 갖고 있어서 바닷물을 빨아들여 작은 입자들을 먹고, 또 아울러 그것으로 호흡도 하면서 살아가는 해양 생물이다. 척삭이 등축을 따라서 나있고, V자 모양으로 된 혈관궁(chevron)에 배열된 근육 다발로 둘러싸여 있다. 근육 다발을 교대로 수축함으로 해서 파도와 같은 패턴으로 몸을 좌우로 탄력 있게 움직여 수영할 수 있도록 한다. 척삭의 앞쪽 끝에 있는 감각 기관들은 원시적인 뇌의 위치를 표시한다. 두삭동물들은 대부분 이런 특징들을 갖는다는 점에서 상당히 물고기와 비슷하다. 심지어는 실험실이나 식당에서 신중하게 물고기를 절개할 때 분명하게 나타나는 V자 모양의 근육 섬유들의 패턴까지도 비슷하다. 창고기(amphioxus)인 브랑키오스토마(Branchiostoma)는 전형적인 두삭동물이다. 물 속을 헤엄쳐 다니거나 모래 속에서 살면서, 근육 다발과 척삭을 갖고 뱀장어와 같은 방법으로 꿈틀거리며 헤엄친다.

현생의 두삭동물인 창고기 브랑키오스토마(Branchiostoma wholemount)

하지만 척추동물의 조상이 어느 쪽이든 간에 이들은 모두 부드러운 몸으로 되어 있어서 화석 증거를 확보하기가 힘들다. 그래서 우선 살아있는 미삭동물과 두삭동물 그리고 단순한 물고기에서 유전자와 발생 사이의 상호작용인, 진화 발생 생물학(evo-dvo)을 연구함으로서 많은 것들을 알아가고 있다. 하지만 살아있는 동물들에서 얻은 증거보다 화석으로 밝혀지는 증거가 더 중요해 보인다. 최근 중국에서는 캄브리아기 하부 층의 첸지앙 동물군(Chengjiang fauna)에서 이를 밝혀줄만한 새로운 귀중한 연체 화석들이 많이 발견되었다. 거기에는 두삭동물과 미삭동물 그리고 신구동물(deuterostome)이 포함되어 있다. 또한 명확한 머리를 가진 기본적인 어류도 포함되어 있다. 그것의 이름은 하이코우이크티스(Haikouichthys)이다. 이 생물을 해석하는 것에 관해서는 많은 논쟁이 있지만, 최초의 척추동물에 관한 진화에 대해 보다 설득력 있고 상세한 재복원이 필요하다는 것만은 분명해 보인다.