Soft Machine wurde im Jahr 1966 gegründet. Mitglieder waren damals Robert Wyatt (drums, voc), Kevin Ayers (bass, git, voc), Daevid Allen (git) und Mike Ratledge (key). Soft Machine machte sich schnell einen sehr guten Namen in psychedelischen Kreisen. Die Band tourte sehr erfolgreich. Vor allem in Frankreich wurde die Band sehr bekannt. Als die Band von einer Tour zurück nach England wollte, verweigerte man dem Australier Allen die Einreise. Der musste in Frankreich bleiben und gründete die Band Gong. Daraufhin stieß kurzzeitig der spätere Police Gitarrist Andy Summers zur Band. Nach der Veröffentlichung des ersten Albums im Jahr 1968 war es dann aber erst einmal aus mit Soft Machine.

Um ihre vertraglichen Verpflichtungen zu erfüllen, musste die Band noch ein Album aufnehmen. So reformierte sich die Band wieder, dieses mal mit Hugh Hopper am Bass. In einer relativ stabilen Besetzung kamen dann die nächsten Alben Volume Two, Third und Fourth heraus. Third stellt das erfolgreichste Album der Band dar. Das Doppelalbum war recht ungewöhnlich, da jede Seite praktisch aus einer Suite bestand. Auch Fourth war ein wichtiges Album. Das Album war das erste rein instrumentale Album der Band. Es war das letzte mit Robert Wyatt. Und es war das bislang jazzigste der Band.

In der Band kam es zu Problemen wegen der ungleichen musikalischen Auffassungen. Es setzte sich die jazzige Fraktion durch. Die Alben Fifth und Six und Seven gingen noch stärker Richtung Jazz Fusion. Eine erneute wesentliche Änderung ergab die Hinzunahme des Gitarristen Allan Holdsworth. Die Gitarre war plötzlich eines der wichtigsten Instrumente in der Band. Soundmäßig lag das Album Bundles durchaus in der Nähe zum Jazz Fusion des Mahavishnu Orchestras. Holdsworth ging jedoch nach dem Album wieder. Auf Soft wurde er durch John Etheridge ersetzt. Es war das letzte offizielle Studioalbum der Band. 1978 kam noch ein Live Album der Band heraus mit Live-Aufnahmen von 1977. Eigentlich war dann mehr oder weniger Ende mit der klassischen Soft Machine.

Trotzdem hörte man immer wieder etwas von der Band. 1981 kam es zum Album Land Of Cockayne, allerdings mit einer sehr ungewöhnlichen Besetzung ohne Originalmitglieder. Auch danach kam es immer wieder zu irgendwelchen Aufnahmen, zuletzt unter dem Namen Soft Machine Legacy.