GNU Octave is een taal op hoog niveau, voornamelijk bedoeld voor numerieke berekeningen. Het biedt een handige opdrachtregelinterface voor het numeriek oplossen van lineaire en niet-lineaire problemen, en voor het uitvoeren van andere numerieke experimenten met behulp van een taal die grotendeels compatibel is met Matlab. Het kan ook worden gebruikt als een batch-georiënteerde taal.

Octave beschikt over uitgebreide hulpmiddelen voor het oplossen van algemene numerieke lineaire algebra-problemen, het vinden van de wortels van niet-lineaire vergelijkingen, het integreren van gewone functies, het manipuleren van polynomen en het integreren van gewone differentiële en differentiaal-algebraïsche vergelijkingen. Het is gemakkelijk uitbreidbaar en aanpasbaar via door de gebruiker gedefinieerde functies geschreven in Octave's eigen taal, of met behulp van dynamisch geladen modules geschreven in C++, C, Fortran of andere talen.