石油の存在は、意外と古くから知られていたようです。世界で最も古く石油が使われたのは、紀元前3000年（今からおよそ5000年前）ごろ。メソポタミア（現在のイラクあたり）では、地面の割れ目からしみ出していた天然アスファルトが、建造物の接着やミイラの防腐、水路の防水などに使われていました。 　また、紀元前１世紀ごろの記録では、石油を傷口にぬって血を止めたり、発熱をおさえるなどの万能薬として用いられていたと記されています。
　日本では日本書紀に、天智７年（668年）、越の国（新潟地方）から「燃ゆる土」と「燃ゆる水」が近江大津宮に献上されたという記録が残っています。
　江戸時代になると石油は「くそうず」（臭水、草生水などと表記）と呼ばれていました。
　明治初期には、輸入ランプ用の灯油が普及し、文字どおり「灯りの油」として広く利用されるようになりました。このころ石油は「石炭油」「石脳油」と呼ばれており、その短縮形として「石油」という言葉が定着したようです。 （※英語の"petroleum"はラテン語の"petra"（岩または石）と"oleum"（油）の合成語。言葉としては日本の“石油”という用語とほぼ同時期に定着したといわれる。）