Do nhẹ hơn nước nên dầu xuất hiện lộ thiên ở nhiều nơi, vì thế loài người đã tìm thấy dầu hằng ngàn năm trước Công Nguyên. Thời đó dầu thường được sử dụng trong chiến tranh. Còn rất nhiều dấu tích của việc khai thác dầu mỏ được tìm thấy ở Trung Quốc khi dân cư bản địa khai thác dầu mỏ để sử dụng trong việc sản xuất muối ăn như các ống dẫn dầu bằng tre được tìm thấy có niên đại vào khoảng thế kỷ 4. Khi đó người ta sử dụng dầu mỏ để đốt làm bay hơi nước biển trong các ruộng muối.
Mãi đến thế kỷ 19 người ta mới bắt đầu khai thác dầu theo mô hình công nghiệp, xuất phát từ việc tìm kiếm một chất đốt cho đèn vì dầu cá voi quá đắt tiền chỉ những người giàu mới có khả năng dùng trong khi nến làm bằng mỡ thì lại có mùi khó ngửi. Vì thế giữa thế kỷ thứ 19 một số nhà khoa học đã phát triển nhiều phương pháp để khai thác dầu một cách thương mại. Năm 1852 một nhà bác sĩ và địa chất người Canada tên là Abraham Gessner đã đăng ký một bằng sáng chế sản xuất một chất đốt rẻ tiền và đốt tương đối sạch. Năm 1855 nhà hóa học người Mỹ Benjamin Silliman đề nghị dùng axit sunfuric làm sạch dầu mỏ dùng để làm chất đốt.
Người ta cũng bắt đầu đi tìm những mỏ dầu lớn. Những cuộc khoan dầu đầu tiên được tiến hành trong thời gian từ 1857 đến 1859. Lần khoan dầu đầu tiên có lẽ diễn ra ở Wietze, Đức, nhưng cuộc khoan dầu được toàn thế giới biết đến là của Edwin L. Drake vào ngày 27 tháng 8 năm 1859 ở Oil Creek, Pennsylvania. Drake khoan dầu theo lời yêu cầu của nhà công nghiệp người Mỹ George H. Bissel và đã tìm thấy mỏ dầu lớn đầu tiên chỉ ở độ sâu 21,2 m.
