DB2 memiliki sejarah panjang dan ditenggarai sebagai perangkat lunak basisdata pertama yang mengimplementasikan [[SQL]], meski demikian, umumnya [[Oracle]] lebih dikenal sebagai perangkat lunak basisdata pertama yang dikomersilkan secara luas dengan menyertakan dukungan atas [[SQL]].
Penamaan '''DB2''' pertama kali diberikan pada tahun 1983 untuk produk [[sistem manajemen basis data]] milik IBM saat merilis produk tersebut untuk platform peladen kelas [[mainframe]]. Sebelumnya, produk sejenis dinamai sebagai '''SQL/DS'''. Sistem 38 yang muncul lebih awal sebenarnya juga telah membawa paket perangkat lunak basis data relasional yang dinamai '''System Relational'''. Asal muasal DB2 bermula pada era tahun 1970an saat [[Edgar F. Codd]] yang saat itu merupakan karyawan IBM, menjabarkan [[12 hukum Codd|teori basisdata relasional]] yang dipublikasikannya pada bulan juni 1970. Untuk mengimplementasikan model tersebut, Codd membutuhkan suatu bahasa basisdata relasional yang kemudian dinamainya sebagai ''Alpha''. Pada masa itu, IBM bahkan tidak yakin atas potensi dari ide yang dicetuskan oleh Codd, dan cenderung membiarkan implementasinya dilakukan oleh sekelompok programmer IBM tanpa dipandu oleh Codd, merekalah yang kemudian melanggar beberapa kaidah mendasar dari model relasional yang dicetuskan oleh Codd. Hasil kerja dari sekelompok programmer ini dinamai oleh mereka sebagai "''Structured English QUEry Language''" atau singkat SEQUEL. Saat IBM bermaksud merilis produk sistem basisdata yang pertama, mereka membutuhkan bahasa yang bisa digunakan untuk pengaksesan data, SEQUEL akhirnya dimodifikasi ulang dan dinamai sebagai ''System Query Language'' atau disingkat SQL untuk membedakannya dengan SEQUEL.
Saat [[Informix]] mengakuisisi [[Illustra]] dan membuat produk basis data mereka menjadi [[object-SQL DBMS]] dengan diperkenalkan produk Universal Server, baik Oracle dan IBM mengikuti jejak tersebut dengan menambahkan dukungan yang sama atas produk basis data yang ada. Tahun 2001, IBM mengakuisisi Informix dan berhasil menggabungkan teknologi basis data pada produk basis data IBM DB2.
Selama beberapa tahun, DB2 umumnya hanya tersedia secara eksklusif pada jajaran produk komputer [[mainframe]] milik IBM. Baru pada beberapa tahun terakhir, IBM menyediakan pula versi DB2 yang mendukung sistem operasi lain, termasuk dalam hal ini [[Linux]], [[Unix]], dan server [[Windows]]. Sebab itu rilis produk DB2 yang mendukung platform-platform tersebut dikenal pula sebagai '''IBM DB2 LUW'''.
