Shinichi Kudo, seorang detektif SMA berusia 17 tahun yang biasanya membantu polisi memecahkan kasus, diserang oleh 2 anggota sindikat misterius ketika mengawasi sebuah pemerasan. Ia kemudian diberi minum racun misterius yang baru selesai dikembangkan untuk membunuhnya. Namun, karena sebuah efek samping yang jarang terjadi yang tidak diketahui anggota sindikat tersebut, racun tersebut mengakibatkan tubuhnya mengecil seperti anak kecil berusia tujuh tahun setelah mereka meninggalkannya.[2]
Untuk menyembunyikan identitasnya dan untuk menginvestigasi keadaan sindikat tersebut, yang selanjutnya dikenal dengan nama Organisasi Berbaju Hitam atau Organisasi Hitam, dia menyamarkan namanya menjadi Conan Edogawa.[3] Untuk mencari jejak sindikat tersebut, dia tinggal bersama dengan teman sejak kecilnya, Ran Mouri, yang ayahnya, Kogoro Mouri, merupakan seorang detektif swasta.[3] Dia bersekolah di SD Teitan dan membentuk Grup Detektif Cilik dengan 3 teman sekelasnya, yaitu: Ayumi Yoshida, Mitsuhiko Tsuburaya, dan Genta Kojima.[4] Meskipun tubuhnya mengecil, ia tetap memecahkan kasus. Biasanya, ia menyelesaikan kasus-kasus tersebut dengan meniru suara Kogoro Mouri dengan alat yang diciptakan oleh tetangganya, Profesor Agasa. Kogoro Mouri, seorang detektif yang agak bodoh, awalnya bingung pada kemampuan memecahkan kasusnya meningkat secara mendadak. Tetapi, kemudian ia tidak heran karena ia senang karena ketenarannya yang meningkat. Ran Mouri pernah beberapa kali mencurigai bahwa Conan adalah Shinichi, namun karena kecerdikan Conan, maka Ran pun percaya bahwa Conan bukanlah Shinichi.
Selanjutnya dalam seri ini, tokoh utama lainnya, Ai Haibara, muncul. Ai adalah seorang mantan anggota Organisasi Hitam, yang memiliki nama sandi "Sherry". Nama aslinya adalah Shiho Miyano, seorang ilmuan yang mengembangkan racun APTX 4869 yang membuat tubuh Shinichi mengecil.[5] Setelah kakaknya secara kejam dibunuh oleh anggota Organisasi Hitam, ia mencoba keluar dari organisasi itu, namun ia ditangkap.[5] Dia mencoba bunuh diri dengan menelan pil APTX 4869, namun ternyata tubuhnya mengecil, dan dia berhasil kabur dari organisasi tersebut.[5] Dia kemudian bersekolah di SD Teitan dengan nama samaran "Ai Haibara".[5] Dia mengetahui identitas asli Conan dan membantunya dalam perjuangan Conan untuk menjatuhkan Organisasi Hitam.[5] Selain Ai Haibara, Profesor Agasa, dan kedua orangtua Shinichi, orang yang juga mengetahui identitas asli Conan adalah Heiji Hattori, seorang detektif SMA dari Osaka. Pada mulanya, Heiji dikenal sebagai detektif SMA dari Barat dan mengaku sebagai saingan Shinichi, detektif SMA dari Timur. Dengan berkembangnya cerita, Heiji pun kini menjadi sahabat dekat Shinichi (Conan).
Selama terus menyamar sebagai anak SD dan menjadi dalang di balik ketenaran Kogoro Mouri, Conan bertemu dengan berbagai macam penjahat dan musuh. Namun hanya satu tokoh yang dapat diakui sebagai rival bebuyutan Conan, yaitu Kid si Pencuri - pencuri yang ahli menyamar dan gemar menggunakan trik sulap dalam setiap pencuriannya. Ia selalu berhasil lepas dari kejaran polisi dan juga Conan.
Musuh utama Conan lain yang muncul berasal dari Organiasi Hitam dan bernama Vermouth (alias Sharon/ Chris Vineyard). Tokoh ini diketahui merupakan orang yang sangat dekat dengan bos Organisasi Hitam dan secara misterius tidak pernah bertambah tua. Vermouth mengetahui identitas asli Conan dan Ai Haibara, namun merahasiakannya dari anggota Organisasi Hitam lainnya.
Penyelidikan Conan membawanya terlibat dengan Biro Investigasi Federal (FBI) yang ternyata mempunyai misi sejalan, yaitu menghancurkan Organisasi Hitam. Dari situ, diketahui bahwa terdapat beberapa agen rahasia yang menyusup ke dalam organisasi tersebut, yang dikenal sebagai agen NOC (Non Official Cover). Salah satu mantan agen penyusup dari FBI adalah Shuuichi Akai (bernama sandi Rye), yang pada perkembangan ceritanya banyak ikut membantu Conan. Agen-agen rahasia yang hingga sekarang diketahui menyusup dalam Organisasi Hitam berasal dari FBI, CIA (Central Intelligence Agency), dan Biro Keamanan Publik Kepolisian Tokyo.
Banyaknya agen rahasia yang menyusup dalam Organisasi Hitam membuat salah satu anggota organisasi mulai bergerak. Ia dikenal dengan nama sandi Rum dan merupakan orang terpenting kedua dari organisasi tersebut. Identitas Rum belum diketahui. Namun Conan menemukan bahwa Rum terlibat dalam sebuah kasus pembunuhan seorang pemain Shoji bernama Koji Haneda, yang menurut Ai merupakan salah satu korban racun APTX 4869.