Kuruluş tarihi tam olarak saptanamayan Teşkilat-ı Mahsusa geleneksel Osmanlıcılık fikrine bağlı gibi görünse de, teşkilat Panislamizm ve Pantürkizm fikrine dayanmıştır. İttihat Terakki'nin yönetimi ele almasından sonra örgütün ilk teşkili 17 Kasım 1913 tarihine rastlamaktadır. Bu örgüt Sadrazama bağlı olarak çalışmıştır. Bu bağlantı, idari bağlantıdan ileri gitmemiş ve örgüt çalışmalarında bütünüyle bağımsız hareket etmiştir. Örgüt başkanı sadece Sadrazam ve Harbiye Nazırına bilgi vermiştir. Bu teşkilat; Ağustos 1914 yılında yeniden örgütlendiğinde, Rusya, Fransa, İngiltere'ye karşı çalışmalar yürütmüştür. Bu üç devletin kontrolündeki bölgelerde çeşitli faaliyetlerde bulunmuştur. Casusluk ve karşı casusluk için hücreler ve gizli gruplar kurmuştur. Askeri operasyonlar için düzensiz kuvvetleri silah altına almak, eğitmek ve idare etmek üzere çete savaşı uzman kadrolar oluşturulmuştur. Bazı bölgelerde Osmanlı topraklarını koruyan tek ittihatçı güç olmuştur.