Futbola Manisa Salihlispor’un alt yapısında 8-9 yaşlarındayken başlayan Ali Tandoğan, 17 yaşına kadar amatör olarak futbol oynadı. Ardından Salihlispor ile 2. Lig’de profesyonel olarak futbol oynamaya başladı. 2. Lig’de oynadığı futbolla dikkatleri üzerine çekmeye başlayan Ali Tandoğan, Denizlispor’a transfer oldu ve beş buçuk yıl bu takımın formasını giydi. Denizlispor ile şampiyonluk yaşayan Ali, Gençlerbirliği’ne transfer oldu. 2 sezon Gençlerbirliği’nde oynayan Ali Tandoğan, 2005-2006 sezonunun başında Beşiktaş ile 1 yılı opsiyonlu 3 yılllık anlaşmaya imza attı.