Sinyal kaynaklarının varış-yönü (Direction of Arrival, DoA) kestirimi radar, sonar ve haberleşme sistemleri için oldukça önemli bir yere sahiptir. DoA kestirimi, askeri sistemlerde, hedef tespitinde, arama kurtarma çalışmalarında ve mobil iletişim sistemlerinde kullanılmaktadır. DoA kestirimi yapan sistemler, bölge güvenliğinin sağlanması, haberleşme sistemlerinde kullanıcı kapasitesinin ve sinyal kalitesinin arttırılmasında da önemli rol oynamaktadır. Varış-yönü kestirim problemi için Geleneksel Huzme Şekillendirme (Conventional Beamforming, CBF), Minimum Varyanslı Bozunumsuz Tepki (Minimum Variance Distortionless Response, MVDR), Çoklu Sinyal Sınıflandırması (MUltiple SIgnal Classification, MUSIC), Kök-MUSIC (Root-MUSIC) gibi birçok dizi sinyal işleme yöntemi önerilmiştir. Bu yöntemler ideal koşullar altında yüksek performans sergilese de, antenler arası ortak bağlaşım etkilerinden ve kazanç-faz belirsizliklerinden dolayı pratikte hatalı kestirim yapabilmektedirler. Bu tip uyarlamalı huzme oluşturma ve yüksek çözünürlük algoritmalarının anten dizilerindeki hatalara, veri ve yönlendirme vektörünün hassasiyetine oldukça bağlı olmasından dolayı ortak bağlaşım ve kazanç-faz etkilerinin varlığı varış-yönü kestirim algoritmalarının performansını uygulamada sınırlamaktadır. Ortak bağlaşım etkisinin, anten yapısına, anten dizilim formuna, antenler arası mesafeye ve çevresel koşullara bağlı olduğu göz önüne alınmalı ve doğru kestirim yapmak için bu etkilerin hesaplanarak düzeltilmesi gerekmektedir. Ortak bağlaşım etkileri anten dizisinin şekline bağlı olarak değişmekle birlikte genellikle belli bir formu yoktur. Buna karşılık, bu etki düzgün dağılımlı doğrusal anten dizilerinde (Uniform Linear Array, ULA) Bant Simetrik Toeplitz Matris (Banded Symmetric Toeplitz Matrix) yapısında oluşmaktadır. Ortak bağlaşım ve kazanç-faz etkilerini temsil eden matrisler hiçbir referans kaynağı, yardımcı anten ya da ölçüm gerektirmeden oto-kalibrasyon yöntemi kullanılarak hesaplanabilmektedir. Böylece DoA kestirim algoritmalarının performansını düşüren bu olumsuz etkiler bastırılabilir. Bu tez kapsamında düzgün dağılımlı doğrusal anten dizileri arasında ortak bağlaşım ve kazanç-faz belirsizlikleri varlığında varış-yönü kestirim algoritmaların performansları değerlendirilerek otomatik kalibrasyon yöntemleri için algoritmaların başarımları karşılaştırılmıştır. Özgün olarak oto-kalibrasyon yöntemlerinde daha önce kullanılmayan Root-MUSIC algoritması kullanılarak, ortak bağlaşım ve kazanç-faz matrisleri hesaplanmış ve varış-yönü kestirim algoritmalarının performans artışı gösterilmiştir.
The Direction of Arrival (DoA) estimation of unknown signal sources is very important in radar, sonar, and communication systems. It is used in many application areas such as military systems, target detection, search-rescue operations, and mobile communication systems. In addition, these systems play an important role in ensuring the security of the zone also increasing the user capacity and signal quality in the communication systems. Many array signal processing methods such as Conventional Beamforming (CBF), Minimum Variance Distortionless Response (MVDR), MUltiple SIgnal Classification (MUSIC), and Root-MUSIC have been proposed for the DoA estimation problems. Although these methods exhibit high performance under ideal conditions, they make erroneous estimates in practice due to the mutual coupling effects and gain-phase uncertainties between array elements. Since the adaptive beamforming and high resolution algorithms are highly dependent on these errors in the antenna arrays and the sensitivity of data and steering vector, the presence of mutual coupling and gain-phase effects limit the performance of DoA estimation algorithms in practice. It should be taken into consideration that mutual coupling depends on antenna structure, antenna array form, aperture of antennas, and environmental conditions. Morever, these effects should be calculated and corrected in order to make an accurate estimate. Although mutual coupling effects vary depending on the shape of the antenna array, they are generally not in a certain form, but in uniform linear antenna arrays (ULAs), they occur in the "Banded Symmetric Toeplitz Matrix" structure. Matrices representing mutual coupling and gain-phase effects can be calculated using the auto-calibration method without requiring any reference source, auxiliary antenna or measurement. Thus, these destructive effects causing array errors can be suppressed. In this thesis, the performance of the DoA estimation algorithms in the presence of mutual coupling and gain-phase uncertainties between ULAs has been evaluated and also the performances of the algorithms are compared for the automatic calibration method. Uniquely, mutual coupling and gain-phase matrices are calculated using the Root-MUSIC algorithm, which was not used before in auto-calibration methods, and the performance improvement of the DoA estimation algorithms are demonstrated.