Regresyon Analizi Nedir ve Ne İşe Yarar?

Regresyon analizi, veri biliminden ekonomiye kadar her alanda karşımıza çıkan, temelinde "değişkenler arasındaki ilişkiyi anlamlandırma" yatan matematiksel bir yöntemdir.

Regresyon analizi, en basit tabiriyle, değişkenler arasındaki ilişkiyi anlamak ve geleceğe dair tahminler yapmak için kullandığımız bir matematiksel dedektiflik yöntemidir.

Regresyon Analizinin Amacı Nedir?

​En basit haliyle regresyonun iki temel amacı vardır:

1. ​Tahminleme (Prediction): Elimizdeki mevcut verileri kullanarak, gelecekte veya bilinmeyen bir durumda ne olacağını öngörmek.

2. ​Etki Analizi (Causal Inference): Bir faktördeki değişimin, sonuç üzerinde ne kadar güçlü bir etkisi olduğunu ölçmek.

​Örneğin; "Reklam harcamalarını artırırsak satışlar ne kadar artar?" sorusuna cevap ararken regresyon analizi bize bir formül sunar.

Verilerin arasındaki o gizli bağı bulmaya çalışırken, problemin türüne göre farklı regresyon çeşitlerine ihtiyaç duyarız.

En Çok Kullanılan Regresyon Türleri

​İşte veri dünyasında en sık karşılaşılan regresyon türleri: 

1. Basit Doğrusal Regresyon (Simple Linear Regression)

Tek bir bağımsız değişkenin (sebep), bir bağımlı değişken (sonuç) üzerindeki etkisini ölçer. İlişkiyi düz bir çizgi ile ifade eder.

​Basit doğrusal regresyon, regresyon analizinin en temel ve yapı taşı olan türüdür. Buradaki "basit" kelimesi, analizde sadece iki değişken (bir sebep, bir sonuç) olduğunu ifade eder. "Doğrusal" ifadesi ise bu iki değişken arasındaki ilişkinin düz bir çizgi şeklinde modellendiğini belirtir.

​Matematiksel Formülü

​Analiz, verilerin arasından geçen en uygun düz çizgiyi bulmaya çalışır. Bu çizginin denklemi şöyledir:

​​y (Bağımlı Değişken): Tahmin etmeye çalıştığımız sonuç (Örn: Ürün verimi veya Sınav notu).

​x (Bağımsız Değişken): Sonucu etkilediğini düşündüğümüz faktör (Örn: Gübre miktarı veya Ders çalışma süresi).

​\beta_0 (Sabit Terim/Intercept): x sıfır olduğunda y'nin aldığı değer. Çizginin dikey ekseni kestiği noktadır.

​\beta_1 (Katsayı/Eğim): x'deki 1 birimlik artışın y üzerinde yarattığı değişim miktarıdır. İlişkinin gücünü ve yönünü gösterir.

​\epsilon (Hata Terimi): Modelin açıklayamadığı, rastgele faktörlerden kaynaklanan sapmalardır.

Örnek: Bir öğrencinin günlük ders çalışma süresi (sebep) ile sınav notu (sonuç) arasındaki ilişki.

​Mantık: Çalışma saati arttıkça notun belirli bir oranda artması beklenir.

2. Çoklu Doğrusal Regresyon (Multiple Linear Regression)

Birden fazla bağımsız değişkenin tek bir sonucu nasıl etkilediğini inceler. Gerçek hayat senaryolarına daha uygundur.

​Örnek: Bir evin fiyatını tahmin etmek.

​Değişkenler: Evin metrekaresi, oda sayısı, merkeze uzaklığı ve binanın yaşı. Bu faktörlerin hepsi fiyatı aynı anda etkiler.

Çoklu Doğrusal Regresyonun Genel Formülü

​Çoklu doğrusal regresyonun genel matematiksel modeli şu şekildedir:

Bu formüldeki terimleri inceleyelim:

​y (Bağımlı Değişken): Tahmin etmeye veya açıklamaya çalıştığımız sonuç değişkenidir.

​x_1, x_2, x_3, ..., x_n (Bağımsız Değişkenler/Öngörücüler): Sonucu etkilediğini düşündüğümüz farklı faktörlerdir. Modelde n tane bağımsız değişken olabilir.

​\beta_0 (Sabit Terim / Intercept): Tüm bağımsız değişkenlerin (x_1...x_n) sıfır olduğu durumda, y'nin alması beklenen başlangıç değeridir.

​\beta_1, \beta_2, \beta_3, ..., \beta_n (Regresyon Katsayıları / Parametreler): Bu katsayılar çok önemlidir. Her bir katsayı, diğer tüm değişkenler sabit tutulmak kaydıyla, ilgili bağımsız değişkendeki 1 birimlik değişimin y üzerindeki etkisini gösterir.

​Örneğin \beta_1, x_2, x_3... gibi diğer tüm faktörler değişmezken, x_1'deki bir artışın y'yi ne kadar değiştirdiğini ifade eder.

​\epsilon (Hata Terimi): Modelin açıklayamadığı, rastgele faktörlerden, ölçüm hatalarından veya modele dahil edilmeyen diğer değişkenlerden kaynaklanan sapmalardır.

Basit Bir Örnek Üzerinden Formülü Uygulayalım

 "Herhangi bir Evin Fiyatını Tahmin Etme" örneğini bu formüle oturtalım:

​y (Sonuç): Evin Satış Fiyatı (TL)

​x_1 (Faktör 1): Metrekare (Alan)

​x_2 (Faktör 2): Oda Sayısı

​x_3 (Faktör 3): Binanın Yaşı

(Başka faktörler de ekleyebiliriz gerçek değeri daha iyi tahmin edebilmek adına. Örneğin Merkeze Olan Uzaklığın da sonucu etkilediğini düşünüyorsak onu da faktörlere ekleyebiliriz.)

3. Lojistik Regresyon (Logistic Regression)

İsmi regresyon olsa da aslında bir sınıflandırma yöntemidir. Sonucun sayısal bir değer değil, "Evet/Hayır" veya "0/1" gibi iki kategoriden biri olduğu durumlarda kullanılır.

​Örnek: Bir bankanın müşterisine kredi verip vermeme kararı.

​Mantık: Müşterinin geliri, kredi notu ve yaşına bakarak sistem bir olasılık hesaplar: "Krediyi geri ödeme olasılığı %80 (Başarılı) veya %20 (Başarısız)."

Lojistik Regresyonun Genel Formülü

Lojistik regresyonda amaç, bağımsız değişkenleri (x) kullanarak sonucun "1" (veya "Evet") olma olasılığını (P) hesaplamaktır. Ancak olasılık her zaman 0 ile 1 arasındadır, oysa doğrusal bir denklem sonsuza gidebilir. Bu yüzden Sigmoid (Lojistik) Fonksiyonu kullanılır.

Önce doğrusal bir değer (z) hesaplanır:

Detaylı Örnek: Kredi Onay Tahmini

Bir bankanın, kredi başvurusu yapan bir müşteriye kredi verip vermeyeceğini tahmin etmek istediğini düşünelim.(P(1)=Kredi Onaylandı, P(0)= Kredi onaylanmadı)

​Bağımlı Değişken (y): Kredi Onayı (1 = Evet, 0 = Hayır)

​Bağımsız Değişkenler (x):

​x_1: Aylık Gelir

​x_2: Kredi Notu

​x_3: Mevcut Borç Miktarı

Mantık Şöyle İşler:

​1. Model, müşterinin verilerini denkleme koyar ve bir z skoru hesaplar.

​2. Bu skor Sigmoid fonksiyonundan geçerek bir olasılığa dönüşür. Örneğin; P = 0.85 (Yani kredi borcunu ödeme olasılığı %85).

​3. Banka genellikle bir eşik değer (threshold) belirler (Örn: %50).

​• Olasılık > %50 ise(-->) Kredi Onaylandı.

• ​Olasılık < %50 ise(-->) Kredi Reddedildi.

4. Polinom Regresyon (Polynomial Regression)

Değişkenler arasındaki ilişki her zaman düz bir çizgi şeklinde ilerlemez; bazen artış hızı değişir veya bir noktadan sonra azalma başlar. Bu tür "eğri" ilişkileri modellemek için kullanılır.

Polinom regresyon, bağımsız değişken (x) ile bağımlı değişken (y) arasındaki ilişkinin düz bir çizgi yerine bir eğri şeklinde olduğu durumlarda kullanılır. Değişkenler arasındaki ilişkinin "doğrusal olmadığı" (non-linear) karmaşık senaryoları modellemek için idealdir.

Polinom Regresyonun Genel Formülü

Bu analiz türünde, bağımsız değişkenin farklı kuvvetleri (kare, küp vb.) denkleme eklenir. Formül şu şekildedir:

• ​x^2, x^3...: Aynı bağımsız değişkenin karesi, küpü gibi üstel değerleridir. Bu değerler grafiğe "bükülme" veya "kavis" kazandırır.

• ​n (Derece): Polinomun derecesidir. Derece arttıkça çizginin yapabileceği kıvrım sayısı artar.

​• Katsayılar (\beta): Her bir derecenin sonuç üzerindeki etkisini belirler.

Örnek: Tarımda gübre kullanımı ve verim ilişkisi.

​Mantık: Hiç gübre vermezseniz verim düşüktür; gübreyi artırdıkça verim artar. Ancak gübreyi aşırı artırırsanız bitkiler yanar ve verim tekrar düşmeye başlar. Bu ilişki düz bir çizgi değil, bir tepe (yay) çizer.

​Eğer doğrusal regresyon kullansaydık,

"Gübre artıkça veya azaldıkça verim hep artar veya azalır" diyen hatalı bir düz çizgi elde ederdik.

​Polinom regresyon (y = \beta_0 + \beta_1x + \beta_2x^2) kullandığımızda ise grafik bir "U" harfi veya yay çizer.

Önemli Not: Polinom regresyonda dereceyi (n) çok fazla artırırsanız (örneğin x^{10} gibi), model verideki her bir noktadan geçmeye çalışır.

• ​Sorun: Çizgi çok karmaşık bir hal alır ve verideki "gürültüyü" de modellemeye başlar.

​• Sonuç: Model mevcut verileri mükemmel açıklar ama yeni ve hiç görülmemiş bir veri geldiğinde çok hatalı tahminler yapar. Bu yüzden doğru dereceyi seçmek kritik bir dengedir.

Özet Karşılaştırma