ملاحظة

Go to the end to download the full example code. or to run this example in your browser via JupyterLite or Binder

رسم معاملات Ridge كدالة للتنظيم#

يظهر هذا المثال تأثير التلازم في معاملات أداة التقدير.

Ridge الانحدار هو أداة التقدير المستخدمة في هذا المثال. يمثل كل لون ميزة مختلفة في متجه المعاملات، ويتم عرضه كدالة ل معامل التنظيم.

يوضح هذا المثال أيضًا فائدة تطبيق الانحدار Ridge على المصفوفات ذات الشرط السيئ للغاية. بالنسبة لهذه المصفوفات، يمكن أن يسبب التغيير الطفيف في المتغير المستهدف تباينات كبيرة في الأوزان المحسوبة. في مثل هذه الحالات، من المفيد تعيين بعض التنظيم (alpha) للحد من هذا التباين (الضوضاء).

عندما يكون alpha كبيرًا جدًا، تهيمن تأثيرات التنظيم على دالة الخسارة التربيعية وتميل المعاملات إلى الصفر. في نهاية المسار، عندما يقترب alpha من الصفر وتميل الحلول نحو المربعات العادية الأقل، تظهر المعاملات تذبذبات كبيرة. في الممارسة العملية، من الضروري ضبط alpha بطريقة تحافظ على التوازن بين الاثنين.

# المؤلفون: مطوري scikit-learn
# معرف SPDX-License: BSD-3-Clause

import matplotlib.pyplot as plt
import numpy as np

from sklearn import linear_model

# X هي مصفوفة هيلبرت 10x10
X = 1.0 / (np.arange(1, 11) + np.arange(0, 10)[:, np.newaxis])
y = np.ones(10)

حساب المسارات#

n_alphas = 200
alphas = np.logspace(-10, -2, n_alphas)

coefs = []
for a in alphas:
    ridge = linear_model.Ridge(alpha=a, fit_intercept=False)
    ridge.fit(X, y)
    coefs.append(ridge.coef_)

عرض النتائج#

ax = plt.gca()

ax.plot(alphas, coefs)
ax.set_xscale("log")
ax.set_xlim(ax.get_xlim()[::-1])  # عكس المحور
plt.xlabel("alpha")
plt.ylabel("weights")
plt.title("Ridge coefficients as a function of the regularization")
plt.axis("tight")
plt.show()