import pandas as pd
import numpy as np
import seaborn as sns
import matplotlib.pyplot as plt
import random

from sklearn.model_selection import train_test_split
from sklearn.metrics import r2_score, mean_squared_error
from sklearn.linear_model import LinearRegression

df = pd.read_csv('/datasets/insurance.csv')
display(df.head())
print()
print(f'Пропуски \n \n{df.isna().sum()}')
sns.heatmap(df.drop('Пол', axis=1).corr(method = 'spearman'), annot =True)
plt.title('Матрица корреляции', color='brown')

Пропуски 
 
Пол                  0
Возраст              0
Зарплата             0
Члены семьи          0
Страховые выплаты    0
dtype: int64

Text(0.5, 1.0, 'Матрица корреляции')

df.info()

<class 'pandas.core.frame.DataFrame'>
RangeIndex: 5000 entries, 0 to 4999
Data columns (total 5 columns):
 #   Column             Non-Null Count  Dtype  
---  ------             --------------  -----  
 0   Пол                5000 non-null   int64  
 1   Возраст            5000 non-null   float64
 2   Зарплата           5000 non-null   float64
 3   Члены семьи        5000 non-null   int64  
 4   Страховые выплаты  5000 non-null   int64  
dtypes: float64(2), int64(3)
memory usage: 195.4 KB

df.describe()
df.hist(bins= 50, figsize=(9,9))

array([[<AxesSubplot:title={'center':'Пол'}>,
        <AxesSubplot:title={'center':'Возраст'}>],
       [<AxesSubplot:title={'center':'Зарплата'}>,
        <AxesSubplot:title={'center':'Члены семьи'}>],
       [<AxesSubplot:title={'center':'Страховые выплаты'}>,
        <AxesSubplot:>]], dtype=object)

y_line = df.groupby('Страховые выплаты').count()['Пол'].index
x_line = df.groupby('Страховые выплаты').count()['Пол']
plt.plot(x_line,y_line)
plt.grid(True)
plt.title('Частота страховых выплат')
plt.ylabel('Кол-во выплат одному клиенту')
plt.xlabel('Кол-во выплат')
plt.show()

sns.pairplot(data = df, hue = 'Страховые выплаты', palette='hls', diag_kind='hist')

<seaborn.axisgrid.PairGrid at 0x7fd899a95760>

features = df.drop(['Страховые выплаты'],axis = 1)
target = df['Страховые выплаты']

(features_train,
 features_test,
 target_train,
 target_test) = train_test_split(features,target, test_size=0.25, random_state=12345)

class LinearRegressionW:
    def fit(self, train_features, train_target):
        X = np.concatenate((np.ones((train_features.shape[0], 1)), train_features), axis=1)
        y = train_target
        w = np.linalg.inv(X.T.dot(X)).dot(X.T).dot(y)
        self.w = w[1:]
        self.w0 = w[0]
        
    def predict(self, test_features):
        return test_features.dot(self.w) + self.w0

def our_model(features_train, target_train, features_test, target_test):
    model = LinearRegressionW()
    model.fit(features_train, target_train)
    predictions = model.predict(features_test)
    print(f'MSE: {mean_squared_error(predictions,target_test)}')
    print(f'R2_score: {r2_score(target_test, predictions)}')
    return

our_model(features_train, target_train, features_test, target_test)

MSE: 0.11660517472525564
R2_score: 0.4352275712702667

def linear(features_train, target_train,features_test,target_test):
    model = LinearRegression()
    model.fit(features_train, target_train)
    predictions = model.predict(features_test)
    print(f'MSE: {mean_squared_error(predictions,target_test)}')
    print(f'R2_score: {r2_score(target_test, predictions)}')
    return

linear(features_train, target_train,features_test,target_test)

MSE: 0.11660517472525592
R2_score: 0.43522757127026546

try:
    NRP = np.random.RandomState(74)
    matrix = NRP.normal(size=(4,4))
    np.linalg.inv(matrix)
    
except:
    print('Что-то пошло не так')

features_train_matrix = features_train.dot(matrix)
features_test_matrix = features_test.dot(matrix)
features_test_matrix.head()

linear(features_train_matrix, target_train,features_test_matrix,target_test)

MSE: 0.1166051747252743
R2_score: 0.4352275712701763

our_model(features_train_matrix, target_train,features_test_matrix,target_test)

MSE: 0.11660517725362907
R2_score: 0.43522755902419274

try:
    NRP = np.random.RandomState(42)
    matrix = NRP.normal(size=(4,4))
    np.linalg.inv(matrix)
    
except:
    print('Что-то пошло не так')

features_train_matrix = features_train.dot(matrix) * 42
features_test_matrix = features_test.dot(matrix) * 42
features_test_matrix.head()

X = np.concatenate((np.ones((features_train_matrix.shape[0], 1)), features_train_matrix), axis=1)

y = target_train

w = np.linalg.inv(X.T.dot(X)).dot(X.T).dot(y)    

a = features_test_matrix.dot(w[1:]) + w[0]

R2_score_m=r2_score(target_test, a)
MSE_m=mean_squared_error(a, target_test)
print("R2_score:",R2_score_m)
print("MSE:", MSE_m)

R2_score: 0.435227573546044
MSE: 0.11660517425538956

print(f'Исходные данные в обучающей выборке:\n{features_train}\n\n')

print('Восстановленные данные:\n', round((features_train_matrix.dot(np.linalg.inv(matrix))/42)))

Исходные данные в обучающей выборке:
      Пол  Возраст  Зарплата  Члены семьи
3369    1     43.0   36200.0            1
1441    1     34.0   57600.0            0
571     0     32.0   41100.0            1
225     0     36.0   45100.0            1
2558    0     33.0   50600.0            2
...   ...      ...       ...          ...
3497    0     42.0   32100.0            0
3492    0     28.0   22700.0            4
2177    1     41.0   44700.0            1
3557    0     22.0   50100.0            4
4578    0     19.0   40800.0            0

[3750 rows x 4 columns]


Восстановленные данные:
         0     1        2    3
3369  1.0  43.0  36200.0  1.0
1441  1.0  34.0  57600.0  0.0
571   0.0  32.0  41100.0  1.0
225   0.0  36.0  45100.0  1.0
2558  0.0  33.0  50600.0  2.0
...   ...   ...      ...  ...
3497  0.0  42.0  32100.0  0.0
3492  0.0  28.0  22700.0  4.0
2177  1.0  41.0  44700.0  1.0
3557  0.0  22.0  50100.0  4.0
4578  0.0  19.0  40800.0  0.0

[3750 rows x 4 columns]

	Пол	Возраст	Зарплата	Члены семьи	Страховые выплаты
0	1	41.0	49600.0	1	0
1	0	46.0	38000.0	1	1
2	0	29.0	21000.0	0	0
3	0	21.0	41700.0	2	0
4	1	28.0	26100.0	0	0

	0	1	2	3
3183	-24340.078639	13228.787599	-2675.892113	42616.147010
1071	-26888.197875	14611.067074	-2947.500968	47114.176875
2640	-26270.401463	14277.005126	-2891.489548	46010.123653
2282	-21724.729702	11809.249534	-2401.447248	38015.976829
1595	-24958.876056	13563.702447	-2737.818074	43717.928372

	0	1	2	3
3183	-769282.931077	888067.406490	-757179.178060	-761896.136118
1071	-850313.930676	981489.787749	-835707.253714	-841499.619134
2640	-830487.290444	958965.345633	-816801.210921	-822182.324923
2282	-686380.451317	792809.084661	-676004.761050	-680065.962646
1595	-789079.530820	910776.258303	-776112.105652	-781198.927699

Комментарий ревьюера

Содержание

Защита персональных данных клиентов¶

Загрузка данных¶

Умножение матриц¶

Создание обучающей и тестовой выборки¶

Модель линейной регрессии на основании формул¶

Проверяем метрики¶

Стандартная модель линейной регрессии из библиотеки sklearn.linear_model¶

Создание псевдорандомной матрицы и проверка метрик¶

Алгоритм преобразования¶

Проверка алгоритма¶

Генерируем матрицу¶

Производим умножения¶

Строим модель и проверяем метрики¶

Проверим как восстанавливаются исходные данные¶

Чек-лист проверки¶