Mathematics for AI/Functions ও Graph/Lesson 02

Line: y = wx + b

Slope আর intercept কী বোঝায়, slider টেনে নিজে হাতে একটা line data-র ওপর বসানো, MSE দিয়ে কতটা ভালো মাপা, আর সেরা line-এর সূত্র — linear regression-এর পুরো ভিত্তি।

সময়: 26 মিনিট
Exercise: 1
Challenge: 1
Quiz: 3 প্রশ্ন

সহজ ভাষায়

সরলরেখার সমীকরণ:

y = wx + b

$w$ — slope (ঢাল): $x$ এক বাড়লে $y$ কত বাড়ে
$b$ — intercept: $x = 0$ হলে $y$ কত (line-টা y-axis-কে কোথায় ছোঁয়)

স্কুলে হয়তো $y = mx + c$ লিখেছো — একই জিনিস। ML-এ লেখা হয় $w$ (weight) আর $b$ (bias), কারণ এগুলোই model-এর "শেখা" সংখ্যা।

main.py

import numpy as np
import matplotlib.pyplot as plt

x = np.linspace(0, 10, 50)

fig, ax = plt.subplots()
for w, b in [(1, 0), (2, 0), (0.5, 3), (-1, 8)]:
    ax.plot(x, w * x + b, label=f"y = {w}x + {b}")
ax.legend()
ax.grid(alpha=0.3)

$w$ বাড়লে line খাড়া হয়, negative হলে নিচে নামে। $b$ বদলালে পুরো line উপর-নিচে সরে।

কেন দরকার?

Linear regression — Machine Learning-এর প্রথম model — ঠিক এই একটা line। আর neural network-এর প্রতিটা layer-এর ভেতরেও $wx + b$ :

\hat{y} = wx + b

$\hat{y}$ ("y hat") মানে prediction — model-এর অনুমান। আসল মান $y$ । দুটোর পার্থক্যই ভুল।

ঢাল: পরিবর্তনের হার

দুটো বিন্দু $(x_1, y_1)$ আর $(x_2, y_2)$ দিয়ে যাওয়া line-এর ঢাল:

w = \frac{y_2 - y_1}{x_2 - x_1} = \frac{\Delta y}{\Delta x}

$\Delta$ (delta) মানে "পরিবর্তন"। "সপ্তাহে ২ ঘণ্টা পড়লে নম্বর ৭০, ৬ ঘণ্টায় ৮২" — ঢাল $\frac{82 - 70}{6 - 2} = 3$ : প্রতি অতিরিক্ত ঘণ্টায় ৩ নম্বর। Exercise-এ এটাই করবে।

নিজে হাতে model "train" করো

নিচের বিন্দুগুলো ৯ জন student-এর পড়ার ঘণ্টা ( $x$ ) আর নম্বর ( $y$ , ১০-এর মধ্যে)। Slider টেনে এমন একটা line খোঁজো যেটা বিন্দুগুলোর সবচেয়ে কাছ দিয়ে যায়:

y = 0.20x + 5.00

w (slope)0.20

b (intercept)5.00

MSE2.470

লাল দাগগুলো (ভুল) যত ছোট, MSE তত কম।

Slider টেনে line-টা বিন্দুগুলোর ওপর বসাও। তুমি এখন নিজেই একটা model “train” করছো — Machine Learning ঠিক এটাই করে, শুধু নিজে নিজে।

লাল দাগগুলো প্রতিটা বিন্দুর ভুল (residual) — আসল $y$ আর line-এর $\hat{y}$ -এর পার্থক্য। তুমি যখন slider টানছো, আসলে একটা optimization-এর কাজ করছো — ভুল কমানো। Machine Learning ঠিক এটাই করে, শুধু নিজে নিজে, আর লাখ লাখ $w$ নিয়ে।

কতটা ভালো? MSE

"সবচেয়ে কাছ দিয়ে" — সংখ্যায় মাপতে Mean Squared Error:

\text{MSE} = \frac{1}{n} \sum_{i=1}^{n} \left( y_i - \hat{y}_i \right)^2

প্রতিটা বিন্দুর ভুলের বর্গ, তারপর গড়। ( $\sum$ চিহ্নটা — "সব যোগ করো" — এই module-এর শেষ lesson-এ বিস্তারিত।)

main.py

import numpy as np

hours = np.array([1, 2, 3, 4, 5, 6, 7, 8, 9])
marks = np.array([2.6, 2.9, 4.4, 4.3, 5.6, 6.6, 6.7, 8.2, 8.4])

for w, b in [(0.2, 5.0), (0.5, 3.0), (0.75, 1.75)]:
    predictions = w * hours + b
    mse = np.mean((marks - predictions) ** 2)
    print(f"w = {w:<5} b = {b:<5} MSE = {mse:.3f}")

একাধিক feature

Real model-এ একটা না, অনেক input:

\hat{y} = w_1 x_1 + w_2 x_2 + \dots + w_d x_d + b

main.py

import numpy as np

features = np.array([1400, 3, 10])
weights = np.array([0.05, 4.0, -0.5])
bias = 10

print(features @ weights + bias)

প্রতিটা feature-এর নিজের weight — model শেখে কোন feature কতটা গুরুত্বপূর্ণ। ( $@$ হলো dot product — Vectors module-এ বিস্তারিত।) আর ৩টা feature মানে line না, একটা উঁচু-dimension-এর সমতল — কিন্তু গণিত একই।

Exercise

দুটো বিন্দু থেকে line

+20 XP

একটা line দুটো বিন্দু দিয়ে যায়: (2, 7) আর (6, 19)।

w — slope (ঢাল) = y-এর পরিবর্তন ÷ x-এর পরিবর্তন
b — intercept (x = 0 হলে y কত)
predict(x) — function যেটা w·x + b return করে

মানগুলো বিন্দু থেকে হিসাব করো, হাতে লিখো না।

solution.py

x1, y1 = 2, 7
x2, y2 = 6, 19

w = None
b = None


def predict(x):
    pass


print(w, b, predict(10))

Quiz

Q1y = −2x + 5 — x এক বাড়লে y কী হয়?
2 বাড়ে2 কমে5 বাড়ে
Q2House price model-এ y = 0.05 × area + 10। এখানে 10 কী বোঝায়?
প্রতি sqft-এর দামarea শূন্য হলে দাম — line-টা y-axis-কে যেখানে ছেদ করে (intercept / bias)সর্বোচ্চ দাম
Q3MSE-তে ভুলের বর্গ নেওয়া হয় কেন, শুধু যোগ না করে?
হিসাব দ্রুত হয়শুধু যোগ করলে positive আর negative ভুল কাটাকাটি হয়ে যায় — বর্গ সবাইকে positive করে, আর বড় ভুলকে বেশি শাস্তি দেয়নিয়ম, কোনো কারণ নেই

0/3 answered

Challenge

সেরা line-এর সূত্র

+50 XP

Slider দিয়ে হাতে খুঁজেছো। এবার সূত্র দিয়ে — MSE সবচেয়ে কম এমন line (least squares):

w = Σ (x − x̄)(y − ȳ) ÷ Σ (x − x̄)²
b = ȳ − w · x̄

(x̄ মানে x-এর গড়।) fit_line(x, y) function লেখো যেটা (w, b) return করে — দুটোই সাধারণ float। NumPy দিয়ে, loop ছাড়া। np.polyfit ব্যবহার করবে না — নিজে সূত্র লেখো।

solution.py

import numpy as np


def fit_line(x, y):
    pass


hours = np.array([1, 2, 3, 4, 5, 6, 7, 8, 9])
marks = np.array([2.6, 2.9, 4.4, 4.3, 5.6, 6.6, 6.7, 8.2, 8.4])
print(fit_line(hours, marks))

বাস্তবে কোথায় ব্যবহার হয়?

Challenge-এর সূত্রটা হাতে-কলমে যাচাই — আর দেখো, সূত্র যা দেয়, slider দিয়ে তুমি তার কতটা কাছে পৌঁছেছিলে:

main.py

import numpy as np
import matplotlib.pyplot as plt

hours = np.array([1, 2, 3, 4, 5, 6, 7, 8, 9])
marks = np.array([2.6, 2.9, 4.4, 4.3, 5.6, 6.6, 6.7, 8.2, 8.4])

dx, dy = hours - hours.mean(), marks - marks.mean()
w = (dx * dy).sum() / (dx ** 2).sum()
b = marks.mean() - w * hours.mean()
mse = np.mean((marks - (w * hours + b)) ** 2)
print(f"সেরা line: y = {w:.3f}x + {b:.3f}, MSE = {mse:.4f}")

xs = np.linspace(0, 10, 50)
fig, ax = plt.subplots()
ax.scatter(hours, marks, color="#0f172a", zorder=3)
ax.plot(xs, w * xs + b, color="#059669", label="least squares")
ax.set_xlabel("study hours")
ax.set_ylabel("marks / 10")
ax.legend()

scikit-learn-এর LinearRegression().fit(X, y) ঠিক এই হিসাবই করে (বহু feature-এর জন্য matrix সংস্করণে — Matrices module-এ)। আর শেষে যে coef_ আর intercept_ দেয়, সেগুলোই এই $w$ আর $b$ ।

Interview প্রশ্ন

Beginner: $y = wx + b$ -এ $w$ আর $b$ কী বোঝায়?
Intermediate: MSE কী? Absolute error-এর বদলে বর্গ কেন?
Advanced: Least squares-এর closed-form সমাধান থাকা সত্ত্বেও বড় dataset-এ gradient descent কেন ব্যবহার করা হয়?

এরপর কী?

Line হলো সবচেয়ে সরল function। কিন্তু ML-এ দুটো "বাঁকা" function সবখানে — sigmoid-এর ভেতরে $e^x$ , আর loss function-এর ভেতরে $\log$ । পরের lesson: Exponent ও Log।