Mathematics for AI/Functions ও Graph/Lesson 04

Σ notation: সূত্র পড়তে শেখা

Σ আর Π চিহ্ন, index আর subscript, ML paper-এর সূত্র পড়া — আর যেকোনো সূত্রকে loop ছাড়া এক লাইনের NumPy code-এ অনুবাদ করা।

সময়: 22 মিনিট
Exercise: 1
Challenge: 1
Quiz: 3 প্রশ্ন

সহজ ভাষায়

Σ (গ্রিক অক্ষর sigma) মানে "সব যোগ করো":

\sum_{i=1}^{n} x_i = x_1 + x_2 + \dots + x_n

পড়ো: " $i$ = 1 থেকে $n$ পর্যন্ত, প্রতিটা $x_i$ যোগ করো।"

নিচে $i = 1$ — কোথা থেকে শুরু
উপরে $n$ — কোথায় শেষ
ডানে $x_i$ — প্রতিটা ধাপে কী যোগ হবে

এটা আসলে একটা loop:

main.py

x = [4, 8, 15, 16, 23, 42]

total = 0
for i in range(len(x)):
    total += x[i]
print(total)

import numpy as np
print(np.sum(x))

কেন দরকার?

ML-এর documentation, paper, এমনকি scikit-learn-এর help page — সূত্রে ভরা। Σ পড়তে না পারলে মনে হয় একটা অচেনা ভাষা। আসলে প্রতিটা সূত্র একটা ছোট program — আর এই lesson-এর পর তুমি সেগুলো সরাসরি NumPy code-এ লিখতে পারবে।

পরিচিত সূত্র, নতুন চোখে

তুমি এগুলো আগেই code-এ লিখেছো — এবার সূত্রে দেখো:

গড় (mean):

\bar{x} = \mu = \frac{1}{n} \sum_{i=1}^{n} x_i

MSE:

\text{MSE} = \frac{1}{n} \sum_{i=1}^{n} \left( y_i - \hat{y}_i \right)^2

Dot product (দুটো vector):

\mathbf{w} \cdot \mathbf{x} = \sum_{j=1}^{d} w_j x_j

main.py

import numpy as np

x = np.array([2.0, 4.0, 6.0])
y = np.array([3.0, 5.0, 7.0])
y_hat = np.array([2.5, 5.5, 6.0])
w = np.array([0.5, -1.0, 2.0])

print("mean:", x.sum() / len(x), x.mean())
print("MSE:", ((y - y_hat) ** 2).sum() / len(y), ((y - y_hat) ** 2).mean())
print("dot:", (w * x).sum(), w @ x)

প্যাটার্নটা দেখো: Σ-এর ভেতরের অংশ পুরো array-এর ওপর হিসাব করো, তারপর .sum()। আর সামনে $\frac{1}{n}$ থাকলে .mean()।

সূত্র → code: অনুবাদের নিয়ম

সূত্রে	মানে	NumPy
$x_i$	x-এর i-তম মান	`x[i]` (কিন্তু সাধারণত পুরো `x` একবারে)
$\sum_i$	সব i-এর জন্য যোগ	`.sum()`
$\frac{1}{n}\sum_i$	গড়	`.mean()`
$\prod_i$	সব i-এর জন্য গুণ	`.prod()` (কিন্তু log নিয়ে যোগ নিরাপদ!)
$\max_i$	সবচেয়ে বড়	`.max()`
$\arg\max_i$	সবচেয়ে বড়টা কোন i-তে	`.argmax()`
$X_{ij}$	i-তম row, j-তম column	`X[i, j]`
$\sum_j X_{ij}$	প্রতিটা row-এর যোগ	`X.sum(axis=1)`

দুটো index: double sum

Data matrix $X$ -এ $n$ টা sample (row), $d$ টা feature (column):

\sum_{i=1}^{n} \sum_{j=1}^{d} X_{ij}

main.py

import numpy as np

X = np.array([[1, 2, 3], [4, 5, 6]])
print(X.sum())
print(X.sum(axis=1))
print(X.sum(axis=0))

ভেতরের Σ ( $j$ ধরে) মানে প্রতিটা row-এর ভেতরে যোগ — axis=1। NumPy module-এর axis এখানে এসে অর্থবহ হলো।

একটা real সূত্র পড়া: softmax

Classification network-এর শেষ ধাপ:

\text{softmax}(\mathbf{z})_k = \frac{e^{z_k}}{\sum_{j=1}^{K} e^{z_j}}

ধাপে ধাপে পড়ো:

$\mathbf{z}$ — score-এর vector, $K$ টা class
উপরে: $k$ -তম class-এর score-এর $e$ -ঘাত
নিচে: সব class-এর $e$ -ঘাতের যোগফল
তাই সব output যোগ করলে 1 — একটা probability distribution

main.py

import numpy as np

z = np.array([2.0, 1.0, 0.1])
e = np.exp(z)
softmax = e / e.sum()
print(softmax.round(3), softmax.sum())

চার লাইন সূত্র, দুই লাইন code।

Exercise

সূত্র থেকে variance

+20 XP

Variance-এর সূত্র (পুরো population-এর):

σ² = (1/n) · Σ (xᵢ − μ)², যেখানে μ = (1/n) · Σ xᵢ

variance(x) function লেখো এই সূত্র হুবহু অনুসরণ করে — NumPy দিয়ে, loop ছাড়া, আর np.var ব্যবহার না করে। একটা float return করবে।

solution.py

import numpy as np


def variance(x):
    pass


print(variance(np.array([2, 4, 4, 4, 5, 5, 7, 9])))

Quiz

Q1Σ (i = 1 থেকে 4) i² কত?
163010
Q2ML paper-এ xᵢ⁽ʲ⁾ বা x_ij সাধারণত কী বোঝায়?
x-কে i আর j দিয়ে গুণi-তম sample-এর j-তম feature — অর্থাৎ data matrix-এর একটা ঘর, NumPy-তে X[i, j]x-এর i ঘাত
Q3Σ চিহ্নওয়ালা সূত্র NumPy-তে লেখার সবচেয়ে ভালো উপায়?
for loop দিয়ে একটা একটা যোগপুরো array-এর ওপর হিসাব করে .sum() (বা .mean() যদি 1/n থাকে)Σ NumPy-তে লেখা যায় না

0/3 answered

Challenge

R² score

+50 XP

Regression model কতটা ভালো — R² (coefficient of determination):

R² = 1 − Σ (yᵢ − ŷᵢ)² ÷ Σ (yᵢ − ȳ)²

উপরের অংশ: model-এর ভুল
নিচের অংশ: শুধু গড় বললে কত ভুল হতো
R² = 1 মানে নিখুঁত; 0 মানে model গড়ের চেয়ে ভালো না; negative মানে গড়ের চেয়েও খারাপ!

r2_score(y, y_pred) লেখো — loop ছাড়া, float return করবে।

solution.py

import numpy as np


def r2_score(y, y_pred):
    pass


y = np.array([3.0, 5.0, 7.0, 9.0])
print(r2_score(y, np.array([2.8, 5.1, 7.3, 8.9])))

বাস্তবে কোথায় ব্যবহার হয়?

একটা সূত্রের তিনটা রূপ — loop, vectorized, library — একই উত্তর, কিন্তু গতি আলাদা:

main.py

import time
import numpy as np

rng = np.random.default_rng(0)
y = rng.normal(50, 10, 200_000)
y_hat = y + rng.normal(0, 3, 200_000)

start = time.perf_counter()
total = 0.0
for i in range(len(y)):
    total += (y[i] - y_hat[i]) ** 2
loop_mse = total / len(y)
loop_ms = (time.perf_counter() - start) * 1000

start = time.perf_counter()
vec_mse = ((y - y_hat) ** 2).mean()
vec_ms = (time.perf_counter() - start) * 1000

print(f"loop:       {loop_mse:.4f}  ({loop_ms:7.1f} ms)")
print(f"vectorized: {vec_mse:.4f}  ({vec_ms:7.1f} ms)")

Paper-এ সূত্রটা যেভাবে লেখা, NumPy-তে প্রায় সেভাবেই লেখা যায় — আর সেটাই সবচেয়ে দ্রুত। Research paper পড়ে নিজে implement করা AI engineer-এর একটা মূল্যবান skill।

Interview প্রশ্ন

Beginner: $\sum_{i=1}^{n} x_i$ কী বোঝায়? NumPy-তে কীভাবে লিখবে?
Intermediate: R² কী মাপে? R² negative হওয়া কীভাবে সম্ভব?
Advanced: Variance-এর সূত্রে কখনো $\frac{1}{n}$ , কখনো $\frac{1}{n-1}$ — পার্থক্য কী আর কখন কোনটা? (Population বনাম sample — Bessel's correction। NumPy-তে ddof।)

এরপর কী?

🎉 Functions ও Graph module শেষ — function, line, exponent, log আর Σ। এখন তুমি ML-এর সূত্রের বর্ণমালা পড়তে পারো।

পরের module: Vectors — সংখ্যার একটা তালিকা আসলে দিক আর দূরত্ব। "দুটো শব্দ বা দুটো document কতটা একই রকম?" — embedding আর RAG-এর একদম ভিত্তি।