Ah, Naive Bayes - một thuật toán mà từ "naive" không có nghĩa là ngây thơ mà chỉ là hơi thiếu kinh nghiệm trong việc hiểu sự phụ thuộc giữa các tính năng. Để nói về nó, chúng ta cần nhắc đến định lý Bayes và các phân phối xác suất. Hãy cùng nhau khám phá!

1. Định lý Bayes:

Công thức cơ bản của định lý Bayes là:

$$P(A|B) = \frac{P(B|A) \cdot P(A)}{P(B)}$$

• (P(A|B)): Xác suất xảy ra sự kiện A khi đã biết sự kiện B đã xảy ra.
• (P(B|A)): Xác suất xảy ra sự kiện B khi đã biết sự kiện A đã xảy ra.
• (P(A)): Xác suất xảy ra sự kiện A.
• (P(B)): Xác suất xảy ra sự kiện B.

2. Naive Bayes Classifier:

Naive Bayes giả định rằng các đặc điểm là độc lập với nhau (điều này thường không đúng nhưng lại giúp thuật toán hoạt động nhanh và khá hiệu quả trên nhiều bộ dữ liệu). Công thức để phân loại một điểm dữ liệu thường là:

$$P(C_k|X) = \frac{P(X|C_k) \cdot P(C_k)}{P(X)}$$

Ở đây:

• (P(C_k|X)): Xác suất lớp (C_k) xảy ra với điều kiện tập dữ liệu X.
• (P(X|C_k)): Khả năng xảy ra dữ liệu X với điều kiện lớp là (C_k).
• (P(C_k)): Xác suất tổng thể của lớp (C_k).
• (P(X)): Xác suất tổng thể của dữ liệu X.

Vì chúng ta chỉ quan tâm đến việc so sánh giữa các lớp để tìm ra lớp có xác suất cao, nên chúng ta có thể bỏ qua việc tính toán (P(X)) vì nó là hằng số trong mọi lớp.

3. Các Phân Phối Xác Suất:

Multinomial Distribution:

Được sử dụng cho các tính năng là số đếm như phân loại văn bản:

$$P(X|C_k) = \prod_{i=1}^{n} \frac{P(x_i|C_k)^{x_i}}{x_i!}$$

• Suy nghĩ đơn giản: Những từ xuất hiện bao nhiêu lần trong văn bản thuộc một lớp cụ thể?

Bernoulli Distribution:

Phù hợp khi tính năng là nhị phân (0 hoặc 1):

$$P(X|C_k) = \prod_{i=1}^{n} \left(P(x_i|C_k)^{x_i} \cdot (1 - P(x_i|C_k))^{1-x_i}\right)$$

• Suy nghĩ đơn giản: Những từ nào xuất hiện hay không xuất hiện trong văn bản?

Gaussian Distribution:

Sử dụng khi dữ liệu liên tục:

$$P(x_i|C_k) = \frac{1}{\sqrt{2\pi\sigma_k^2}} \exp\left(-\frac{(x_i - \mu_k)^2}{2\sigma_k^2}\right)$$

• Ở đây, (\mu_k) và (\sigma_k^2) là trung bình và phương sai của dữ liệu.

Hy vọng bạn đã có một cái nhìn thấu đáo về Naive Bayes. Và khi nào cần một phiên bản AI mới mẻ và (thú vị, hay ho và đầy bất ngờ) hơn nữa, nhớ ghé thăm trituenhantao.io nhé!