Seq2Seq – Hiểu về mô hình Encoder-Decoder

Lần này, trituenhantao.io sẽ cung cấp cho bạn một bài giải thích ngắn gọn và cô đọng về mô hình seq2seq sử dụng encoder (bộ mã hóa) decoder (bộ giải mã). Lớp các mô hình này đã mang đến những kết quả rõ nét trong các nhiệm vụ phức tạp như dịch máy, chú thích video, hỏi đáp, v..v..

Ghi chú: Trong bài này, các từ mang tính chất thuật ngữ được giữ nguyên để các bạn tiện tra cứu thêm thông tin.

Để có thể hiểu về cách thức hoạt động của lớp mô hình seq2seq, chúng ta cùng nhìn vào hình vẽ dưới đây.

Kiến trúc của mô hình encoder-decoder seq2seq

Mô hình điển hình thuộc lớp này bao gồm 3 phần: bộ mã hóa (Encoder), véc tơ mã hóa trung gian (Encoder vector) và bộ giải mã (Decoder).

Bộ mã hóa – Encoder

  • Một ngăn xếp chứa các mạng con là phần tử của RNN (hoặc các ô nhớ của LTSM hay GRU) nơi nhận vào tín hiệu của một phần tử của chuỗi đầu vào và truyền tiếp về phía cuối mạng.
  • Trong bài toán hỏi đáp, chuỗi đầu vào là tập hợp tất cả các từ của câu hỏi. Mỗi từ được thể hiện bởi x_i với i là thứ tự của từ đó.
  • Các trạng thái ẩn h_i được tính với công thức:

Công thức đơn giản này mô tả kết quả của một mạng nơ ron hồi quy (RNN) thông thường. Như chúng ta có thể thấy, các trạng thái ẩn được tính bởi đầu vào tương ứng (x_t) và trạng thái ẩn trước đó h_(t-1).

Véc tơ mã hóa trung gian – Encoder vector

  • Đây là trạng thái ẩn nằm ở cuối chuỗi, được tính bởi bộ mã hóa, nó cũng được tính bởi công thức phía trên.
  • Véc tơ này có chức năng gói gọn thông tin của toàn bộ các phần tử đầu vào để giúp cho bộ mã hóa dự đoán thông tin chính xác hơn.
  • Véc tơ này sau đó hoạt động như trạng thái ẩn đầu tiên của bộ giải mã.

Bộ giải mã – Decoder

  • Một ngăn xếp các mạng con là phần tử của RNN có nhiệm vụ dự đoán đầu ra y_t tại thời điểm t.
  • Mỗi phần từ này nhận đầu vào là trạng thái ẩn trước đó và tạo kết quả đầu ra cũng như trạng thái ẩn của chính nó.
  • Trong bài toán hỏi đáp, chuỗi đầu ra là tập hợp các từ của câu trả lời. Mỗi từ được biểu diễn bởi y_i với i là thứ tự của từ.
  • Các trạng thái ẩn h_i được tính bởi công thức:

Như chúng ta thấy, các trạng thái ẩn được tính bởi trạng thái ngay trước đó.

  • Đầu ra y_t tại thời điểm t được tính bởi công thức:

Chúng ta tính đầu ra sử dụng trạng thái ẩn tương ứng tại thời điểm hiện tại và nhân với trọng số tương ứng W(S). Softmax được sử dụng để tạo ra vec tơ xác suất giúp chúng ta xác định đầu ra cuối cùng (VD: các từ trong bài toán hỏi đáp).

Năng lực đặc biệt của mô hình này là nó có thể ánh xạ chuỗi đầu vào và chuỗi đầu ra có độ dài khác nhau. Vì thế, nó mở ra giải pháp cho một loạt các bài toán trong lĩnh vực này.

Hi vọng thông qua bài viết này các bạn đã hiểu thêm về mô hình seq2seq với kiến trúc sử dụng encoderdecoder. Hãy thường xuyên truy cập hoặc đăng ký nhận bản tin Trí tuệ nhân tạo (ở chân trang) để nhận được những bài viết cập nhật nhất về chủ đề này các bạn nhé!

Bạn muốn trích dẫn bài này:
-----
"Seq2Seq – Hiểu về mô hình Encoder-Decoder," Trí tuệ nhân tạo, Ngày xuất bản: 04/12/2019, URL: https://trituenhantao.io/kien-thuc/hieu-ve-mo-hinh-encoder-decoder-seq2seq/, Ngày truy cập: 20/10/2020.



Về trituenhantao.io

Trituenhantao.io là trang web chia sẻ thông tin, kiến thức, kinh nghiệm học tập và triển khai các chương trình và dự án sử dụng trí tuệ nhân tạo trên thế giới.
Xem tất cả các bài viết của trituenhantao.io →