Các mô hình seq2seq sẽ trở nên mạnh mẽ hơn nếu được trang bị cơ chế sao chép. Các mô hình này được tác giả gọi là CopyNet. Ý tưởng của chúng khá rõ ràng, trong các bản dịch máy, các từ mang tính thuật ngữ hoặc tên riêng sẽ được giữ nguyên gốc. Trong … Đọc tiếp
Xử lý ngôn ngữ tự nhiên (NLP) là một nhánh của Trí tuệ nhân tạo. Trong bài này, chúng tôi sẽ giới thiệu những vấn đề cơ bản của nó. Hãy cùng tìm hiểu nhé! Từ rất lâu, máy tính đã hoạt động thật sự hiệu quả với những kiểu dữ liệu được chuẩn hóa … Đọc tiếp
Trung tâm nghiên cứu của Google và Viện công nghệ Toyota đã cùng nhau xuất bản bài báo giới thiệu về một mô hình được coi là người kế vị của BERT, một mô hình hiệu quả hơn với số lượng tham số ít hơn nhiều. Mô hình này có tên là ALBERT (A Lite … Đọc tiếp
Có thể dịch là bộ ngữ liệu. Trong NLP, các đoạn văn bản thường được biểu diễn bởi các thành phần nhỏ hơn như từ, ký tự hoặc các biểu diễn trung gian. Vocabulary chứa toàn bộ các thành phần như vậy mà một mô hình ánh xạ trong bộ nhớ của nó. Vocabulary của … Đọc tiếp
Attention là một kỹ thuật hiện đại trong các mạng nơ ron nhân tạo. Kỹ thuật này đã chứng minh được tính hiệu quả trong các nhiệm vụ dịch máy hay xử lý ngôn ngữ tự nhiên. Nó cũng là một trong số những thành phần tạo nên đột phá trong các mô hình như … Đọc tiếp
Transformer là mô hình học sâu được giới thiệu vào năm 2017, được sử dụng chủ yếu trong lĩnh vực xử lý ngôn ngữ tự nhiên (NLP).
https://github.com/undertheseanlp/underthesea Underthesea – Vietnamese NLP Toolkit https://github.com/stopwords/vietnamese-stopwords Stop word trong tiếng Việt https://github.com/duydo/elasticsearch-analysis-vietnamese Vietnamese Analysis Plugin for Elasticsearch https://github.com/phuonglh/vn.vitk A Vietnamese Text Processing Toolkit https://github.com/coccoc/coccoc-tokenizer Tách từ tiếng Việt bởi Cốc cốc https://github.com/trituenhantaoio/CentralVietnamDataset Dataset phương ngữ miễn Trung
Bài viết này sẽ hướng dẫn bạn cách sử dụng BERT với thư viện PyTorch để fine-tuning (tinh chỉnh) mô hình một cách nhanh chóng và hiệu quả. Ngoài ra, bài viết sẽ chỉ cho bạn ứng dụng thực tế của transfer learning trong NLP để tạo ra các mô hình hiệu suất cao với … Đọc tiếp
Năm 2018, Google giới thiệu BERT, mô hình học sâu pre-trained lập kỷ lục với 11 kết quả state-of-the-art với các nhiệm vụ của Xử lý ngôn ngữ tự nhiên. Nó nhanh chóng nhận được sự quan tâm lớn của các nhà khoa học và công nghiệp trên toàn thế giới. Các công trình nghiên … Đọc tiếp