LoRA là gì? Finetune Transformer với LoRA

LoRA là gì? Có thể bạn đã nghe đến thuật ngữ này nhiều lần. Nó thực sự là một khái niệm quan trọng nếu bạn muốn finetune GPT. Trong bài viết này, hãy cùng trituenhantao.io tìm hiểu về phương pháp fine-tuning LoRA (viết tắt của “Low-Rank Adaptation of Large Language Models”). Đầu tiên, hãy bắt … Đọc tiếp

Bài 3: Linear Regression (Hồi quy tuyến tính)

Giới thiệu Trong bài trước, chúng ta đã tìm hiểu về các thuật toán Machine Learning cơ bản. Bài này chúng ta sẽ tìm hiểu về một trong những thuật toán phổ biến nhất trong Machine Learning – Linear Regression (Hồi quy tuyến tính). Linear Regression được ứng dụng rộng rãi trong nhiều lĩnh vực, … Đọc tiếp

Giải thuật Simulated Annealing trong tối ưu hoá

Simulated Annealing xuất phát từ khái niệm annealing trong vật lý, giúp tăng kích thước tinh thể và giảm khiếm khuyết từ việc đun nóng và làm nguội đột ngột tinh thể. Đây là lý do mà đôi khi giải thuật này được gọi là Giải thuật mô phỏng luyện kim. Giải thuật này được … Đọc tiếp

Fine-tune ChatGPT: Tối ưu hóa AI cho ứng dụng của bạn

OpenAI đã công bố việc ra mắt fine-tuning cho mô hình GPT-3.5 Turbo (gọi tắt là fine-tune ChatGPT), và dự kiến sẽ hỗ trợ cho GPT-4 vào mùa thu này. Fine-tuning giúp các nhà phát triển tùy chỉnh mô hình để có hiệu suất tốt hơn cho các ứng dụng của họ và hoạt động … Đọc tiếp

Dịch Văn Bản Tự Động Sử Dụng Mô Hình T5

Dịch văn bản (translation) chuyển đổi một chuỗi văn bản từ một ngôn ngữ này sang ngôn ngữ khác. Đây là một trong nhiều nhiệm vụ mà bạn có thể định hình như là một vấn đề sequence-to-sequence (chuỗi đầu vào sang chuỗi đầu ra), một framework mạnh mẽ cho việc trả về output từ … Đọc tiếp

Giới thiệu ngắn gọn về tính toán lượng tử

Trong thế giới công nghệ hiện đại ngày nay, tính toán lượng tử đang là một chủ đề nóng. Với tiềm năng thay đổi hoàn toàn cách chúng ta giải quyết các vấn đề tính toán phức tạp và bảo mật thông tin, chủ đề này đang trở thành một lĩnh vực nghiên cứu quan … Đọc tiếp