GELU

Gaussian Error Linear Unit. Một hàm kích hoạt được sử dụng chính trong các mô hình Transformers như BERT của Google và GPT-2 của OpenAI.

Bạn muốn trích dẫn bài này:
-----
"GELU," Trí tuệ nhân tạo, Ngày xuất bản: 28/12/2019, URL: https://trituenhantao.io/tu-dien-thuat-ngu/gelu/, Ngày truy cập: 08/04/2020.



Về trituenhantao.io

Trituenhantao.io là trang web chia sẻ thông tin, kiến thức, kinh nghiệm học tập và triển khai các chương trình và dự án sử dụng trí tuệ nhân tạo trên thế giới.
Xem tất cả các bài viết của trituenhantao.io →