Gaussian Error Linear Unit. Một hàm kích hoạt được sử dụng chính trong các mô hình Transformers như BERT của Google và GPT-2 của OpenAI.
Bạn muốn trích dẫn bài này:
-----
« Quay trở lại Từ điển -----
"GELU," Trí tuệ nhân tạo, Ngày xuất bản: 28/12/2019, URL: https://trituenhantao.io/tu-dien-thuat-ngu/gelu/, Ngày truy cập: 07/06/2023.