Ảnh hưởng của hàm kích hoạt đến mô hình mạng nơron tích chập

Bài viết đề cập đến tầm quan trọng của việc lựa chọn hàm kích hoạt phù hợp khi huấn luyện CNN. Chúng tôi so sánh các hàm kích hoạt cơ bản và các hàm kích hoạt được đề xuất trong một số nghiên cứu gần đây.

Từ khóa: Hàm kích hoạt, Mạng nơron tích chập, Huấn luyện CNN, Phương pháp học sâu, Hàm Leaky ReLU