Chọn GPU cho Deep learning

GPU là phần cứng không thể thiếu cho Deep learning. Mạng nơ ron nhân tạo quay trở lại sau nhiều năm vắng bóng cũng một phần nhờ có sự ra đời của GPU. Vậy thì làm thế nào để chọn được GPU phù hợp? Thực tế, cho dù hiện giờ bạn sử dụng các môi trường có sẵn như Google Colab, việc hiểu biết về GPU cũng giúp ích rất nhiều cho bạn trong việc phát triển sự nghiệp của mình gắn với tương lai rất dài phía trước của Trí tuệ nhân tạo.

Sự ra đời của GPU

Chúng ta đều biết, CPU có vai trò chính trong việc tính toán của máy tính. Mặc dù vậy, việc tính toán ma trận trên một lượng dữ liệu lớn khiến CPU phải vật lộn và sử dụng rất nhiều tài nguyên. Điều này khiến việc xử lý đồ họa là một thách thức lớn. Với sự phát triển của game 3D, xuất hiện một nhu cầu về một đơn vị phần cứng thực hiện nhanh các phép tính ma trận. GPU ra đời đáp ứng nhu cầu đó.

GPU được phát triển để xử lý nhiều tính toán song song bằng cách sử dụng hàng ngàn lõi với băng thông lớn. Khả năng tính toán ma trận với tốc độ cao của GPU là điều kiện tiên quyết để Deep Learning quay trở lại sau một thời gian dài bị quên lãng.

Lựa chọn GPU trên những thông số nào?

Vậy thì, để có thể lựa chọn được GPU, chúng ta cần quan tâm đến những thông số nào? Có một vài thông số của GPU liên quan đến việc thực hiện các phép tính của Deep Learning bao gồm:

  • Băng thông bộ nhớ (Memory bandwidth) – như đã thảo luận ở trên, thống số này là thông số quan trọng nhất, liên quan đến khối lượng dữ liệu mà GPU xử lý được.
  • Sức mạnh tính toán (Processing power) – cho biết tốc độ xử lý của GPU. Thông số này được tính bằng số lõi CUDA nhân với tốc độ xung nhịp của từng lõi.
  • Kích thước VRAM (Video RAM size) – nếu bạn đang làm việc với các mô hình Computer Vision hay các mô hình có lượng dữ liệu lớn, thông số này sẽ ảnh hưởng đến hiệu năng tính toán của GPU.

Các GPU hiện có trên thị trường

Dưới đây là biểu đồ so sánh các loại GPU hiện có trên thị trường mà bạn nên tham khảo:

So sánh các GPU trên thị trường dựa trên băng thông, sức mạnh tính toán và VRAM

Gợi ý dành cho bạn

Đọc đến đây chắc bạn đã có thể (hoặc chưa thể) chọn cho mình một GPU phù hợp. Mặc dù vậy, dù biết tất cả các thông số kỹ thuật trên thế giới cũng không tác dụng gì nếu như bạn không biết mình đang tìm kiếm điều gì. Dưới đây là các gợi ý dành cho bạn dựa trên ngân sách của mình:

Tôi có hơn $1000: Mua càng nhiều GTX 1080 Ti hoặc GTX 1080 càng tốt. Nếu bạn có 3 hoặc 4 GPU chạy trong cùng một hộp, hãy lưu ý vấn đề nguồn và tản nhiệt cho chúng.

Tôi có $700-$900: GTX 1080 Ti là lựa chọn phù hợp. Nếu bạn muốn đi có nhiều GPU, bạn có thể mua 2 bộ GTX 1070 hoặc GTX 1070 Ti.

Tôi có $400-$700: Mua GTX 1080 hoặc GTX 1070 Ti hoặc 2 bộ GTX 1060 nếu bạn thực sự cần 2 GPU. Tuy nhiên, 6 GB là giới hạn cho mỗi mô hình của bạn.

Tôi có $300-$400: GTX 1060 là khởi đầu tốt trừ khi bạn có thể tìm thấy GTX 1070 đã qua sử dụng.

Tôi có ít hơn $300: Tiết kiệm thêm tiền để mua GTX 1060. Trong lúc đó bạn có thể mượn GPU của Google trên Google Colab để chạy mô hình của mình.

Bạn muốn trích dẫn bài này:
-----
"Chọn GPU cho Deep learning," Trí tuệ nhân tạo, Ngày xuất bản: 21/06/2019, URL: https://trituenhantao.io/tin-tuc/chon-gpu-cho-deep-learning/, Ngày truy cập: 04/04/2020.



Về trituenhantao.io

Trituenhantao.io là trang web chia sẻ thông tin, kiến thức, kinh nghiệm học tập và triển khai các chương trình và dự án sử dụng trí tuệ nhân tạo trên thế giới.
Xem tất cả các bài viết của trituenhantao.io →