GPU & CPU? Hiểu cách chọn bộ cách xử lý phù hợp cho khối lượng quá trình của

những nhà hàng đang phát triển khối hệ thống để chạy trọng lượng công việc AI cường độ cao mang hai lựa chọn để thực hiện công việc nhọc nhọc: kiến ​​trúc CPU (đơn vị xử lý trung tâm) cổ xưa hoặc GPU pipeline chuyên biệt. Số đông mỗi người đều hiểu rằng trong bối cảnh của khách hàng văn minh, chạy tuy vậy song phổ biến cân nặng quá trình học sâu là điểm mấu chốt của GPU. Dẫu thế, điều mật thiết là cần hiểu rõ giai đoạn không hề thiếu của những ứng dụng AI / học sâu và phương pháp tậu loại bộ cách xử lý phù hợp cho một khối lượng công việc nhất định.

CPU và GPU: cách chúng vận động

CPU được thiết kế để ưu ái tốc độ hoạt động cho các đo lường và tính toán tuần tự, điều đó cho phép chúng tiến hành những tập lệnh đa chủng loại. Lúc được giao đúng nghĩa vụ, CPU sẽ triển khai sở hữu tốc độ nhanh chóng nổi bật, được đo bằng tốc độ xung nhịp. Thời nay, CPU vẫn là phần cốt lõi của bất cứ thiết bị máy vi tính nào. Nó xử lý những chỉ dẫn cơ bản & chi phối những tác vụ tinh vi hơn cho các chip chi tiết khác bên trên bo mạch chủ. Để ý rằng GPU không thể sửa chữa thay thế cho CPU.

>>> Xem thêm: bán máy trạm HP Z640 tại Hà Nội

GPU được lạm dụng quá lúc nào?

GPU tuyệt vời để giải pháp xử lý tuy nhiên song & đã bị được ưu tiên để đào tạo và huấn luyện các mô hình AI: chúng hoàn toàn hợp với nhu cầu của một quy trình yên cầu những chuyển động gần như giống hệt nhau được thực hiện đồng thời cùng lúc bên trên tất cả những cái dữ liệu. Size tập độc ác liệu đang tăng gần như theo cấp số nhân và sự tuy nhiên song lớn được cung ứng bởi GPU dẫn đến việc tiến hành các tác vụ này một cách nhanh hơn.

GPU có phong cách thiết kế để vượt trội trong số ứng dụng nhu yếu xử trí phổ biến phép tính tuy nhiên song, đó là tỷ lệ áp đảo của những ứng dụng AI doanh nghiệp:

• Học sâu được bức tốc và các vận động AI có đầu vào ác ôn liệu tuy vậy song to
• các thuật toán suy luận và đào tạo và huấn luyện AI truyền thống
• Mạng nơ-ron cổ điển
  

nói tóm lại, lúc nhu cầu sức khỏe giám sát và đo lường thô để cách xử lý độc ác liệu không có cấu trúc hoặc nhiều phần đồng nhất nhau, thì GPU là cách giải quyết được ưu tiên.

Lấy ví dụ như GPU A100 mới của Nvidia. A100 mang GPU 7nm trước tiên của NVIDIA, GA100. GPU này được thiết bị 6912 nhân CUDA và 40GB bộ nhớ HBM2. GPU này cũng nằm trên thẻ trước tiên với giao diện PCIe 4.0 bên cạnh form factor SXM4 chuyên biệt & nó cũng nhanh chóng không hề thua kém. Vì bản PCIe mang mức tiêu thụ điện năng thấp hơn (250W so với 400W trong bản SXM4), buộc phải hiệu suất sẽ bớt 10%. Mặc dù thế, điều này nhanh chóng được thu lại nhờ tiền bạc điện năng và làm mát tốt hơn. Bộ xử lý đồ họa GA100 là 1 trong những chip lớn mang diện tích S khuôn 826 mm² và 54,2 tỷ bóng bán dẫn. Nó mang 6912 đơn vị tô bóng, 432 đơn vị ánh xạ họa tiết & 160 ROP. Mặt khác còn có 432 lõi tensor, giúp nâng cao vận tốc của các ứng dụng học máy. NVIDIA đã ghép nối bộ nhớ lưu trữ HBM2E 40 GB mang A100 SXM4, được kết nối bằng giao diện bộ nhớ 5120-bit. GPU vận động ở tần số 1410 MHz và bộ nhớ chạy ở tần số 1215 MHz. A100 đc tối ưu hóa cho các chuyển động tensor, bao hàm những định dạng TF32 & FP64 mới mang độ đúng chuẩn cao hơn và các phép tính 8-bit với độ đúng đắn tốt hơn để suy luận.

GPU A100 nhận đc lợi thế 250% so với GPU Volta 12nm trước đấy của nó ở hiệu suất dấu chấm động chính xác kép tối đa. Trong khối lượng quá trình của HPC, vận tốc tiến hành dao động trong khoảng 1,5 lần đến 2,1 lần đối với phiên bản nhiệm kỳ trước đó.

GPU đã khởi phát đáng chú ý so với 30 năm kia, khi chúng đc lạm dụng cơ bản trong máy tính cá nhân. Lúc hiệu suất & tỷ lệ không giảm giảm xuống, nó đã thay đổi thành những máy trạm chuyên nghiệp hóa, kế tiếp đến những máy chủ và hiện giờ thành những rét mướt đỡ cơ sở hung liệu. Lúc càng ngày càng có nhiều ứng dụng chạy bên trên đám mây và trung tâm tàn ác liệu, thì GPU sẽ trở thành một nhân tố cần thiết của kiến ​​trúc & khối hệ thống. Sức mạnh GPU tăng thêm được biểu thị qua GPU Nvidia A100, mà thậm chí được tạo thành 7 bản đơn lẻ (GPU đa phiên bản) để mà thậm chí thúc đẩy việc sử dụng quá cách xử lý GPU được nâng cấp và cung cấp rộng rãi trọng lượng các bước không giống nhau trong cơ sở hung tàn liệu.

>>> Xem thêm: bán bo mạch chủ ibm x3650 m4

CPU được sử dụng lúc nào?

tình huống lạm dụng quá cho các CPU trong tầm quan trọng AI công ty hẹp hơn và chuyên biệt hơn. Các tác vụ có tương đối nhiều thuật toán khó chạy song song có thể phù hợp hơn có CPU, bao gồm:

• giảng dạy và suy luận các hệ thống gợi nhắc có nhu cầu bộ lưu trữ to hơn cho nhiều layers phía bên trong.
• Máy học & những thuật toán suy luận số giờ thực không thuận lợi tuy vậy song hóa
• Mạng nơ-ron lặp lại dựa trên dữ liệu tuần tự
• những loại hình dòng hung tàn liệu form size lớn, bao gồm ác ôn liệu 3D để đào tạo và huấn luyện & suy luận
  

CPU phù hợp hơn với các tác vụ sử dụng các thuật toán tuần tự & để triển khai các phép tính thống kê tinh vi, mặc dù thế các loại tác vụ này ít thịnh hành hơn trong số phần mềm AI siêu thị thời buổi này. Đa số những doanh nghiệp thích tốc độ & kết quả của GPU hơn là sự trình độ chuyên môn hóa của CPU. Mặc dù thế, có những nhà nha khoa độc ác liệu đang suy xét lại về cách các thuật toán AI được khởi phát, có tác dụng dựa vào lô ghích (xử lý nối tiếp) hơn là giám sát và đo lường thống kê.

CPU là phần tử dẫn dắt của toàn khối hệ thống, được thiết kế với đặc trưng để được cho phép nó lập kế hoạch & thực thi lập lịch cho tất cả những thành phần hệ thống và tốc độ xung nhịp của những core. Điều ấy giúp chúng thực hiện giỏi những bài toán đơn, tinh vi trong khoảng time ngắn. Lúc thực hiện không ít tác vụ nhỏ cùng một thời gian, ví dụ như hiển thị 300.000 hình tam giác & tự động chuyển đổi chúng theo yêu cầu, những CPU ban đầu biểu thị những hạn chế của chúng, đặc biệt là trong các giám sát và đo lường mạng nơ-ron ResNet.

con số lõi trong một bộ cách xử trí đang không giảm giảm xuống. Những bộ xử lý này trong một bộ xử trí sở hữu từ 2 đến 64 lõi. AMD Ryzen Threadripper 3970X sở hữu 32 lõi có khả năng xử lý 64 luồng. AMD Epyc 7702 có 64 lõi & 128 luồng. Tiện ích của việc có tương đối nhiều lõi là hệ thống có thể cách xử lý đa dạng luồng hung liệu hoặc luồng đơn lẻ chạy tự do sở hữu nhau. Bản vẽ xây dựng này làm gia tăng đáng chú ý khoáng sản & hiệu suất của một hệ thống đang làm việc các phần mềm đồng thời & phổ biến tác vụ trong cơ sở độc ác liệu. Ngày càng có nhiều nhà phát triển tò mò sự phức hợp của việc viết mã để triển khai trong số môi trường điện toán đa luồng, ảo hóa & chứa trong môi trường xung quanh tuy nhiên song.

>>> Xem thêm: mua may chu supermicro2029u