AI PU là gì? Những điều bạn cần biết về Bộ xử lý AI
Nhiều thiết bị thông minh, thiết bị IoT bạn mua sẽ được hỗ trợ bởi một số dạng của Trí tuệ nhân tạo (AI) – có thể là trợ lý giọng nói, camera nhận dạng khuôn mặt hoặc thậm chí là PC của bạn. Tuy nhiên, chúng không hoạt động thông qua… phép thuật và cần một thứ gì đó để cung cấp sức mạnh cho tất cả quá trình xử lý dữ liệu mà chúng thực hiện. Đối với một số thiết bị có thể được thực hiện trên đám mây, bởi các trung tâm dữ liệu rộng lớn. Các thiết bị khác sẽ tự thực hiện tất cả quá trình xử lý của chúng trên thiết bị thông qua Bộ xử lý AI hay AI PU.
Nhưng Bộ xử lý AI là gì? Và nó khác với các loại chip khác mà bạn có thể tìm thấy trong một thiết bị như thế nào? Bài viết này sẽ nêu bật tầm quan trọng của Bộ xử lý AI, các loại chip AI khác nhau được sử dụng cho các ứng dụng khác nhau và lợi ích của việc sử dụng AI PU trong thiết bị.
Các bộ vi xử lý khác và lý do tại sao chúng không tốt nhất cho AI
Vào những năm 1980, chúng ta đã chứng kiến sự trỗi dậy của máy tính cá nhân. Sự gia tăng này được kích hoạt bởi CPU (đơn vị xử lý trung tâm) thực hiện các hoạt động cơ bản về số học, logic, điều khiển và đầu vào / đầu ra được chỉ định bởi các lệnh trong chương trình. Nó là bộ não của máy tính của bạn. Đã có một số gã khổng lồ trong lĩnh vực CPU mà chúng ta đều biết bao gồm Intel và AMD.
Tuy nhiên, khi nói về sự tiến hóa trong CPU, chúng ta cũng phải đề cập đến ARM, với kiến trúc chip bắt đầu từ những năm 1980 trong máy tính cá nhân, nhưng không trở thành người chơi thống trị cho đến khi sự nổi lên của điện toán di động, điện thoại thông minh và ở mức độ thấp hơn là máy tính bảng . Đến năm 2005, 98% tổng số điện thoại di động được bán ra đang sử dụng ít nhất một số dạng kiến trúc ARM. Trong năm 2013, 10 tỷ chiếc đã được sản xuất và chip dựa trên ARM được tìm thấy trong gần 60% thiết bị di động trên thế giới. ARM là một phần quan trọng của không gian chip AI, mà chúng ta sẽ nói đến sau.
Sau đó, vào những năm 1990, đồ họa 3D thời gian thực ngày càng trở nên phổ biến trong các trò chơi arcade, máy tính và bảng điều khiển, dẫn đến nhu cầu ngày càng tăng về đồ họa 3D tăng tốc phần cứng. Tuy nhiên, một gã khổng lồ phần cứng khác là NVIDIA đã vươn lên để đáp ứng nhu cầu này với GPU (bộ xử lý đồ họa), chuyên về đồ họa máy tính và xử lý hình ảnh. NVIDIA gần đây đã công bố thỏa thuận mua ARM với giá 40 tỷ USD.
>>> Xem thêm: ram hpe 32gb
Bộ xử lý AI – AI PU
Mặc dù GPU thường tốt hơn CPU khi nói đến xử lý AI, nhưng chúng không thực sự hoàn hảo. Ngành công nghiệp cần các bộ xử lý chuyên biệt để cho phép xử lý hiệu quả các ứng dụng AI, mô hình hóa và suy luận. Do đó, các nhà thiết kế chip hiện đang làm việc để tạo ra các đơn vị xử lý được tối ưu hóa để thực thi các thuật toán này. Chúng có nhiều tên gọi, chẳng hạn như NPU, TPU, DPU, SPU, v.v., nhưng tất cả chúng có thể gọi chung bằng thuật ngữ Bộ xử lý AI (AI Processing Unit hay AI PU).
AI PU được tạo ra để thực thi các thuật toán học máy, thường bằng cách hoạt động trên các mô hình dự đoán như mạng nơ-ron nhân tạo. Chúng thường được phân loại là đào tạo hoặc suy luận vì các quá trình này thường được thực hiện độc lập.
Một số ứng dụng chúng ta đã thấy trong thế giới thực:
Giám sát hệ thống hoặc khu vực khỏi các mối đe dọa như hệ thống bảo mật liên quan đến nhận dạng khuôn mặt thời gian thực (cam IP, camera cửa, v.v.)
Chatbots dành cho bán lẻ hoặc doanh nghiệp tương tác với khách hàng
Xử lý ngôn ngữ tự nhiên cho trợ lý giọng nói
Bộ xử lý AI và GPU
Nhưng khoan, một số người có thể sẽ thắc mắc – không phải là GPU đã có khả năng thực thi các mô hình AI rồi sao? Vâng, đó là sự thật. Trên thực tế, GPU có nhiều ưu điểm cho việc xử lý các mô hình AI.
GPU xử lý đồ họa, 2D hoặc 3D, và do đó nó yêu cầu phải xử lý song song nhiều chuỗi hàm cùng một lúc. Mạng nơ-ron AI cũng đòi hỏi quá trình xử lý song song, vì chúng có các nút phân nhánh giống như nơ-ron trong não động vật. GPU làm rất tốt phần này.
Tuy nhiên, mạng nơ-ron cũng yêu cầu các phép tích chập và đây là lúc GPU gặp khó khăn. Nói tóm lại, GPU về cơ bản được tối ưu hóa cho đồ họa, không phải mạng nơ-ron – chúng đóng vai trò thay thế là tốt nhất.
Một yếu tố quan trọng khác cần được tính đến là tốc độ phát triển AI ngày càng nhanh ở thời điểm hiện tại. Các nhà nghiên cứu và nhà khoa học máy tính trên khắp thế giới đang liên tục nâng cao các tiêu chuẩn của AI và học máy với tốc độ cấp số nhân mà sự tiến bộ của CPU và GPU, với tư cách là phần cứng hoàn hảo, không thể theo kịp.
Định luật Moore nói rằng số lượng bóng bán dẫn trong một mạch tích hợp dày đặc (IC) tăng gấp đôi sau mỗi hai năm. Nhưng Định luật Moore đang chết dần, và ngay cả khi nó ở mức tốt nhất cũng không thể theo kịp tốc độ phát triển của AI.
Khả năng tăng tốc của AI cuối cùng sẽ dựa vào một bộ tăng tốc AI chuyên dụng, chẳng hạn như AI PU. AI PU thường được yêu cầu cho các mục đích sau:
Tăng tốc tính toán các tác vụ Học máy lên nhiều lần (gần 10 nghìn lần) so với GPU
Tiêu thụ năng lượng thấp và cải thiện việc sử dụng tài nguyên cho các tác vụ Học máy so với GPU và CPU
>>> Xem thêm: linh kiện máy chủ chính hãng
CÁC THÀNH PHẦN CỦA AI SOC
Trong khi AI PU tạo nên bộ não của Hệ thống AI trên chip (SoC), nó chỉ là một phần của chuỗi các thành phần phức tạp tạo nên chip. Ở đây, chúng ta sẽ phân tích AI SoC, các thành phần được ghép nối với AI PU và cách chúng hoạt động cùng nhau.
NPU
Như đã trình bày ở trên, đây là đơn vị xử lý thần kinh hoặc công cụ nhân ma trận nơi các hoạt động cốt lõi của AI SoC được thực hiện. Chúng tôi đã đi vào rất nhiều chi tiết ở đó, nhưng cần phải chỉ ra rằng đối với các nhà sản xuất chip AI, đây cũng là nước sốt bí mật về nơi bất kỳ SoC AI nào nổi bật so với tất cả các SoC AI khác; giống như một hình mờ về khả năng thực tế của nhóm của bạn.
Controller
Đây là những bộ xử lý, thường dựa trên RISC-V (mã nguồn mở, được thiết kế bởi Đại học California Berkeley), ARM (được thiết kế bởi ARM Holdings) hoặc kiến trúc tập lệnh logic tùy chỉnh (ISA) được sử dụng để điều khiển và giao tiếp với tất cả các khối khác và bộ xử lý bên ngoài.
Để kiểm soát cục bộ hay không là một câu hỏi cơ bản được trả lời là tại sao con chip này được tạo ra, nó được sử dụng ở đâu và nó được sử dụng bởi ai; mọi nhà sản xuất chip cần phải trả lời những câu hỏi này trước khi quyết định câu hỏi cơ bản này.
SRAM
Đây là bộ nhớ cục bộ được sử dụng để lưu mô hình hoặc các đầu ra trung gian. Hãy coi nó giống như tủ lạnh nhà bạn. Mặc dù dung lượng lưu trữ của nó nhỏ, nhưng việc lấy đồ (trong trường hợp này là dữ liệu) hoặc đặt lại cực kỳ nhanh chóng và thuận tiện. Trong một số trường hợp sử dụng nhất định, đặc biệt liên quan đến AI tại biên, tốc độ đó rất quan trọng, giống như một chiếc ô tô cần phải phanh khi có người đi bộ đột ngột xuất hiện trên đường.
Bạn đưa vào chip bao nhiêu SRAM là quyết định dựa trên chi phí và hiệu suất. SRAM Pool lớn hơn yêu cầu chi phí trả trước cao hơn, nhưng có ít lượt đi đến DRAM hơn (là bộ nhớ điển hình, chậm hơn, rẻ hơn mà bạn có thể tìm thấy trên bo mạch chủ hoặc như một thanh cắm vào bo mạch chủ của PC để bàn) nên nó tự chi trả cho chính nó về lâu dài.
Mặt khác, một SRAM Pool nhỏ hơn có chi phí trả trước thấp hơn, nhưng yêu cầu nhiều chuyến đi đến DRAM hơn; điều này kém hiệu quả hơn, nhưng nếu thị trường yêu cầu một con chip giá cả phải chăng hơn là cần thiết cho một trường hợp sử dụng cụ thể, thì có thể phải cắt giảm chi phí ở đây.
Tốc độ xử lý là sự khác biệt giữa nhóm SRAM lớn hơn và nhóm nhỏ hơn, giống như RAM ảnh hưởng đến hiệu suất máy tính của bạn và khả năng xử lý các nhu cầu về hiệu suất.
Công ty cổ phần thương mại Máy Chủ Hà Nội
- Trụ sở Hà Nội: Tầng 1,2,4 - Tòa nhà PmaxLand số 32 ngõ 133 Thái Hà - Q. Đống Đa
Hotline mua hàng Hà Nội: 0979 83 84 84 Điện thoai: 024 6296 6644
- CN Hồ Chí Minh: Lầu 1- Tòa nhà 666/46/29 Đường 3/2- Phường 14 - Quận 10
Hotline mua hàng Hồ Chí Minh: 0945 92 96 96 Điện thoai: 028 2244 9399
- Email: hotro@maychuhanoi.vn
- website: https://maychuhanoi.vn/
- facebook: https://www.facebook.com/maychuhanoi
Đính kèm hình: chothuemaychuserver.jpg (10/12/2022 11:28:58, 368.89 KB) / Lượt tải về 0
| © Copyright 2011-2013 iSoftco®, All rights reserved Văn phòng công ty: P.16/706, Tòa nhà Thành Công, 57 Láng Hạ, phường Thành Công, quận Ba Đình, Hà Nội Tel: (84-4) 37 875018;(84-4) 3555 8604 | Fax: (84-4) 37 875017 | E-Mail: cho24h@isoftco.com |