Cùng với loạt nền tảng di động điện thoại thông minh tầm trung mới nhất của mình, Qualcomm đã đưa ra một thông báo thậm chí còn lớn hơn tại Ngày AI của mình ở San Francisco. Gã khổng lồ chip di động đang thực hiện một cuộc chơi khác cho các máy chủ, sau khi từ bỏ phạm vi Centriq vào năm 2018. Lần này, công ty đang tận dụng các công nghệ của mình trong lĩnh vực AI để bước chân vào cánh cửa điện toán đám mây. Con chip đầu tiên chúng tôi đặt tên là nền tảng Qualcomm Cloud AI 100.
Nền tảng Cloud AI 100 không phải là một gói đóng gói chip di động, nó là một thiết kế 7nm hoàn chỉnh cho các nhiệm vụ suy luận AI, thay vì đào tạo. Điều đó có nghĩa là con chip sẽ tạo ra những con số đi qua các mạng thần kinh thay vì được sử dụng để huấn luyện chúng. Điều này dường như đặt Qualcomm cạnh tranh trực tiếp với dòng Nvidia của Tesla T4 và chip suy luận TPU của Google Edge được thiết kế cho máy chủ và điện toán đám mây. Cũng giống như các đối thủ của mình, Qualcomm đã nhận ra rằng việc xử lý AI hiệu quả nhất không phải là được thực hiện trên CPU, GPU và FGPA, nhưng cần có bộ tăng tốc AI chuyên dụng.
Về hiệu năng, Qualcomm ước tính mức tăng hiệu suất AI cao hơn 50 lần so với khả năng của Snapdragon 855. Snapdragon 855 cung cấp khoảng 7TOPS hiệu suất, cho thấy Cloud AI 100 nằm trong phạm vi 350TOPS. Điều đó chắc chắn sẽ mang lại cho Nvidia xông T4 một khoản tiền. Qualcomm tin rằng họ cũng có lợi thế về hiệu suất trên mỗi watt, tự hào với sự cải thiện gấp 10 lần so với các giải pháp suy luận AI tiên tiến nhất trong ngành được triển khai ngày nay. Khi bạn tấn công số lượng lớn, hiệu quả năng lượng có thể tiết kiệm cho các công ty một khoản tiền lớn trong hóa đơn tiền điện. Ngoài ra, Qualcomm muốn tận dụng chuyên môn của mình trong xử lý tín hiệu và 5G, vì vậy nền tảng đám mây của nó có thể hoạt động ở rìa trong các mạng có độ trễ rất thấp trong tương lai.
Khi được hỏi, Qualcomm sẽ nhận xét về việc kiến trúc được sử dụng trong Cloud AI 100 là độc quyền hay được cấp phép từ nơi khác. Tôi tự hỏi liệu đây có phải là sự xuất hiện đầu tiên của kiến trúc Arm Arm Trillium AI, cũng được thiết kế đặc biệt cho khối lượng công việc suy luận với ngân sách năng lượng thấp. Nhưng đủ suy đoán, Qualcomm nói rằng họ sẽ chia sẻ thêm thông tin về kiến trúc AI của mình trong tương lai.
Cuối cùng, để hỗ trợ các nhà phát triển QualcommTHER Cloud AI 100 hoạt động với hầu hết, nếu không nói là tất cả, các ngăn xếp phần mềm hàng đầu trong ngành. Có hỗ trợ cho các bộ khung Caffe, Keras, mxnet, TensorFlow, PaddlePbag và Bộ công cụ nhận thức, cùng với các thời gian chạy Glow, OnnX và XLA.
Qualcomm Cloud AI 100 dự kiến sẽ bắt đầu lấy mẫu cho khách hàng trong
