Đến nay, Amazon Web Services là doanh nghiệp đi đầu trong cơ sở hạ tầng đám mây công cộng, dịch vụ mà doanh nghiệp có thể dựa vào để chạy phần mềm và lưu trữ dữ liệu từ xa. Microsoft, IBM và Google đều đang cạnh tranh với Amazon Web Services trong bối cảnh giới doanh nghiệp di chuyển khối lượng công việc của họ từ trung tâm dữ liệu truyền thống sang đám mây.

Chip Inferentia ra thị trường vào cuối năm 2019. Như nhiều dịch vụ khác của Amazon Web Services, khách hàng có thể thanh toán dựa trên mức độ họ sử dụng.

Có hai giai đoạn phổ biến trong công nghệ AI: Đào tạo AI bằng cách đưa cho chúng nhiều dữ liệu, sau đó hiển thị cho AI dữ liệu mới mà nó có thể dùng để chạy dự đoán. Từ năm 2016, Google đã giới thiệu chip TPU cạnh tranh với Nvidia trong việc đào tạo mô hình AI. Inferentia hiện chỉ tập trung vào suy luận. Amazon cho rằng một số công việc suy luận đòi hỏi cả bộ xử lý đồ họa vốn rất đắt đỏ. “Giải quyết thử thách này với chi phí thấp đòi hỏi một chip suy luận chuyên dụng", Amazon cho hay.

Đầu tuần này, Amazon Web Services công bố chip dựa trên ARM, là sự thay thế cho bộ xử lý tính toán truyền thống từ các hãng sản xuất chip như Intel. Chip loại này tập trung vào khối lượng công việc tính toán tiết kiệm năng lượng, chi phí thấp. (thanhnien)