Hiện nay, mạng trung tâm dữ liệu đang đối mặt với nhiều áp lực lớn để xử lý dữ liệu ngày càng mở rộng và việc sử dụng kiến trúc dịch vụ nhỏ gọn (microservices) cho các ứng dụng hiện đại. Nhưng sự ra đời của trí tuệ nhân tạo - cả cho việc huấn luyện mô hình thần kinh và cho việc suy diễn điều khiển ứng dụng - thực sự đã gây rối toàn bộ hệ thống.

Tất cả vấn đề đương nhiên đều mang lại cơ hội, và để hiểu rõ hơn về mạng trung tâm dữ liệu và cách trí tuệ nhân tạo đang buộc kiến trúc hệ thống và mạng phải tái suy nghĩ việc làm của họ cho công việc với khối lượng công việc khác biệt này, chúng tôi đã trò chuyện với Achyut Shah, Phó chủ tịch cấp cao và Tổng quản lý Đơn vị Kết nối tại Marvell, nhà sản xuất bán dẫn.

Các động cơ xử lý làm việc trên trí tuệ nhân tạo - thường là GPU nhưng đôi khi là các mạch ASIC tùy chỉnh - rất nhanh, nhưng việc cung cấp dữ liệu để chúng có thể tiến hành xử lý lại là một vấn đề lớn.

"Nếu bạn so sánh một CPU từ những ngày xưa với một GPU hoặc một bộ tăng tốc hiện nay, hiệu năng xử lý thuần túy của nó ít nhất tăng một số lần so với một CPU cơ bản," Shah nói. "Vì vậy, theo định nghĩa, nó cần nhập dữ liệu nhanh hơn rất nhiều để xử lý khối lượng dữ liệu đó, sau đó cũng phải đẩy ra nhanh hơn rất nhiều. Bạn không chỉ thấy từng khối GPU sử dụng nhiều băng thông, mà bạn còn thấy nhiều khối như vậy trên một bo mạch và trong một cụm máy khi nói đến các mô hình ngôn ngữ lớn đang chạy. Các cụm máy chạy các khối công việc này có hàng trăm, đôi khi hàng nghìn và có thể lên đến hàng chục nghìn GPU. Và con số này chỉ càng tăng lên trong tương lai."

Rõ ràng, điều đó có nghĩa là một loạt các công nghệ, từ các mạch ASIC trong các công tắc mạng đến các bộ chuyển đổi trên máy chủ và đến các bộ khuếch đại trên cáp mạng, ... tất cả đều phải được nâng cấp và hoạt động cùng nhau.

Marvell là một trong số ít nhà cung cấp trên Trái đất có thể làm tất cả những việc này liên quan đến mạng trung tâm dữ liệu, và Shah đặt ra từ trên xuống dưới cách mà Marvell có thể đáp ứng nhu cầu độ trễ thấp và băng thông cao mà các khối công việc trí tuệ nhân tạo yêu cầu - và những yêu cầu này có thể tăng với tốc độ mũ cho những năm tiếp theo.

Nội dung này được tài trợ bởi Marvell.

Đăng ký nhận bản tin của chúng tôi Đăng ký ngay