Ngày 4/4, Google - công ty con thuộc Tập đoàn Alphabet (Mỹ), đã tiết lộ những chi tiết mới về các siêu máy tính mà hãng này sử dụng để đào tạo các mô hình trí tuệ nhân tạo (AI) riêng, đồng thời nhấn mạnh những hệ thống này có tốc độ nhanh hơn và tiết kiện điện năng hơn so với các hệ thống tương đương của đối thủ công nghệ Nvidia Corp.
Google đã phát triển một mạch tích hợp dành riêng cho ứng dụng được gọi là Tensor Processing Unit (TPU). Đây là TPU thế hệ thứ tư của công ty này. Google sử dụng những con chip này cho hơn 90% hoạt động đào tạo AI của công ty, cũng như quy trình cung cấp dữ liệu qua các mô hình để khiến chúng trở nên hữu ích trong các công việc như giải đáp truy vấn bằng văn bản giống con người hoặc tạo hình ảnh.
Trong tập san khoa học được công bố cùng ngày, Google đã mô tả chi tiết cách thức kết nối hơn 4.000 chip lại với nhau để tạo thành một siêu máy tính, bằng cách sử dụng các công tắc quang học do chính họ phát triển để giúp kết nối các máy tính với nhau.
Ảnh: Coe.int
Việc cải thiện những kết nối trên là điểm mấu chốt trong cuộc cạnh tranh giữa các công ty sản xuất siêu máy tính AI, trong bối cảnh các mô hình tích hợp đa ngôn ngữ hỗ trợ các công nghệ vượt trội như Bard của Google hay chatbot ChatGPT của OpenAI đang phát triển trên quy mô lớn, đồng nghĩa quá lớn để lưu trữ trên một con chip đơn lẻ. Thay vào đó, các mô hình ngôn ngữ lớn đó được lưu trữ vào hàng nghìn con chip, sau đó tổng hợp lại trong nhiều tuần hoặc lâu hơn nữa để có thể đào tạo mô hình xử lý thông tin thông minh.
PaLM của Google - mô hình tích hợp nhiều ngôn ngữ nhất hiện nay - đã được huấn luyện trong hơn 50 ngày thông qua hai siêu máy tính chứa 4.000 chip.
Google nhấn mạnh các siêu máy tính của hãng khiến việc cấu hình lại kết nối giữa các chip trở nên nhanh chóng và dễ dàng hơn, giúp tránh được nhiều vấn đề cũng như điều chỉnh để tăng hiệu suất. Các siêu máy tính này có tốc độ xử lý nhanh gấp 1,7 lần và tiết kiệm điện năng hơn 1,9 lần so với hệ thống tương đương của tập đoàn Nvidia Corp được phát triển dựa trên chip A100 và đã có mặt trên thị trường cùng thời điểm TPU thế hệ thứ 4 ra đời.
Mặc dù chỉ mới tiết lộ các chi tiết về siêu máy tính, nhưng hệ thống vượt trội này đã được ứng dụng cho một trung tâm dữ liệu của Google kể từ năm 2020 tại hạt Mayes, bang Oklahoma ở Mỹ.
Google cho biết thêm rằng công ty khởi nghiệp (startup) Midjourney đã sử dụng siêu máy tính của Google để đào tạo mô hình của startup này, giúp tạo các hình ảnh mới dựa trên yêu cầu bằng một vài từ ngữ dưới dạng văn bản.
Tags