Khi các vấn đề về điện năng do trí tuệ nhân tạo (AI) gây ra ngày càng gia tăng, ngành công nghiệp bán dẫn đang tập trung phát triển công nghệ tiết kiệm năng lượng.

Theo Diễn đàn Kinh tế Thế giới (WEF), mức tiêu thụ điện năng do AI dự kiến sẽ tăng từ 260 TWh năm 2024 lên 500 TWh vào 2027. Các công ty bán dẫn đang huy động nhiều công nghệ đa dạng để tung ra các sản phẩm với hiệu suất năng lượng vượt trội, thách thức vị trí thống trị của NVIDIA trên thị trường chip.

TSMC, nhà sản xuất linh kiện bán dẫn theo hợp đồng lớn nhất thế giới, mới đây đã công bố công nghệ thiết kế chip sử dụng phần mềm AI giúp tăng hiệu suất năng lượng lên tới 10 lần. Công nghệ này được phát triển nhằm giải quyết lượng điện năng khổng lồ (1.200W/máy chủ) mà các chip AI hiện tại của NVIDIA tiêu thụ. TSMC tuyên bố: “Phần mềm AI chỉ mất 5 phút để xử lý công việc mà con người mất hai ngày.”

Các công ty thiết kế bán dẫn đang tập trung vào chip suy luận (inference) với hiệu suất năng lượng cao để cạnh tranh với NVIDIA. Các công ty khởi nghiệp như Groq cho biết chip của họ chỉ sử dụng ⅓ đến ⅙ lượng điện so với chip của NVIDIA. Điều này được cho là nhờ vào thiết kế độc đáo tích hợp bộ nhớ ngay trong chip thay vì tách rời. Tương tự, Positron đã ra mắt chip ‘Atlas’, chỉ tiêu tốn 33% điện năng so với chip H200. ARM (Công ty thiết kế IP của Anh), nổi tiếng với chip di động tiết kiệm, cũng đang mở rộng sang lĩnh vực máy chủ AI và dự kiến thị phần Bộ xử lý trung tâm (CPU) của trung tâm dữ liệu sẽ tăng lên 50% vào cuối năm nay.

Các tổ chức học thuật cũng góp phần vào xu hướng này. Đại học Bang Oregon đã phát triển một loại chip AI cải thiện hiệu suất năng lượng gấp sáu lần so với tiêu chuẩn công nghiệp hiện tại.

Thay vì phụ thuộc vào đám mây (máy chủ ảo) tốn kém năng lượng cho việc truyền dữ liệu giữa thiết bị và xử lý tại trung tâm dữ liệu, AI tích hợp xử lý dữ liệu ngay trên thiết bị. Giải pháp này có thể giúp giảm lượng điện tiêu thụ cho mỗi tác vụ AI từ 100 đến 1.000 lần.