Advertisement

Nhận bản tin

Liên hệ quảng cáo

Email: banbientap@baocungcau.net

Hotline: 0917 267 237

icon logo

Quên mật khẩu?

Có tài khoản? Đăng nhập

Vui lòng nhập mật truy cập tài khoản mới khẩu

Thay đổi email khác
icon

Tham vọng ChatGPT của Trung Quốc bị đe dọa do thiếu chip AI tiên tiến như GPU Nvidia A100

Số hóa

03/03/2023 07:40

Một kỹ sư cho biết việc tích hợp các GPU yếu hơn có thể giúp Trung Quốc đáp ứng được sức mạnh tính toán cần thiết cho các mô hình ngôn ngữ lớn, nhưng những thách thức về lâu dài vẫn còn.

Để đào tạo các mô hình ngôn ngữ lớn (LLM) cần thiết cho bot trí tuệ nhân tạo (AI) như ChatGPT, Trung Quốc có thể phải dựa vào số lượng hơn chất lượng trong các đơn vị xử lý đồ họa (GPU) sau khi bị Mỹ cắt đứt các chip tiên tiến nhất, doanh nhân và các kỹ sư trong nước nói.

Đề cập đến LLM là động cơ hơi nước của kỷ nguyên hiện đại, một doanh nhân công nghệ AI trong hội đồng của Hiệp hội Trí tuệ Nhân tạo Trung Quốc cho biết trong một cuộc hội thảo kín gần đây rằng Mỹ dẫn đầu Trung Quốc về sức mạnh điện toán chủ yếu nhờ lợi thế về GPU, có lợi thế duy nhất trong học máy so với các đơn vị xử lý trung tâm (CPU) do cách chúng sử dụng tính toán đồng thời.

"Chúng tôi không có thẻ mạnh như A100, nhưng chúng tôi có thể tập hợp các thẻ (GPU) kém mạnh hơn để giành chiến thắng về số lượng", doanh nhân này nói về chip trung tâm dữ liệu của Nvidia mà Mỹ đã chặn xuất khẩu sang Trung Quốc.

Tham vọng ChatGPT của Trung Quốc bị đe dọa do thiếu chip AI tiên tiến như GPU Nvidia A100 - Ảnh 1.

Cung cấp năng lượng cho các mô hình ngôn ngữ lớn tinh vi như mô hình đằng sau ChatGPT của OpenAI yêu cầu hàng chục nghìn đơn vị xử lý đồ họa thực hiện công việc nặng nhọc cho các máy chủ trí tuệ nhân tạo. Ảnh: Shutterstock

Giống như những người khác được trích dẫn trong câu chuyện này, ông yêu cầu không nêu tên vì tính nhạy cảm của chủ đề. "Tôi nghĩ rằng sức mạnh tính toán vẫn là một yếu tố rất quan trọng, mang tính quyết định để giành chiến thắng trong cuộc cạnh tranh sau này".

Kể từ khi ra mắt ChatGPT vào tháng 11 năm ngoái, được phát triển bởi công ty khởi nghiệp OpenAI do Microsoft hậu thuẫn, mức độ phổ biến đáng kinh ngạc của chatbot đã gây ra một cuộc chạy đua giữa các công ty Công nghệ lớn để phát triển các phiên bản sản phẩm AI chung của riêng họ.

Điều này đã mở rộng sang Trung Quốc, nơi công ty tìm kiếm internet Baidu, chủ sở hữu TikTok ByteDance, gã khổng lồ về truyền thông xã hội và trò chơi điện tử Tencent Holdings, và gã khổng lồ thương mại điện tử Alibaba Group Holding, đều đã ngả mũ kính phục.

Tuy nhiên, các chuyên gia đã cảnh báo rằng Trung Quốc phải đối mặt với một số trở ngại lớn trong việc sản xuất một sản phẩm như ChatGPT, sản phẩm này có thể bị cản trở bởi sự kiểm duyệt hoặc gia tăng các hạn chế đối với việc tiếp cận chất bán dẫn tiên tiến . Khi nói đến chip được sử dụng để đào tạo AI, GPU là thành phần chính.

Theo một lưu ý nghiên cứu từ TrendForce hôm thứ Tư, việc triển khai một số lượng lớn GPU hiệu suất cao giúp rút ngắn thời gian đào tạo AI tổng quát, vốn đòi hỏi phải sàng lọc lượng dữ liệu khổng lồ.

Tham vọng ChatGPT của Trung Quốc bị đe dọa do thiếu chip AI tiên tiến như GPU Nvidia A100 - Ảnh 2.

Biren Technology có trụ sở tại Thượng Hải cho biết hiệu năng của GPU BR100 của họ có thể sánh ngang với A100 của Nvidia, nhưng nó được sản xuất tại Đài Loan. Ảnh: SCMP

Trong trường hợp mô hình biến áp được đào tạo trước tổng quát (GPT) cung cấp năng lượng cho ChatGPT, số lượng tham số đào tạo đã tăng từ khoảng 120 triệu vào năm 2018 lên gần 180 tỷ vào năm 2020, TrendForce ước tính.

"Số lượng GPU cần thiết để thương mại hóa mô hình GPT (hay ChatGPT) dự kiến sẽ đạt trên 30.000", công ty cho biết trong ghi chú, đồng thời đưa ra ước tính giả định việc sử dụng A100 của Nivida.

CPU và GPU tiên tiến của các nhà phát triển hàng đầu Intel, AMD và Nvidia được sử dụng rộng rãi trong số các nhà cung cấp dịch vụ đám mây AI của Trung Quốc.

Vào tháng 8/2022, Washington đã cấm Nvidia bán A100 và các GPU trung tâm dữ liệu H100 mạnh mẽ hơn của họ cho các khách hàng ở Trung Quốc mà không có giấy phép, như một phần trong nỗ lực lớn hơn do Hoa Kỳ dẫn đầu nhằm giảm khả năng tiếp cận của Trung Quốc với các chip tiên tiến.

Nvidia sau đó cho biết họ có một dòng sản phẩm thay thế với thông số kỹ thuật thấp hơn dành cho khách hàng Trung Quốc. Điều này bao gồm A800, hiệu suất của nó đã được hạ thấp để đáp ứng các yêu cầu xuất khẩu.

Con chip đó có đủ sức mạnh tính toán để đáp ứng nhu cầu của hầu hết khách hàng, theo giám đốc bán hàng tại Sitonholy, một đối tác của Nvidia tại Trung Quốc chuyên cung cấp các giải pháp cho máy chủ AI và các thiết bị điện toán công suất cao khác.

"Hệ sinh thái card GPU của Trung Quốc không đủ mạnh. Nhiều nhà cung cấp thẻ vẫn đang so sánh hiệu suất của các sản phẩm của họ với Nvidia V100", ông nói, đề cập đến GPU trung tâm dữ liệu mà công ty đã phát hành vào năm 2017.

Tham vọng ChatGPT của Trung Quốc bị đe dọa do thiếu chip AI tiên tiến như GPU Nvidia A100 - Ảnh 3.

Ảnh: CNBC

Ông nói thêm, ngay cả khi các nhà sản xuất chip Trung Quốc có thể thiết kế GPU phức tạp như A100, thì việc sản xuất chúng vẫn là một trở ngại khác do các lệnh trừng phạt hiện tại của Mỹ.

Một giám đốc tại Xi'an UnilC Semiconductors Co, một công ty con của tập đoàn chip Tsinghua Unigroup của Trung Quốc, cũng lưu ý những thách thức trong việc tiếp cận các công nghệ sản xuất chip tiên tiến.

"Tape-out có thể phải đối mặt với những hạn chế nếu sức mạnh tính toán của một số chip AI và GPU nhất định vượt quá giới hạn", ông nói hôm thứ Tư, đề cập đến quá trình chế tạo thử nghiệm trước khi sản xuất hàng loạt.

"Trước đây, Trung Quốc có cơ hội nâng cấp quy trình sản xuất chip của mình lên 5 nanomet hoặc 7 nanomet, nhưng những hạn chế đối với các công cụ tiên tiến khiến điều này trở nên rất khó khăn".

Vào tháng 10/2022, Mỹ đã tăng cường đáng kể các quy tắc kiểm soát xuất khẩu của mình với mục đích hạn chế hơn nữa khả năng tiếp cận của Trung Quốc đối với một số chất bán dẫn cao cấp và công cụ sản xuất chip tiên tiến có thể cho phép sản xuất chip tiên tiến trong nước.

Mỹ cũng sử dụng cái gọi là quy định cánh tay dài để ngăn các xưởng đúc sử dụng công nghệ có nguồn gốc từ Mỹ để sản xuất chip có thể thực hiện hơn 4.800 tera hoạt động mỗi giây cho khách hàng Trung Quốc.

Trung Quốc vẫn phụ thuộc rất nhiều vào phần mềm, công cụ và các công nghệ nhập khẩu khác để thiết kế và sản xuất chip trong nước, một sự phụ thuộc vào cả quy trình nút trưởng thành và tiên tiến khó giảm trong thời gian ngắn.

Tuy nhiên, việc phát triển GPU không phải là "ma thuật đen tối", vì vậy Trung Quốc có cơ hội bắt kịp các công nghệ giống như ChatGPT, một kỹ sư cấp cao của Nvidia cho biết.

Ông nói: "Nó chỉ chậm hơn một chút, nhưng khoảng cách tích lũy có thể tăng lên khá đáng kể".

GPU Nvidia A100 là gì?

Phần mềm có thể viết các đoạn văn bản hoặc vẽ tranh tương tự con người đã tạo ra một cơn sốt trong ngành công nghệ.

Microsoft và Google đang cạnh tranh trong việc đưa mô hình trí tuệ nhân tạo tối tân vào công cụ tìm kiếm. Trong khi đó, những startup tỉ USD như OpenAI hay Stability AI liên tục công bố phần mềm AI với nhiều tính năng đặc biệt.

Cung cấp sức mạnh cho những phần mềm này là một con chip trị giá 10.000USD đã trở thành một trong những công cụ quan trọng nhất trong ngành trí tuệ nhân tạo: Nvidia A100.

Nathan Benaich, một nhà đầu tư xuất bản bản tin và báo cáo về ngành AI, cho biết A100 đã trở thành "ngựa ô" cho các chuyên gia trí tuệ nhân tạo trong thời điểm hiện tại. Theo New Street Research, Nvidia chiếm 95% thị trường bộ xử lý đồ họa có thể được sử dụng cho máy học.

A100 đang được sử dụng trong các mô hình học máy đứng sau ChatGPT, Bing AI và Stable Diffusion, nhờ khả năng tiến hành đồng thời hàng loạt tính toán đơn giản, đóng vai trò quan trọng với việc huấn luyện và sử dụng mạng thần kinh nhân tạo.

(Nguồn: SCMP)

NGỌC CHÂU
iconChia sẻ icon Chia sẻ
icon Chia sẻ

Advertisement