Mô hình WuDao 2.0 là một mô hình AI được đào tạo trước sử dụng 1,75 nghìn tỷ tham số để mô phỏng lời nói đàm thoại, viết thơ, hiểu hình ảnh và thậm chí tạo công thức nấu ăn. Dự án do Viện nghiên cứu phi lợi nhuận Học viện Trí tuệ Nhân tạo Bắc Kinh (BAAI) đứng đầu và được phát triển với hơn 100 nhà khoa học từ nhiều tổ chức.
Tham số là các biến được xác định bởi các mô hình học máy. Khi mô hình phát triển, các tham số được tinh chỉnh thêm để cho phép thuật toán trở nên tốt hơn trong việc tìm ra kết quả chính xác theo thời gian. Khi một mô hình được đào tạo trên một tập dữ liệu cụ thể, chẳng hạn như các mẫu giọng nói của con người, kết quả sau đó có thể được áp dụng để giải quyết các vấn đề tương tự.
Nói chung, một mô hình càng chứa nhiều thông số thì nó càng phức tạp. Tuy nhiên, việc tạo ra một mô hình phức tạp hơn đòi hỏi thời gian, tiền bạc và các nghiên cứu đột phá.
Trong thời đại của các mô hình AI phát triển nhanh chóng, các nhà nghiên cứu của BAAI tuyên bố đã phá vỡ kỷ lục do Google’s Switch Transformer thiết lập vào tháng 1, với 1,6 tỷ thông số. Mô hình GPT-3 của OpenAI đã gây sóng gió vào năm ngoái khi được phát hành với 175 tỷ thông số, trở thành mô hình NPL lớn nhất vào thời điểm đó.
WuDao 2.0 bao gồm cả tiếng Trung và tiếng Anh với các kỹ năng có được bằng cách nghiên cứu 4,9 terabyte hình ảnh và văn bản, bao gồm 1,2 terabyte mỗi văn bản tiếng Trung và tiếng Anh. Nó đã có 22 đối tác, bao gồm nhà sản xuất điện thoại thông minh Xiaomi, nhà cung cấp dịch vụ giao hàng theo yêu cầu Meituan và gã khổng lồ video ngắn Kuaishou.
Blake Yan, một nhà nghiên cứu AI từ Bắc Kinh, cho biết: “Các mô hình quy mô lớn được đào tạo trước là một trong những lối tắt tốt nhất cho trí tuệ nhân tạo nói chung”, sử dụng thuật ngữ chỉ khả năng giả định của một cỗ máy để học bất kỳ nhiệm vụ nào mà con người có thể thực hiện.
Zhang Hongjiang, chủ tịch của BAAI, cho biết hôm 31-5 khi công bố dự án này, các mô hình như vậy hoạt động như một cơ sở hạ tầng chiến lược cho sự phát triển AI. Ông nói chúng giống như các nhà máy điện sử dụng dữ liệu làm nhiên liệu, tạo ra trí thông minh để hỗ trợ các ứng dụng AI.
Trung Quốc và Mỹ hiện đang trong cuộc chạy đua sản xuất thế hệ công nghệ phức tạp tiếp theo. Trung Quốc đã tụt hậu trong các lĩnh vực có tầm quan trọng chiến lược, nhưng chính phủ vẫn đang dồn nguồn lực vào các công nghệ mới bao gồm AI, 5G và chất bán dẫn để giúp thu hẹp khoảng cách với đối thủ, với các mức độ thành công khác nhau.
BAAI được tài trợ bởi chính phủ Bắc Kinh, đã đầu tư 340 triệu nhân dân tệ (53,3 triệu USD) vào học viện chỉ trong năm 2018 và 2019, cam kết tiếp tục hỗ trợ, một quan chức Bắc Kinh cho biết trong một bài phát biểu năm 2019.
Mỹ nhận thấy rằng họ có thể đang mất lợi thế, đang cố gắng đi đầu, với việc Tổng thống Joe Biden yêu cầu Quốc hội hỗ trợ tăng 13,5 tỷ USD trong tổng chi tiêu liên bang cho nghiên cứu và phát triển. Đầu tháng này, một ủy ban của Thượng viện cũng đã thông qua Đạo luật Biên giới Vô tận, luật đang chờ phê duyệt sẽ cấp phép hơn 110 tỷ USD cho các nghiên cứu công nghệ cơ bản và nâng cao trong 5 năm.
Năm ngoái, chính quyền tiền nhiệm của cựu tổng thống Mỹ Donald Trump đã tiết lộ kế hoạch đầu tư 1 tỷ USD vào AI và khoa học lượng tử.
Một báo cáo hồi tháng 3 của Ủy ban An ninh Quốc gia Hoa Kỳ về Trí tuệ Nhân tạo, bao gồm cựu Giám đốc điều hành Google Eric Schmidt làm chủ tịch cùng với đại diện từ các công ty công nghệ lớn khác, đã xác định Trung Quốc là mối đe dọa tiềm tàng đối với quyền lực tối cao về AI của Mỹ.
Năm ngoái, tổ chức nghiên cứu của Rand Corporation cũng cảnh báo rằng sự tập trung của Bắc Kinh vào AI đã giúp họ thu hẹp đáng kể khoảng cách với Mỹ, do “vị trí dẫn đầu khiêm tốn” của quốc gia này đối với lĩnh vực bán dẫn thống trị của họ.
