Google, Meta và OpenAI nằm trong số những công ty đưa ra các cam kết an toàn tự nguyện tại Hội nghị thượng đỉnh AI ở Seoul, bao gồm cả việc ngừng hoạt động các hệ thống tiên tiến của họ nếu họ không thể kiềm chế những rủi ro nghiêm trọng nhất.
Cuộc họp kéo dài hai ngày này là sự kiện tiếp nối Hội nghị thượng đỉnh về an toàn AI vào tháng 11 tại Công viên Bletchley ở Vương quốc Anh và diễn ra trong bối cảnh các chính phủ và cơ quan toàn cầu đang nỗ lực thiết kế các rào chắn cho công nghệ trong bối cảnh lo ngại về rủi ro mà nó gây ra cho cả hai: cuộc sống hàng ngày và tương lai nhân loại.
Chính phủ Anh, nước đồng tổ chức sự kiện, cho biết trong một tuyên bố: Các nhà lãnh đạo từ 10 quốc gia và Liên minh Châu Âu sẽ “nâng cao hiểu biết chung về an toàn AI và điều chỉnh công việc của họ về nghiên cứu AI”.
Mạng lưới các cơ chế an toàn sẽ bao gồm những cơ chế đã được thiết lập bởi Vương quốc Anh, Hoa Kỳ, Nhật Bản và Singapore kể từ cuộc họp Bletchley.
Tổng thư ký Liên Hợp Quốc Antonio Guterres phát biểu trong phiên khai mạc rằng bảy tháng sau cuộc họp ở Bletchley Park “Chúng ta đang chứng kiến những tiến bộ công nghệ thay đổi cuộc sống và những rủi ro mới đe dọa đến tính mạng – từ thông tin sai lệch đến giám sát hàng loạt cho đến triển vọng về vũ khí tự động gây chết người.”
Người đứng đầu Liên Hợp Quốc cho biết trong một bài đăng video rằng cần phải có các biện pháp bảo vệ phổ quát và đối thoại thường xuyên về AI. Ông nói: “Chúng ta không thể mộng du đến một tương lai đen tối, nơi sức mạnh của AI bị kiểm soát bởi một số ít người - hoặc tệ hơn là bởi các thuật toán ngoài tầm hiểu biết của con người”.
16 công ty AI đã đăng ký cam kết an toàn còn bao gồm Amazon, Microsoft, Samsung, IBM, xAI, Mistral AI của Pháp, Zhipu.ai của Trung Quốc và G42 của Các Tiểu vương quốc Ả Rập Thống nhất. Họ tuyên bố sẽ đảm bảo an toàn cho các mô hình AI tiên tiến nhất của mình bằng những lời hứa về quản trị có trách nhiệm và tính minh bạch của công chúng.
Đây không phải là lần đầu tiên các công ty AI đưa ra những cam kết an toàn tự nguyện nghe có vẻ cao cả. Amazon, Google, Meta và Microsoft nằm trong số các nhóm đã đăng ký vào năm ngoái với các biện pháp bảo vệ tự nguyện do Nhà Trắng làm trung gian để đảm bảo sản phẩm của họ được an toàn trước khi phát hành.
Cuộc họp ở Seoul diễn ra khi một số công ty tung ra phiên bản mới nhất của mô hình AI của họ.
Cam kết an toàn bao gồm các khuôn khổ xuất bản đặt ra cách các công ty sẽ đo lường rủi ro trong mô hình của họ. Trong những trường hợp cực đoan khi rủi ro trở nên nghiêm trọng và “không thể chấp nhận được”, các công ty AI sẽ phải tắt công tắc và ngừng phát triển hoặc triển khai các mô hình và hệ thống của mình nếu không thể giảm thiểu rủi ro.
Aiden Gomez, CEO của Cohere, một trong những công ty AI, cho biết kể từ cuộc họp ở Anh năm ngoái, ngành AI đã “ngày càng tập trung vào những mối quan tâm cấp bách nhất, bao gồm thông tin sai lệch và thông tin xuyên tạc, bảo mật dữ liệu, thành kiến và luôn cập nhật thông tin cho con người”.
“Điều quan trọng là chúng ta phải tiếp tục xem xét tất cả các rủi ro có thể xảy ra, đồng thời ưu tiên nỗ lực vào những rủi ro có nhiều khả năng gây ra vấn đề nhất nếu không được giải quyết đúng cách.”
Các chính phủ trên thế giới đang nỗ lực xây dựng các quy định cho AI ngay cả khi công nghệ này có những tiến bộ nhanh chóng và sẵn sàng biến đổi nhiều khía cạnh của cuộc sống hàng ngày, từ giáo dục và nơi làm việc đến bản quyền và quyền riêng tư. Có những lo ngại rằng những tiến bộ trong AI có thể loại bỏ việc làm, truyền bá thông tin sai lệch hoặc được sử dụng để tạo ra vũ khí sinh học mới.
Cuộc họp tuần này chỉ là một trong nhiều nỗ lực về quản trị AI. Đại hội đồng Liên Hợp Quốc đã thông qua nghị quyết đầu tiên về việc sử dụng an toàn các hệ thống AI, trong khi Mỹ và Trung Quốc gần đây đã tổ chức các cuộc đàm phán cấp cao đầu tiên về AI và Đạo luật AI đầu tiên trên thế giới của Liên minh Châu Âu sẽ có hiệu lực vào cuối năm nay.
