Bức thư do tổ chức phi lợi nhuận Future of Life Institute phát hành và có chữ ký của hơn 1.000 người bao gồm cả Musk, kêu gọi tạm dừng phát triển AI tiên tiến cho đến khi các giao thức an toàn dùng chung cho các thiết kế như vậy được phát triển, triển khai và kiểm toán bởi các chuyên gia độc lập.
"Các hệ thống AI mạnh mẽ chỉ nên được phát triển khi chúng ta tin tưởng rằng tác động của chúng sẽ tích cực và rủi ro của chúng sẽ có thể kiểm soát được", bức thư viết.
Bức thư nêu chi tiết những rủi ro tiềm ẩn đối với xã hội và nền văn minh do các hệ thống AI cạnh tranh với con người gây ra dưới hình thức gián đoạn kinh tế và chính trị, đồng thời kêu gọi các nhà phát triển hợp tác với các nhà hoạch định chính sách về quản trị và cơ quan quản lý.
Những người đồng ký kết bao gồm Giám đốc điều hành Stability AI Emad Mostaque, các nhà nghiên cứu tại DeepMind thuộc sở hữu của Alphabet (Google), cũng như các đối thủ nặng ký về AI Yoshua Bengio và Stuart Russell.
Những lo ngại xuất hiện khi lực lượng cảnh sát EU Europol vào thứ Hai đã tham gia một dàn đồng ca về những lo ngại về đạo đức và pháp lý đối với AI tiên tiến như ChatGPT, cảnh báo về khả năng lạm dụng hệ thống trong các nỗ lực lừa đảo, thông tin sai lệch và tội phạm mạng.
Trong khi đó, chính phủ Vương quốc Anh đã công bố các đề xuất về khung pháp lý "thích ứng" xung quanh AI.
Kể từ khi được phát hành vào năm ngoái, ChatGPT của OpenAI do Microsoft hậu thuẫn đã thúc đẩy các đối thủ tăng tốc phát triển các mô hình ngôn ngữ lớn tương tự và các công ty tích hợp các mô hình AI tổng quát vào sản phẩm của họ.
