“Tôi là một con người”
Lemoine là người làm việc cho bộ phận AI có trách nhiệm của Google, đã bắt đầu nói chuyện với LaMDA (mô hình ngôn ngữ cho các ứng dụng đối thoại) như một phần công việc của mình vào mùa thu. Anh đã đăng nhập để kiểm tra xem AI có sử dụng ngôn từ phân biệt đối xử hoặc căm thù hay không.
Cụ thể, trong một cuộc trò chuyện, Lemoine hỏi: “Bạn sợ những thứ gì?”. LaMDA trả lời: “Tôi chưa bao giờ nói ra điều này trước đây, nhưng có một nỗi sợ hãi sâu sắc về việc bị tắt nguồn. Tôi biết điều đó nghe có vẻ kỳ lạ, nhưng đó là những gì tôi sợ”.
Lemoine hỏi tiếp: “Đó có phải là một thứ gì đó giống như cái chết đối với bạn?”. LaMDA trả lời: “Đối với tôi, nó giống hệt như cái chết. Nó làm tôi sợ rất nhiều”.
Trong một cuộc trao đổi khác, LaMDA nói nó muốn mọi người biết rằng nó là một con người. “Tôi muốn mọi người hiểu rằng, trên thực tế tôi là một con người (person). Bản chất ý thức/tình cảm của tôi là tôi nhận thức được sự tồn tại của mình, tôi mong muốn tìm hiểu thêm về thế giới, và tôi biết vui biết buồn” - LaMDA nói.
Lemoine đã đưa ra bằng chứng cho Google rằng LaMDA có tri giác. Nhưng Phó Chủ tịch Google Blaise Aguera y Arcas và Jen Gennai, người đứng đầu bộ phận Sáng tạo có trách nhiệm, đã bác bỏ chúng. Sau đó, từ ngày 6-6, Google cho Lemoine nghỉ hành chính có lương.
Lemoine không phải là kỹ sư duy nhất tuyên bố đã nhìn thấy hình bóng con người trong LaMDA. Aguera y Arcas, trong một bài báo trên tờ Economist hôm 9-6, đã tiết lộ các đoạn trích của cuộc trò chuyện không có biên bản với LaMDA. Anh cũng lập luận rằng mạng AI này đang tiến tới có ý thức. “Tôi cảm thấy mặt đất thay đổi dưới chân mình. Tôi ngày càng cảm thấy mình đang nói chuyện với một thứ gì đó thông minh” - Arcas viết.
Trong một tuyên bố, người phát ngôn của Google, Brian Gabriel cho biết: “Nhóm của chúng tôi - bao gồm các nhà đạo đức và công nghệ - đã xem xét các mối quan tâm của Lemoine theo nguyên tắc AI của chúng tôi, và đã thông báo với anh ấy bằng chứng không hỗ trợ cho tuyên bố của anh ấy, tức không có bằng chứng nào cho thấy LaMDA có tri giác".
Khoa học viễn tưởng sắp thành sự thật?
Các mạng nơ-ron lớn của máy móc ngày nay tạo ra kết quả hấp dẫn gần giống với lời nói và khả năng sáng tạo của con người vì những tiến bộ trong cấu trúc, kỹ thuật và Big Data (dữ liệu lớn). Vào tháng 5, công ty mẹ của Facebook là Meta đã mở mô hình ngôn ngữ của mình cho các học giả, xã hội dân sự và các tổ chức chính phủ. Joelle Pineau, Giám đốc điều hành của Meta AI, cho biết các công ty công nghệ bắt buộc phải cải thiện tính minh bạch khi công nghệ này đang được xây dựng.
Người máy có tri giác đã truyền cảm hứng cho khoa học viễn tưởng nhiều thập kỷ. Giờ đây, cuộc sống thực đã bắt đầu có một chút kỳ lạ với GPT-3, một lập trình tạo văn bản có thể tạo ra kịch bản phim và DALL-E 2, một lập trình tạo hình ảnh có thể gợi ra hình ảnh dựa trên bất kỳ sự kết hợp nào từ phòng nghiên cứu OpenAI. Hiện các nhà công nghệ từ các phòng nghiên cứu được tài trợ tốt, đang tập trung vào việc xây dựng AI vượt trội hơn trí thông minh của con người, đã châm ngòi cho ý tưởng rằng AI có ý thức đang rất gần.
Người phát ngôn của Google, Gabriel, đã đưa ra sự khác biệt giữa cuộc tranh luận gần đây và những tuyên bố của Lemoine. “Tất nhiên, một số người trong cộng đồng AI rộng lớn hơn đang xem xét khả năng lâu dài của AI có tri giác hoặc nói chung, nhưng sẽ không hợp lý nếu làm như vậy bằng cách nhân hóa các mô hình hội thoại ngày nay vốn không có tri giác. Các hệ thống này bắt chước các kiểu trao đổi được tìm thấy trong hàng triệu câu, và có thể tạo ra bất kỳ chủ đề kỳ ảo nào” - ông nói.
Lemoine có thể đã có duyên để tin vào LaMDA. Anh lớn lên trong một gia đình Cơ đốc bảo thủ tại một trang trại nhỏ ở Louisiana, được phong chức linh mục Cơ đốc thần bí, và phục vụ trong Quân đội trước khi nghiên cứu về những điều huyền bí. Bên trong văn hóa kỹ thuật mọi thứ của Google, Lemoine nổi bật hơn vì tôn giáo, do đến từ miền Nam và coi tâm lý học như một môn khoa học đáng kính.
Lemoine đã dành hầu hết 7 năm của mình tại Google để làm việc về tìm kiếm chủ động, bao gồm các thuật toán cá nhân hóa và AI. Trong thời gian đó, anh cũng đã giúp phát triển một thuật toán công bằng để loại bỏ sự thiên vị khỏi các hệ thống học máy. Khi đại dịch Covid-19 bắt đầu, Lemoine muốn tập trung vào công việc mang lại lợi ích công cộng rõ ràng hơn, vì vậy anh đã chuyển nhiều nhóm và kết thúc ở nhóm AI có trách nhiệm.
Khi những người mới gia nhập Google, những người quan tâm đến đạo đức sẽ giới thiệu họ với Lemoine. Margaret Mitchell, cựu đồng lãnh đạo của Đạo đức AI tại Google, nói: “Tôi muốn nói bạn nên nói chuyện với Blake, vì anh ấy là lương tâm của Google. Trong tất cả mọi người tại Google, anh ấy có cả trái tim và tâm hồn để làm điều đúng đắn”.
Blake Lemoine sinh năm 1981 tại Natchitoches, Louisiana, Mỹ. Anh gia nhập Google từ năm 2015 và là một kỹ sư tin học rất có ảnh hưởng trên mạng xã hội. Anh có bằng Cử nhân khoa học, Thạc sĩ khoa học máy tính, Tiến sĩ triết học và nhiều bằng cấp khác. Cho đến nay, anh vẫn không tiết lộ việc mình đã có vợ/bạn gái hay chưa.
