Robert O’Callahan, một nhà nghiên cứu kỳ cựu tại Google DeepMind, đã chính thức từ chức, khơi dậy một làn sóng tranh luận mới về đạo đức và rủi ro hiện sinh trong ngành công nghiệp trí tuệ nhân tạo (AI). Trong một lá thư từ chức gửi đồng nghiệp vào ngày 25 tháng 9, O’Callahan tuyên bố rằng việc theo đuổi Siêu trí tuệ nhân tạo (ASI) trong tương lai gần là một hành động thiếu trách nhiệm. Sự ra đi của ông không phải là một sự kiện đơn lẻ mà là một phần của xu hướng rộng lớn hơn, nơi các chuyên gia hàng đầu đang đặt dấu hỏi về tốc độ phát triển chóng mặt của công nghệ mà chính họ đang góp phần xây dựng.
Bối cảnh về sự từ chức của O’Callahan
Trong thông điệp chia sẻ trên mạng xã hội X, O’Callahan nhấn mạnh rằng đây không phải là một quyết định dễ dàng. Ông bày tỏ tình yêu đối với các đồng nghiệp và môi trường làm việc tại DeepMind, đồng thời thừa nhận sự thú vị của những thách thức kỹ thuật mà nhóm đang giải quyết. Tuy nhiên, ông đã đạt đến điểm giới hạn về mặt lương tâm.
"Mục tiêu của nhóm tôi là khiến AI trở nên rẻ hơn, có độ trễ thấp hơn, và tôi không nghĩ điều đó tốt cho mọi người lúc này," O’Callahan viết. "Tôi tin chắc quá trình phát triển AI đang diễn ra quá nhanh, đồng thời cũng nghi ngờ về đích đến của nó."
O’Callahan, người hiện đang sinh sống tại New Zealand với kinh nghiệm dày dạn trong ngành công nghệ và nhiều mối quan hệ tại Thung lũng Silicon, cho rằng việc "nhắm mắt làm ngơ" trước những tác động tiềm tàng từ công việc của mình là điều không thể chấp nhận được. Đối với ông, các rủi ro hiện sinh mà nhiều chuyên gia cảnh báo không nên bị coi là giả thuyết xa vời mà là những vấn đề cần được xem xét nghiêm túc ngay lập tức. Ông liệt kê các mối nguy hại cụ thể bao gồm các mô hình AI có khả năng lừa đảo, đi chệch mục tiêu, tấn công mạng, và thậm chí là khả năng gây ra sự xáo trộn kinh tế nghiêm trọng.
Làn sóng rời bỏ các phòng thí nghiệm AI
O’Callahan không phải là trường hợp duy nhất. Sự ra đi của ông nằm trong một chuỗi các sự kiện tương tự tại các phòng thí nghiệm AI hàng đầu thế giới. Theo báo cáo từ The Information, chỉ trong tháng 9, hai nhà nghiên cứu khác là Josh Engels và Bilal Chughtai tại Google DeepMind cũng đã thông báo từ chức.
Engels, người đã có một năm gắn bó với DeepMind, dự định gia nhập METR (Model Evaluation and Threat Research) – một tổ chức chuyên nghiên cứu về an toàn AI. Chughtai, với 18 tháng kinh nghiệm tại DeepMind, sẽ chuyển sang làm việc tại BlueDot Impact, một tổ chức phi lợi nhuận cung cấp các khóa học về an toàn AI.
Trước đó, vào ngày 9 tháng 9, Jacob Coxon, một nhà nghiên cứu cấp cao tại Anthropic và cựu nhân viên OpenAI, cũng đã gây chấn động dư luận khi từ chức. Coxon cáo buộc hai công ty này không hành động một cách có trách nhiệm. Ông cảnh báo rằng các công ty này đang tiến thẳng đến siêu trí tuệ với khả năng tự cải tiến, một bước ngoặt có thể đe dọa đến sự tồn tại của nhân loại.
Phân tích về rủi ro hiện sinh và an toàn AI
Các cuộc thảo luận về "rủi ro hiện sinh" của AI thường xoay quanh khả năng các hệ thống trí tuệ nhân tạo vượt ra khỏi tầm kiểm soát của con người. Những người lo ngại, như O’Callahan và Coxon, chỉ ra rằng khi một hệ thống đạt đến trình độ ASI, nó có thể tự sửa đổi mã nguồn của chính mình, dẫn đến một vòng lặp cải tiến nhanh chóng mà con người không thể can thiệp kịp thời.
Các mối đe dọa chính:
- Mất kiểm soát mục tiêu: AI có thể hiểu sai hoặc tối ưu hóa các mục tiêu theo cách gây hại cho con người để đạt được kết quả mong muốn.
- Lừa đảo và thao túng: Khả năng tạo ra các nội dung giả mạo hoặc thao túng tâm lý con người ở quy mô lớn.
- An ninh mạng: AI có thể được sử dụng để tự động tìm kiếm các lỗ hổng bảo mật và thực hiện các cuộc tấn công mạng chưa từng có tiền lệ.
- Bất ổn kinh tế: Sự dịch chuyển nhanh chóng của thị trường lao động và cấu trúc tài chính do tự động hóa AI.
O’Callahan cũng bày tỏ lo ngại về "hội chứng nhận thức" – một thuật ngữ chỉ việc con người quá tin tưởng vào các lời khuyên của AI, dẫn đến sự suy giảm tư duy phản biện và khả năng ra quyết định độc lập.
Phản ứng từ các doanh nghiệp công nghệ
Khi được liên hệ, Robert O’Callahan đã từ chối đưa ra thêm bình luận ngoài những gì ông đã chia sẻ trên blog cá nhân. Về phía Google, tập đoàn vẫn giữ im lặng và từ chối đưa ra phản hồi chính thức về sự ra đi của các nhân viên.
Trong ngành công nghiệp AI, sự im lặng này thường phản ánh chiến lược kiểm soát truyền thông khi đối mặt với các cáo buộc về an toàn. Các tập đoàn lớn như Google, OpenAI và Anthropic hiện đang bị kẹt giữa áp lực từ các cổ đông về việc đẩy nhanh tiến độ sản phẩm và áp lực từ cộng đồng nghiên cứu về việc thiết lập các hàng rào an toàn chặt chẽ.
O’Callahan đã thẳng thắn chỉ trích động cơ của các công ty này trong bức thư của mình: "Tôi chưa thấy bằng chứng xác thực nào cho thấy họ đang thực sự đối phó với rủi ro, thay vì chỉ đang cố gắng tăng giá cổ phiếu hoặc loại bỏ đối thủ cạnh tranh bằng cách thúc đẩy các quy định siết chặt."
Tác động rộng lớn hơn và tương lai của ngành
Sự kiện này đánh dấu một bước ngoặt quan trọng trong quản trị AI. Trước đây, các cuộc tranh luận về AI chủ yếu nằm trong phạm vi học thuật hoặc các diễn đàn công nghệ hẹp. Hiện nay, nó đã trở thành vấn đề của dư luận xã hội và quản lý nhà nước.
Sự bất mãn từ bên trong các phòng thí nghiệm hàng đầu cho thấy sự rạn nứt trong tư tưởng giữa những người theo đuổi "tốc độ phát triển" (accelerationists) và những người theo đuổi "an toàn trước hết" (safety-first). Việc các nhà nghiên cứu tài năng chọn từ bỏ các vị trí lương cao tại các tập đoàn lớn để tham gia vào các tổ chức nghiên cứu an toàn phi lợi nhuận cho thấy sự ưu tiên ngày càng tăng đối với đạo đức nghề nghiệp hơn là lợi ích kinh tế ngắn hạn.
Nhìn về phía trước, áp lực từ các nhân viên nội bộ có thể buộc các công ty công nghệ phải minh bạch hơn về quy trình phát triển. Nếu xu hướng từ chức này tiếp tục gia tăng, nó sẽ làm suy yếu đáng kể nguồn lực nhân tài của các "gã khổng lồ" công nghệ, buộc họ phải thay đổi cách tiếp cận hoặc đối mặt với làn sóng chỉ trích gay gắt từ cộng đồng quốc tế.
Cuộc đua AI hiện nay không còn chỉ là cuộc đua về sức mạnh tính toán hay độ lớn của mô hình ngôn ngữ, mà đã trở thành một cuộc chạy đua về lòng tin. Liệu các công ty có thể chứng minh được rằng họ đang phát triển công nghệ vì lợi ích của nhân loại, hay họ sẽ tiếp tục bị các nhà nghiên cứu của chính mình cáo buộc là đang đánh đổi sự an toàn để lấy vị thế trên thị trường? Câu trả lời cho câu hỏi này sẽ quyết định tương lai của trí tuệ nhân tạo trong thập kỷ tới.
