Các nhà khoa học đoạt giải Nobel cũng ký thư ngỏ cho rằng công nghệ ASI nên bị cấm cho đến khi có đồng thuận rằng nó có thể được phát triển 'an toàn'

Công tước và Nữ công tước xứ Sussex đã cùng các nhà tiên phong trí tuệ nhân tạo và các nhà khoa học đoạt giải Nobel kêu gọi cấm phát triển các hệ thống AI siêu thông minh.

Harry và Meghan nằm trong số những người ký tên vào tuyên bố kêu gọi "cấm phát triển siêu trí tuệ". Trí tuệ nhân tạo siêu thông minh (ASI) là thuật ngữ chỉ các hệ thống AI, chưa được phát triển, vượt qua mức độ trí tuệ của con người ở tất cả các nhiệm vụ nhận thức.

Tuyên bố kêu gọi duy trì lệnh cấm cho đến khi có "đồng thuận khoa học rộng rãi" về việc phát triển ASI "một cách an toàn và có thể kiểm soát" và khi có "sự ủng hộ mạnh mẽ từ công chúng".

Nó cũng được ký bởi nhà tiên phong AI và laureate Nobel Geoffrey Hinton, cùng với đồng nghiệp "cha đẻ" của AI hiện đại, Yoshua Bengio; đồng sáng lập Apple Steve Wozniak; doanh nhân Anh Richard Branson; Susan Rice, cựu cố vấn an ninh quốc gia Mỹ dưới thời Barack Obama; cựu tổng thống Ireland Mary Robinson, và tác giả kiêm nhà phát thanh người Anh Stephen Fry. Các laureate Nobel khác đã ký bao gồm Beatrice Fihn, Frank Wilczek, John C Mather, và Daron Acemoğlu.

Tuyên bố, nhắm vào các chính phủ, công ty công nghệ và các nhà lập pháp, được tổ chức bởi Viện Tương lai Sự sống (FLI), một nhóm an toàn AI có trụ sở tại Mỹ đã kêu gọi tạm dừng phát triển các hệ thống AI mạnh mẽ vào năm 2023, ngay sau khi sự xuất hiện của ChatGPT khiến AI trở thành chủ đề thảo luận chính trị và công chúng trên toàn thế giới.

Vào tháng 7, Mark Zuckerberg, giám đốc điều hành của Meta - công ty mẹ của Facebook, một trong những nhà phát triển AI lớn ở Mỹ, cho biết việc phát triển siêu trí tuệ hiện "đã trong tầm mắt". Tuy nhiên, một số chuyên gia cho rằng việc nói về ASI phản ánh vị thế cạnh tranh giữa các công ty công nghệ đang chi hàng trăm tỷ đô la cho AI chỉ riêng năm nay, thay vì ngành này đang gần đạt được bất kỳ đột phá kỹ thuật nào.

Tuy nhiên, FLI cho biết triển vọng ASI được đạt được "trong thập kỷ tới" mang theo một loạt các mối đe dọa từ việc chiếm tất cả công việc của con người đến mất quyền tự do dân sự, khiến các quốc gia phải đối mặt với rủi ro an ninh quốc gia và thậm chí đe dọa nhân loại với sự tuyệt chủng. Những nỗi sợ hiện sinh về AI tập trung vào khả năng tiềm tàng của một hệ thống để thoát khỏi sự kiểm soát của con người và các hướng dẫn an toàn và kích hoạt các hành động trái với lợi ích của con người.

FLI đã công bố một cuộc thăm dò quốc gia Mỹ cho thấy khoảng ba phần tư người Mỹ muốn có quy định mạnh mẽ về AI tiên tiến, với sáu trên mười người tin rằng AI siêu con người không nên được tạo ra cho đến khi nó được chứng minh là an toàn hoặc có thể kiểm soát. Cuộc khảo sát với 2.000 người trưởng thành Mỹ cho biết thêm rằng chỉ 5% ủng hộ hiện trạng phát triển nhanh, không được quy định.

Các công ty AI hàng đầu ở Mỹ, bao gồm nhà phát triển ChatGPT OpenAI và Google, đã đặt việc phát triển trí tuệ nhân tạo tổng quát - trạng thái lý thuyết mà AI sánh ngang với mức độ trí tuệ của con người ở hầu hết các nhiệm vụ nhận thức - làm mục tiêu rõ ràng trong công việc của họ. Mặc dù điều này thấp hơn ASI một bậc, một số chuyên gia cũng cảnh báo nó có thể mang theo rủi ro hiện sinh bằng cách, chẳng hạn, có thể tự cải thiện để đạt đến mức độ siêu thông minh, đồng thời cũng mang theo mối đe dọa ngầm cho thị trường lao động hiện đại.