Một nhóm các nhân vật nổi bật, bao gồm các chuyên gia trí tuệ nhân tạo và công nghệ, đã kêu gọi chấm dứt những nỗ lực tạo ra "siêu thông minh" - một dạng AI sẽ vượt qua con người về cơ bản trong tất cả các nhiệm vụ nhận thức.

Hơn 850 người, bao gồm các nhà lãnh đạo công nghệ như người sáng lập Virgin Group Richard Branson và đồng sáng lập Apple Steve Wozniak, đã ký vào một tuyên bố được công bố hôm thứ Tư kêu gọi tạm dừng việc phát triển siêu thông minh.

Danh sách những người ký tên đáng chú ý được dẫn đầu bởi các nhà tiên phong AI nổi bật, bao gồm các nhà khoa học máy tính Yoshua Bengio và Geoff Hinton, những người được coi rộng rãi là "cha đẻ" của AI hiện đại. Các nhà nghiên cứu AI hàng đầu như Stuart Russell của UC Berkeley cũng đã ký tên.

Siêu thông minh đã trở thành từ khóa trong thế giới AI, khi các công ty từ xAI của Elon Musk đến OpenAI của Sam Altman cạnh tranh để phát hành các mô hình ngôn ngữ lớn tiên tiến hơn. Meta đáng chú ý đã đi xa đến mức đặt tên cho bộ phận LLM của mình là 'Meta Superintelligence Labs'.

Nhưng những người ký tên vào tuyên bố gần đây cảnh báo rằng triển vọng của siêu thông minh đã "gây ra những lo ngại, từ sự lỗi thời và mất quyền lực kinh tế của con người, mất tự do, quyền dân sự, phẩm giá và kiểm soát, đến rủi ro an ninh quốc gia và thậm chí khả năng tuyệt chủng của loài người."

Tuyên bố kêu gọi cấm phát triển siêu thông minh cho đến khi có sự ủng hộ mạnh mẽ của công chúng đối với công nghệ này và sự đồng thuận khoa học rằng nó có thể được xây dựng và kiểm soát một cách an toàn.

Ngoài các nhân vật AI và công nghệ, những cái tên đằng sau tuyên bố đến từ một liên minh rộng lớn từ các học giả, nhân vật truyền thông, lãnh đạo tôn giáo và một nhóm lưỡng đảng gồm các chính trị gia và quan chức Mỹ cũ.

Những quan chức đã nghỉ hưu bao gồm cựu chủ tịch Hội đồng Tham mưu trưởng Liên quân Mike Mullen và cựu Cố vấn An ninh Quốc gia Susan Rice.

Trong khi đó, Steve Bannon và Glenn Beck - những đồng minh truyền thông có ảnh hưởng với Tổng thống Mỹ Donald Trump - cũng được nổi bật trong danh sách.

Những người ký tên nổi tiếng khác bao gồm các thành viên hoàng gia Anh Hoàng tử Harry và vợ ông, Meghan, Nữ công tước xứ Sussex, cũng như cựu tổng thống Ireland Mary Robinson. Tính đến thứ Tư, danh sách vẫn đang tăng lên.

Đã có một sự phân chia ngày càng tăng trong không gian công nghệ giữa những người coi AI là một lực lượng mạnh mẽ vì điều tốt đẹp, đáng được phát triển không hạn chế, và những người tin rằng nó nguy hiểm và cần nhiều quy định hơn.

Tuy nhiên, như được ghi nhận bởi trang web của những người ký 'Tuyên bố về Siêu thông minh', ngay cả các nhà lãnh đạo của các công ty trí tuệ nhân tạo hàng đầu thế giới, như Musk và Altman, trong quá khứ đã cảnh báo về những nguy hiểm của siêu thông minh.

Trước khi trở thành CEO của OpenAI, Altman đã viết trong một bài đăng blog năm 2015 rằng "việc phát triển trí thông minh máy siêu nhân (SMI) có lẽ là mối đe dọa lớn nhất đối với sự tồn tại liên tục của nhân loại."

Trong khi đó, Elon Musk nói trên một podcast đầu năm nay rằng chỉ có "20% cơ hội tiêu diệt" khi thảo luận về rủi ro của AI tiên tiến vượt qua trí thông minh con người.

'Tuyên bố về Siêu thông minh' trích dẫn một cuộc khảo sát gần đây từ Viện Tương lai Cuộc sống cho thấy chỉ 5% người lớn Mỹ ủng hộ "hiện trạng phát triển siêu thông minh nhanh chóng, không được quy định".

Cuộc khảo sát 2.000 người lớn Mỹ cũng phát hiện rằng đa số tin rằng "AI siêu nhân" không nên được tạo ra cho đến khi được chứng minh là an toàn hoặc có thể kiểm soát và muốn quy định mạnh mẽ về AI tiên tiến.

Trong một tuyên bố được cung cấp trên trang web, nhà khoa học máy tính Bengio nói rằng các hệ thống AI có thể vượt qua hầu hết các cá nhân trong hầu hết các nhiệm vụ nhận thức trong vài năm tới. Ông thêm rằng trong khi những tiến bộ như vậy có thể giúp giải quyết các thách thức toàn cầu, chúng cũng mang theo những rủi ro đáng kể.

"Để tiến bộ an toàn hướng tới siêu thông minh, chúng ta phải xác định một cách khoa học cách thiết kế các hệ thống AI về cơ bản không có khả năng gây hại cho con người, cho dù thông qua sự không phù hợp hay sử dụng độc hại," ông nói.

"Chúng ta cũng cần đảm bảo công chúng có tiếng nói mạnh mẽ hơn nhiều trong các quyết định sẽ định hình tương lai tập thể của chúng ta."