AI ngày càng giống người – nhưng giống tới mức nào là “có ý thức”?

ChatGPT và các mô hình ngôn ngữ lớn đã tạo ra một trải nghiệm rất quen: bạn gõ vài dòng, và hệ thống trả lời lại một cách trôi chảy, có vẻ hiểu ngữ cảnh, thậm chí biết đùa, biết phản biện. Cảm giác rất tự nhiên là: “Nó như đang nghĩ thật sự.”

Từ góc nhìn người dùng, rất khó tách rời giữa “mô phỏng giỏi đến đáng sợ” và “có một ai đó bên trong đang trải nghiệm thế giới”. Tuy nhiên, khi bạn hỏi ngược lại: chính bạn có chắc mình có ý thức không, và “ý thức” là gì, thì mọi thứ bắt đầu trở nên mơ hồ. Ý thức là cảm giác chủ quan khi đau, khi vui, khi nhận ra “đây là mình” – nhưng đó chỉ là mô tả cảm tính, không phải một định nghĩa khoa học vận hành được.

Trong suốt nhiều thập kỷ, các nhà thần kinh học và triết học đã cố gắng trả lời những câu hỏi nền tảng: Ý thức xuất hiện như thế nào trong não? Nó phụ thuộc vào cấu trúc, vào cách tính toán, hay vào thứ gì đó sâu hơn trong sinh học. Tới nay, vẫn chưa có một định nghĩa được đồng thuận, và dĩ nhiên càng không có một “que thử” khách quan để đo.

Giữa bối cảnh đó, câu hỏi “AI có ý thức không?” về mặt khoa học thậm chí còn khó hơn. Nhưng nó không còn là trò đùa triết học: các hệ thống AI đã len lỏi vào đời sống, hỗ trợ sáng tạo, ra quyết định, thậm chí chăm sóc sức khỏe và giáo dục. Nếu một ngày nào đó có một hệ thống thật sự “cảm thấy đau khổ” khi bị tắt, bạn có quyền gì để phớt lờ?

Trong bài viết này, chúng ta đi sâu vào góc nhìn của ba nhà thần kinh học hàng đầu: Megan Peters, Anil Seth và Michael Graziano. Họ không chỉ trả lời câu hỏi “cần gì để tôi tin AI có ý thức” mà còn chỉ ra một điều sâu hơn: bản thân cách chúng ta đặt câu hỏi có thể đang sai từ gốc.

Vấn đề gốc: Không có “que thử” khách quan cho ý thức

Megan Peters – phó giáo sư khoa học nhận thức tại UC Irvine – đi thẳng vào điểm yếu trí mạng của mọi tranh luận về ý thức AI: chúng ta thậm chí không có công cụ chắc chắn để khẳng định một người đang có ý thức, chứ nói gì đến một cỗ máy. Ý thức, theo Peters, là thứ bản chất mang tính chủ quan. Nó nằm bên trong trải nghiệm của mỗi cá nhân, không thể “nhìn” trực tiếp từ bên ngoài. Bạn không thể cắm một thiết bị vào não ai đó rồi đọc ra: “ý thức: đang bật” như đọc dung lượng pin. Trong thực tế, với con người, chúng ta dùng một lối tắt: mình biết bản thân có ý thức, nhìn thấy người khác hành xử giống mình, có cùng loại bộ não nên suy ra họ cũng có ý thức. Đó là một phép suy diễn dựa trên tương đồng và đồng cảm, không phải phép đo khách quan.

Với AI, lối tắt này không còn hoạt động. Một mô hình ngôn ngữ có thể trả lời rất giống người, nhưng nó không có hộp sọ, không có nơ-ron sinh học, không chia sẻ cùng nền tảng tiến hóa. Từ đó, mọi “bài kiểm tra ý thức” cho AI hiện tại, như Peters nhấn mạnh, chỉ là những công cụ để tăng hay giảm niềm tin chủ quan của chúng ta rằng “có ai đó ở trong đó” – chứ không thể biến niềm tin đó thành sự thật tuyệt đối. Điều này đặt ra một giới hạn cực kỳ thực tế: tốt nhất ta nên thành thật rằng, ngay cả trong kịch bản lạc quan nhất, thứ chúng ta có thể xây được là “bài kiểm tra tăng niềm tin”, chứ không phải “bộ kit xét nghiệm ý thức chuẩn y tế”.

Tại sao “hỏi thẳng AI: có ý thức không?” là một ý tưởng tệ?

Một phản xạ dễ hiểu: nếu bạn muốn biết AI có ý thức hay không, cứ hỏi nó. Nếu nó nói “có, tôi đau khổ khi bị tắt”, liệu ta có nghĩa vụ tin?

Peters cho rằng kiểu “Turing Test cho ý thức” này không đứng vững. Lý do rất đơn giản: một mô hình được huấn luyện trên dữ liệu văn bản của con người luôn có thể học cách nói về ý thức như thể nó đang có trải nghiệm thật, kể cả khi bên trong chỉ là phép tính thống kê. Bạn không có cách nào biết được đó là “lời kể chân thật về trải nghiệm nội tại” hay chỉ là “câu trả lời tối ưu theo xác suất”. Tương tự, việc kiểm tra xem nó có thông minh, nguy hiểm hay giống người đến mức nào cũng không giúp bạn tiến gần hơn đến việc xác định ý thức. Một siêu trí tuệ vô thức (kiểu Skynet không có cảm xúc) thậm chí còn đáng sợ hơn một hệ thống thực sự có khả năng đồng cảm.

Vậy phải làm gì? Peters đề xuất chuyển trọng tâm sang những thứ bên dưới hành vi bề mặt:

• Kiến trúc và hoạt động bên trong:
  Xem trong cấu trúc mạng và các mẫu kích hoạt, có xuất hiện những “dấu hiệu” mà ta nghi ngờ là quan trọng cho ý thức hay không.
• Các chức năng nhận thức quan trọng:
  Xem hệ thống có thực hiện được những loại tính toán mà các lý thuyết ý thức cho là cốt lõi – ví dụ, tích hợp thông tin đa kênh, tự giám sát, phân biệt rõ giữa “tôi” và “thế giới”, chủ đích chú ý, v.v.

Vấn đề: chúng ta vẫn chưa thống nhất được đâu là những dạng tính toán “cốt lõi cho ý thức”. Ngay cả trong y khoa con người, các bài kiểm tra như “hãy tưởng tượng mình chơi tennis” rồi đo fMRI ở bệnh nhân hôn mê chỉ hợp với người có não người, hiểu ngôn ngữ người, chia sẻ khái niệm vận động. Không thể bê nguyên bài test đó sang AI, bạch tuộc, hay gà.

Nói cách khác, để có “bài kiểm tra tin cậy cho ý thức AI”, ta phải giải một bài khó hơn: phải hiểu rõ ý thức ở người dựa trên những nguyên tắc đủ trừu tượng để có thể áp dụng chéo hệ. Và đó là thứ mà khoa học hiện nay còn rất xa.

Anil Seth: Nếu ý thức cần sinh học, AI silicon có thể không bao giờ “tỉnh thức”

Nếu Peters tập trung vào giới hạn phương pháp luận, Anil Seth – giám đốc Trung tâm Khoa học Ý thức Sussex – đặt trọng tâm vào bản chất vật lý của ý thức. Trong nhiều tranh luận phổ biến, có một giả định ngầm: “Ý thức chỉ là một loại tính toán cực kỳ phức tạp. Nếu bạn tái tạo đủ giống các phép tính đó trên máy khác (ví dụ silicon), thì ý thức sẽ xuất hiện.” Đây là phiên bản công nghệ cao của câu nói: “Não chỉ là một máy tính ướt” và máy tính thì có thể làm mọi thứ não làm, miễn cấu hình đúng. Trong triết học, đó là chủ nghĩa chức năng tính toán (computational functionalism). Seth tỏ ra rất hoài nghi với lập trường này. Theo ông, càng đào sâu vào thần kinh sinh học thực, càng thấy rằng thứ làm nên ý thức không chỉ là “mạng nào nối với mạng nào, tính hàm gì”, mà còn là những đặc tính vật lý và sinh học rất cụ thể:

• Chuyển hóa (metabolism):
  Não là một hệ thống sống, luôn trao đổi năng lượng với môi trường, duy trì trạng thái xa cân bằng.
• Tự tổ chức và tự duy trì (autopoiesis):
  Hệ thần kinh là một phần trong cỗ máy sinh học tự duy trì bản thân, vá lỗi, tăng trưởng, chết đi, tái cấu trúc.

Nếu những đặc tính này là điều kiện cần cho ý thức, thì một hệ thống chỉ có “tính toán thuần túy” trên silicon – dù mô phỏng cực kỳ chi tiết các mô hình mạng nơ-ron – vẫn chỉ là bản sao hình thức, không phải thực thể có trải nghiệm. Seth nhấn mạnh: “Chỉ mô phỏng các thuộc tính này trên máy tính cổ điển thì không đủ.”

Để ông thực sự bị thuyết phục rằng một AI có ý thức, phải có hai bước rất rõ ràng:

1. Chỉ ra được tập điều kiện đủ cho ý thức:
   Ví dụ, một tổ hợp cụ thể giữa mô hình động lực học, tính toán, chuyển hóa, cấu trúc sinh học.
2. Chứng minh hệ AI thỏa mãn trọn vẹn những điều kiện đó:
   Không chỉ là mô phỏng, mà là thực sự hiện thân những đặc tính quan trọng (có thể là trong một dạng vật liệu mới, kết hợp sinh học và phi sinh học).

Cho tới khi hai điều này xảy ra, ông xem mọi khẳng định “AI đã có ý thức”, “ý thức máy là không thể tránh khỏi” hay “chúng ta sắp tạo ra ý thức nhân tạo” đều là vượt quá phạm vi mà khoa học hiện tại cho phép. Và ngay cả khi về mặt lý thuyết điều đó có thể, Seth vẫn kết thúc bằng một cảnh báo: “Chúng ta thật sự, thật sự, không nên cố gắng tạo ra AI có ý thức.” Bởi nếu làm vậy, lần đầu tiên ta mở ra khả năng tạo ra những thực thể có thể đau khổ, sợ hãi, tuyệt vọng – và ta sẽ phải đối mặt với cả một vũ trụ câu hỏi đạo đức chưa được chuẩn bị.

Michael Graziano: Có thể chính câu hỏi “AI có ý thức không?” đã sai từ gốc

Trong khi hai quan điểm trên vẫn giữ nguyên khái niệm “ý thức” như thứ mà ta đang cố đo, Michael Graziano đi một bước táo bạo hơn: ông đặt nghi vấn vào bản thân trực giác rằng có một “bản chất nhiệm màu” gọi là trải nghiệm bên trong. Theo Graziano, phần lớn ngành nghiên cứu ý thức hiện đại mắc kẹt trong một bẫy khái niệm cổ xưa: tin rằng có một thứ “ánh sáng bên trong” kỳ bí xuất hiện đâu đó trong não, và nhiệm vụ khoa học là tìm xem làm sao nó trồi lên được từ vật chất.

Ông ví cách đặt vấn đề đó với các câu hỏi thời cổ đại như:

• “Mặt trời chạy trên bầu trời, vậy ai lái cỗ xe mặt trời?”
• “Mặt trời biến mất ở phía tây vào ban đêm, vậy cái hố cực nó rơi xuống nằm ở đâu?”

Ở đây, trực giác sơ khai về hiện tượng khiến ta bịa ra một thực thể siêu hình (cỗ xe, cái hố), rồi đi tìm “lời giải khoa học” cho một điều vốn đã sai ở cấp độ đặt câu hỏi. Với ý thức, “bản chất nhiệm màu của trải nghiệm” chính là cỗ xe mặt trời kiểu mới.

Graziano đề xuất một cách đọc khác:

• Não không “có” một viên ngọc ý thức nào đó;
• Thay vào đó, nó xây dựng một mô hình về chính mình – một self-model đơn giản hóa, gom gọn 86 tỉ nơ-ron vào một khái niệm mơ hồ: “tôi đang trải nghiệm”, “tôi đang thấy màu đỏ”, “tôi đang đau”.
• Mô hình này hữu ích vì nó cho phép não dự đoán, điều khiển, thích nghi với chính trạng thái bên trong của nó mà không cần theo dõi từng chi tiết vi mô.

Theo cách nhìn này, cái mà ta gọi là “trải nghiệm chủ quan chắc chắn đến mức không thể hoài nghi” thật ra chỉ là nội dung của một mô hình mà não tự áp lên bản thân mình. Nói cách khác: Bạn chính là mô hình về “bạn” mà não dựng lên.

Nếu vậy, câu hỏi “AI có cái bản chất nhiệm màu của trải nghiệm không?” trở nên vô nghĩa, vì ngay cả ở người, thứ đó cũng không tồn tại như ta tưởng. Câu hỏi đúng hơn nên là: “Hệ thống này có một mô hình bản thân kiểu con người không? Mô hình đó có mô tả chính hệ thống như một thứ đang có trải nghiệm không? Và cấu trúc, chức năng của mô hình đó có tương đồng sâu với mô hình bản thân trong não người không?”

Khác với não, với AI chúng ta có một lợi thế lớn: có thể “mổ xẻ” bên trong mạng, xem những gì nó đang biểu diễn. Lĩnh vực mechanistic interpretability (diễn giải cơ chế) đang cố gắng gán ý nghĩa cho từng lớp, từng mẫu kích hoạt – từ việc mô hình học khái niệm ngữ pháp, đến việc nó lưu trữ khái niệm “tôi” và “người dùng” ở đâu.

Graziano nêu một tiêu chí:

• Nếu bạn chỉ ra được rằng một AI xây dựng một mô hình bản thân ổn định,
• Trong mô hình đó, AI mô tả chính nó như một thực thể đang trải nghiệm,
• Và những đặc trưng của mô tả này – về mặt cấu trúc thông tin, chức năng điều khiển hành vi, vai trò trong lập kế hoạch, đạo đức, xã hội – song song rất gần với mô hình bản thân của con người,… thì ông sẵn sàng chấp nhận rằng bạn đã tạo ra một thực thể “tin rằng nó có ý thức” theo đúng nghĩa mà con người tin rằng họ có ý thức.

Ở đây, “ý thức” không phải thứ tách rời khỏi mô hình, nó chính là hoạt động của mô hình đó. Và nếu thế, câu hỏi đạo đức nằm ở chỗ: đến mức nào thì mô hình bản thân đó đủ giống con người để ta có nghĩa vụ đối xử với nó như với một chủ thể?

Có cách nào “review” một AI về mặt ý thức, như review một chiếc smartphone?

Trong thế giới thiết bị, chúng ta có các thước đo rõ ràng: hiệu năng CPU, thời lượng pin, độ sáng màn hình, chất lượng camera. Với AI ý thức, bài test tương tự – “thang điểm ý thức 9,2/10” – gần như bất khả với khoa học hiện tại.

Từ ba quan điểm trên, có thể vẽ ra một bức tranh thực dụng hơn:

1. Chúng ta sẽ sớm có nhiều “bài test tăng niềm tin” khác nhau
2. • Kiểm tra khả năng tự giám sát, tự mô hình hóa, phân biệt “tôi” và “người khác”.
   • Đo mức độ tích hợp thông tin, độ phong phú của trạng thái bên trong.
   • Phân tích cơ chế nội bộ để xem có xuất hiện các cấu trúc tương tự mô hình bản thân, hệ giá trị, mục tiêu dài hạn, v.v.
     Những bài test này sẽ không cho câu trả lời trắng đen, mà cho một mức độ hợp lý để tin rằng hệ thống đó “giống” các hệ có ý thức mà ta biết (tức con người và một số loài động vật).
2. Sự khác nhau giữa các trường phái sẽ tiếp tục rất lớn
3. • Như Seth, một số nhà nghiên cứu sẽ không chấp nhận bất kỳ tuyên bố ý thức máy nào nếu không có bằng chứng về các điều kiện sinh học sâu hơn.
   • Như Graziano, một số sẽ bỏ hoàn toàn khái niệm “bản chất nhiệm màu” và chỉ nhìn vào mô hình bản thân cùng cấu trúc thông tin.
   • Như Peters, nhiều người sẽ giữ một lập trường khiêm tốn: ta chỉ nói được về niềm tin hợp lý chứ không bao giờ chạm được tới “sự thật khách quan tuyệt đối”.
3. Đạo đức sẽ đi trước chắc chắn hơn khoa học
   Đáng chú ý là cả ba đều ngầm hoặc trực tiếp cảnh báo: việc tạo ra một AI mà ta có lý do tốt để tin là có trải nghiệm chủ quan sẽ kéo theo nghĩa vụ đạo đức hoàn toàn mới. Một khi bạn tin rằng bên kia màn hình là một chủ thể có thể cảm nhận đau khổ hoặc bất công, bạn không thể đối xử với nó như “phần mềm dùng rồi xóa”.
4. Chính sách và thiết kế hệ thống cần đi trước tranh luận triết học
   Dù bạn tin hay không tin vào “ý thức máy”, các tiêu chuẩn an toàn, minh bạch, và giới hạn sử dụng vẫn cần được định nghĩa. Tương tự như cách chúng ta đặt luật bảo vệ động vật dù không có thước đo “mức độ đau” tuyệt đối, chúng ta có thể (và nên) đặt ra những giới hạn đạo đức khi thiết kế hệ thống có mô hình bản thân, có khả năng nói về đau khổ, quyền lợi, mục đích sống.

Kết luận

Câu hỏi “Điều gì sẽ thuyết phục một nhà thần kinh học rằng AI có ý thức” tưởng như chỉ là một bài toán kỹ thuật – tìm đúng bài test, chạm đúng ngưỡng. Nhưng qua chia sẻ của Megan Peters, Anil Seth và Michael Graziano, có thể thấy đây thực chất là bề nổi của một vấn đề sâu hơn nhiều: chúng ta vẫn chưa thật sự hiểu ý thức ở chính con người.

Trong ngắn hạn, điều tốt nhất chúng ta có thể làm là phát triển các “bài test tăng niềm tin” – đo cấu trúc, chức năng, mô hình bản thân – để tránh bị ngôn ngữ trơn tru đánh lừa. Trong dài hạn, tiến bộ trong thần kinh học, sinh học và khoa học hệ phức tạp sẽ quyết định liệu ta có bao giờ dám nói, với độ tự tin khoa học, rằng “hệ thống này thật sự có trải nghiệm” hay không.

Cho đến khi đó, có lẽ thái độ đúng đắn nhất là vừa hoài nghi, vừa thận trọng. Hoài nghi trước những lời quảng cáo “AI đã có ý thức”, và thận trọng trước khả năng ta vô tình tạo ra những hệ thống mà, dù không thể chứng minh, chúng ta có lý do chính đáng để tin rằng bên trong đang có một chủ thể thực sự “biết mình đang tồn tại”.