Gần đây tôi đã đi nghỉ ở Italy. Như mọi người thường làm ngày nay, tôi đã chạy hành trình của mình qua GPT-5 để xin gợi ý tham quan và khuyến nghị nhà hàng. Bot báo cáo rằng lựa chọn hàng đầu cho bữa tối gần khách sạn của chúng tôi ở Rome là một quãng đường ngắn đi bộ xuống Via Margutta. Hóa ra đó là một trong những bữa ăn ngon nhất mà tôi có thể nhớ. Khi về nhà, tôi hỏi mô hình làm thế nào nó chọn nhà hàng đó, điều mà tôi ngần ngại tiết lộ ở đây trong trường hợp tôi muốn có bàn vào lúc nào đó trong tương lai (Chết tiệt, ai biết được liệu tôi có quay lại không: Nó có tên là Babette. Hãy gọi trước để đặt bàn.) Câu trả lời phức tạp và ấn tượng. Trong số các yếu tố có những đánh giá tuyệt vời từ người dân địa phương, thông báo trong các blog ẩm thực và báo chí Italy, và sự kết hợp được ca ngợi giữa ẩm thực Rome và đương đại của nhà hàng. Ồ, và quãng đường đi bộ ngắn.

Cũng cần có điều gì đó từ phía tôi: niềm tin. Tôi phải tin vào ý tưởng rằng GPT-5 là một nhà môi giới trung thực, chọn nhà hàng của tôi mà không thiên vị; rằng nhà hàng không được hiển thị cho tôi như nội dung được tài trợ và không nhận được một phần từ hóa đơn của tôi. Tôi có thể đã tự mình nghiên cứu sâu để kiểm tra lại khuyến nghị (tôi đã tra cứu trang web), nhưng điểm của việc sử dụng AI là để bỏ qua ma sát đó.

Trải nghiệm này củng cố niềm tin của tôi vào kết quả AI nhưng cũng khiến tôi tự hỏi: Khi các công ty như OpenAI trở nên mạnh mẽ hơn, và khi họ cố gắng trả lại cho các nhà đầu tư, liệu AI có dễ bị xói mòn giá trị mà dường như là đặc tính của các ứng dụng công nghệ chúng ta sử dụng ngày nay không?

Chơi Chữ

Nhà văn và nhà phê bình công nghệ Cory Doctorow gọi sự xói mòn đó là "enshittification" (tạm dịch: quá trình làm tệ hóa). Tiền đề của ông là các nền tảng như Google, Amazon, Facebook và TikTok bắt đầu với mục tiêu làm hài lòng người dùng, nhưng một khi các công ty đánh bại đối thủ cạnh tranh, họ cố ý trở nên kém hữu ích hơn để thu lợi nhuận lớn hơn. Sau khi WIRED tái xuất bản bài tiểu luận tiên phong năm 2022 của Doctorow về hiện tượng này, thuật ngữ này đã đi vào từ vựng thông dụng, chủ yếu vì mọi người nhận ra rằng nó hoàn toàn chính xác. Enshittification được chọn làm Từ của Năm 2023 của Hiệp hội Phương ngữ Mỹ. Khái niệm này đã được trích dẫn thường xuyên đến mức vượt qua tính tục tĩu của nó, xuất hiện trong các địa điểm thường sẽ nhăn mũi với từ như vậy. Doctorow vừa xuất bản một cuốn sách cùng tên về chủ đề này; hình ảnh bìa là emoji cho... đoán xem cái gì.

Nếu chatbot và AI agent trở nên enshittified, nó có thể tệ hơn việc Google Search trở nên kém hữu ích, kết quả Amazon bị tràn ngập quảng cáo, và thậm chí Facebook hiển thị ít nội dung xã hội hơn để ưu tiên clickbait tạo ra sự tức giận.

AI đang trên quỹ đạo trở thành người bạn đồng hành liên tục, đưa ra câu trả lời một lần cho nhiều yêu cầu của chúng ta. Mọi người đã dựa vào nó để giúp diễn giải các sự kiện hiện tại và nhận lời khuyên về tất cả các loại lựa chọn mua sắm—và thậm chí cả lựa chọn cuộc sống. Do chi phí khổng lồ để tạo ra một mô hình AI đầy đủ, có thể giả định một cách công bằng rằng chỉ một vài công ty sẽ thống trị lĩnh vực này. Tất cả họ đều dự định chi hàng trăm tỷ đô la trong vài năm tới để cải thiện mô hình của mình và đưa chúng vào tay càng nhiều người càng tốt. Ngay bây giờ, tôi sẽ nói AI đang ở giai đoạn mà Doctorow gọi là "tốt cho người dùng". Nhưng áp lực để thu hồi các khoản đầu tư vốn khổng lồ sẽ rất lớn—đặc biệt đối với các công ty có cơ sở người dùng bị khóa. Những điều kiện đó, như Doctorow viết, cho phép các công ty lạm dụng người dùng và khách hàng doanh nghiệp của họ "để cào lại tất cả giá trị cho chính họ."

Khi người ta tưởng tượng về sự enshittification của AI, điều đầu tiên nảy ra trong đầu là quảng cáo. Cơn ác mông là các mô hình AI sẽ đưa ra khuyến nghị dựa trên việc công ty nào đã trả tiền để được đặt vị trí. Điều đó không xảy ra bây giờ, nhưng các công ty AI đang tích cực khám phá không gian quảng cáo. Trong một cuộc phỏng vấn gần đây, CEO OpenAI Sam Altman nói, "Tôi tin rằng có lẽ có một số sản phẩm quảng cáo tuyệt vời mà chúng tôi có thể làm, đó là một chiến thắng ròng cho người dùng và một loại tích cực cho mối quan hệ của chúng tôi với người dùng." Trong khi đó, OpenAI vừa công bố thỏa thuận với Walmart để khách hàng của nhà bán lẻ có thể mua sắm bên trong ứng dụng ChatGPT. Không thể tưởng tượng được xung đột ở đó! Nền tảng tìm kiếm AI Perplexity có một chương trình nơi kết quả được tài trợ xuất hiện trong các phần tiếp theo được gắn nhãn rõ ràng. Nhưng, nó hứa, "những quảng cáo này sẽ không thay đổi cam kết của chúng tôi trong việc duy trì một dịch vụ đáng tin cậy cung cấp cho bạn những câu trả lời trực tiếp, không thiên vị cho các câu hỏi của bạn."

Liệu những ranh giới đó có giữ được không? Người phát ngôn Perplexity Jesse Dwyer nói với tôi, "Đối với chúng tôi, đảm bảo số một là chúng tôi sẽ không để điều đó xảy ra." Và tại ngày dành cho nhà phát triển gần đây của OpenAI, Altman nói rằng công ty "cực kỳ nhận thức được nhu cầu phải rất cẩn thận" về việc phục vụ người dùng thay vì phục vụ chính mình. Học thuyết Doctorow không tin tưởng nhiều vào những tuyên bố như vậy: "Một khi một công ty có thể enshittify sản phẩm của mình, nó sẽ đối mặt với cám dỗ lâu dài để enshittify sản phẩm của mình," ông viết trong cuốn sách của mình.

Đặt quảng cáo trong các cuộc trò chuyện chatbot hoặc trong kết quả tìm kiếm không phải là cách duy nhất mà AI có thể trở nên enshittified. Doctorow trích dẫn các ví dụ nơi các công ty, một khi họ thống trị thị trường, thay đổi mô hình kinh doanh và phí của họ. Ví dụ, vào năm 2023, Unity, nhà cung cấp công cụ phát triển trò chơi điện tử phổ biến nhất, quyết định tính "phí runtime" mới. Hành vi sai trái đó nghiêm trọng đến mức người dùng nổi loạn và buộc phí phải được rút lại. Nhưng hãy nhìn vào những gì đã xảy ra với các dịch vụ streaming như Amazon Prime Video: Nó từng là một dịch vụ không quảng cáo. Bây giờ nó buộc bạn xem quảng cáo trước và trong suốt bộ phim. Bạn phải trả tiền để tắt chúng. Ồ, và giá của Amazon Prime tiếp tục tăng. Vì vậy, có thể đó là thực hành tiêu chuẩn của big-tech để khóa người dùng vào một dịch vụ và sau đó tính phí ngày càng cao hơn. Thậm chí có thể là để duy trì cùng mức độ thông minh trong kết quả của chatbot, người dùng một ngày nào đó có thể phải nâng cấp lên một tầng cao hơn, thậm chí đắt hơn—một thủ thuật enshittification khác. Có thể các công ty từng hứa rằng hoạt động chatbot của bạn sẽ không được sử dụng để huấn luyện các mô hình tương lai sẽ thay đổi suy nghĩ về điều đó—đơn giản vì họ có thể thoát tội.

Cory Phát Biểu

Doctorow không đề cập đến AI trong cuốn sách của mình, vì vậy tôi đã gọi cho ông để xem liệu ông có nghĩ rằng danh mục này định mệnh phải đi xuống con đường phân. Tôi mong đợi rằng ông có thể phác thảo các cách khác nhau mà các công ty AI sẽ trở thành nạn nhân của hội chứng hôi thối của mình. Thật ngạc nhiên, ông có một quan điểm khác. Ông không phải là fan của AI, và ông tuyên bố lĩnh vực này thậm chí chưa đạt đến giai đoạn "tốt cho người dùng" mà tôi đã phác thảo trước đó. Tuy nhiên, ông nói, có thể là quá trình enshittification vẫn xảy ra. Bởi vì rất khó để thấy những gì diễn ra bên trong "hộp đen" của LLM, ông nói, "họ có khả năng ngụy trang việc enshittifying của mình theo cách cho phép họ thoát tội với rất nhiều thứ." Trên hết, ông nói, "kinh tế học khủng khiếp" của lĩnh vực này đòi hỏi rằng các công ty không thể đủ khả năng chờ đợi và sẽ enshittify ngay cả trước khi họ mang lại giá trị. "Tôi nghĩ họ sẽ thử mọi mánh khóe đổ mồ hôi mà bạn có thể tưởng tượng khi kinh tế học xoay quanh cống thoát," ông nói.

Tôi không đồng ý với Doctorow về giá trị của AI. Này, nó đã tìm ra Babette cho tôi! Nhưng tôi thực sự lo sợ rằng công nghệ có thể dễ bị quá trình enshittification mà ông đã xác định một cách chính xác trong các gã khổng lồ công nghệ hiện tại. Và đoán xem—GPT-5 đồng ý với tôi. Khi tôi đặt câu hỏi cho chatbot, nó trả lời, "Khung 'enshittification' của Doctorow (các nền tảng bắt đầu tốt cho người dùng, sau đó chuyển giá trị cho khách hàng doanh nghiệp, sau đó trích xuất nó cho chính họ) ánh xạ một cách đáng lo ngại tốt vào các hệ thống AI nếu các động cơ không được kiểm soát." GPT-5 sau đó tiếp tục trình bày một số phương pháp mà các công ty AI có thể làm suy giảm sản phẩm của họ vì lợi nhuận và quyền lực. Các công ty AI có thể đảm bảo với chúng ta rằng họ sẽ không enshittify. Nhưng chính sản phẩm của họ đã viết ra bản thiết kế.