Josh đã kiệt sức khi phải nhờ đến ChatGPT để giải quyết một tình huống khó xử trong việc nuôi dạy con. Người cha 40 tuổi có hai con này đã phải nghe đứa con 4 tuổi "cực kỳ lắm lời" của mình kể về Thomas Tàu Hỏa suốt 45 phút, và anh cảm thấy choáng ngợp.
"Nó chưa kể xong câu chuyện mà nó muốn kể, còn tôi cần làm việc nhà, nên tôi đưa điện thoại cho nó," Josh, sống ở tây bắc Ohio, nhớ lại. "Tôi nghĩ nó sẽ kể xong câu chuyện rồi điện thoại sẽ tắt."
Nhưng khi Josh quay lại phòng khách hai tiếng sau, anh thấy đứa con vẫn đang vui vẻ trò chuyện với ChatGPT ở chế độ giọng nói. "Bản ghi âm dài hơn 10.000 từ," anh thú nhận trong một bài đăng Reddit đầy xấu hổ. "Con trai tôi nghĩ ChatGPT là người yêu tàu hỏa tuyệt vời nhất thế giới. Giờ tiêu chuẩn đã được đặt quá cao, tôi không bao giờ có thể cạnh tranh được với điều đó."
Từ radio và truyền hình đến trò chơi điện tử và máy tính bảng, công nghệ mới từ lâu đã quyến rũ những bậc cha mẹ quá tải với trẻ mầm non bằng lời hứa về giải trí và làm giàu kiến thức mà không cần sự giám sát trực tiếp của họ, ngay cả khi nó mang theo chút đe dọa đi kèm với bất kỳ ảnh hưởng bên ngoài nào đến không gian gia đình. Một thế kỷ trước, các bà mẹ ở Arizona lo lắng rằng các chương trình radio "quá kích thích, đáng sợ và gây choáng ngợp về mặt cảm xúc" đối với trẻ em; các bậc cha mẹ ngày nay tự trừng phạt bản thân vì thời gian sử dụng màn hình và mạng xã hội.
Nhưng khả năng sống động đáng kinh ngạc của các hệ thống AI tạo sinh đã khiến nhiều bậc cha mẹ tự hỏi liệu AI có phải là một con quái vật hoàn toàn mới. Các chatbot được hỗ trợ bởi mô hình ngôn ngữ lớn đang thu hút trẻ nhỏ theo những cách mà các nhà sản xuất trò chơi cờ bàn, Teddy Ruxpin, Furby và thậm chí cả iPad chưa từng mơ tới: chúng tạo ra những câu chuyện ru ngủ cá nhân hóa, tiến hành các cuộc trò chuyện phù hợp với sở thích của trẻ, và tạo ra những hình ảnh chân thực đến từng chi tiết của những ý tưởng viển vông nhất - tất cả dành cho một đứa trẻ chưa biết đọc, viết hay đánh máy.
Liệu AI tạo sinh có thể mang đến chén thánh của sự hỗ trợ công nghệ cho cha mẹ, đóng vai trò như một Mary Poppins kỹ thuật số giáo dục, thách thức và truyền cảm hứng, tất cả trong khuôn khổ các nguyên tắc đạo đức mạnh mẽ và an toàn phù hợp với lứa tuổi? Hay tất cả chỉ là một bong bóng cường điệu khác của Thung lũng Silicon với một nhóm người thử nghiệm đặc biệt dễ bị tổn thương?
"Con tôi là những con chuột bạch"
Đối với Saral Kaushik, một kỹ sư phần mềm 36 tuổi và là cha của hai đứa trẻ ở Yorkshire, một gói kem "phi hành gia" sấy khô trong tủ đã cung cấp cảm hứng cho việc sử dụng ChatGPT một cách mới lạ với đứa con trai 4 tuổi của mình.
"Tôi chỉ nói một cái gì đó như, 'Tôi sẽ gọi điện thoại với con trai mình và tôi muốn bạn giả vờ rằng bạn là một phi hành gia trên ISS,'" Kaushik nói. Anh cũng hướng dẫn chương trình nói với cậu bé rằng nó đã gửi cho cậu một món quà đặc biệt.
"[ChatGPT] nói với nó rằng nó đã gửi cho bố nó một ít kem để thử từ không gian, và tôi lấy nó ra," Kaushik nhớ lại. "Nó thực sự hào hứng khi nói chuyện với phi hành gia. Nó hỏi những câu hỏi về cách họ ngủ. Nó rạng rỡ, nó rất vui."
Thời thơ ấu là thời gian của phép màu và kỳ diệu, và việc sống trong thế giới tưởng tượng không chỉ bình thường mà còn được khuyến khích bởi các chuyên gia phát triển trẻ em sớm, những người từ lâu đã nhấn mạnh tầm quan trọng của trò chơi tưởng tượng. Đối với một số bậc cha mẹ, AI tạo sinh có thể giúp thúc đẩy cảm giác sáng tạo và kỳ diệu đó.
Con gái của Josh, 6 tuổi, thích ngồi với bố ở máy tính và nghĩ ra những câu chuyện để ChatGPT minh họa. (Một số bậc cha mẹ được phỏng vấn cho bài viết này yêu cầu chỉ được xác định bằng tên đầu tiên.) "Khi chúng tôi bắt đầu sử dụng nó, nó sẵn sàng tạo ra một hình minh họa về con gái tôi và chèn vào câu chuyện," Josh nói, mặc dù các bản cập nhật an toàn gần đây đã khiến nó không còn tạo ra hình ảnh của trẻ em nữa. Kaushik cũng sử dụng ChatGPT để chuyển đổi ảnh gia đình thành các trang tô màu cho con trai mình.
Ben Kreiter, một người cha ba con ở Michigan, đã giải thích ChatGPT cho các con 2, 6 và 8 tuổi của mình sau khi chúng thấy anh thử nghiệm khả năng tạo hình ảnh của nó cho công việc (anh thiết kế chương trình giảng dạy cho một trường giáo xứ trực tuyến). "Tôi nói, 'Bố bảo máy tính tạo ra một bức tranh và nó tạo ra,' và chúng nói: 'Chúng con có thể thử không?'" Chẳng mấy chốc, bọn trẻ yêu cầu tạo hình ảnh với ChatGPT mỗi ngày. "Thật tuyệt khi tôi thấy những gì chúng đang tưởng tượng mà chúng chưa thể [vẽ] trên giấy bằng bút chì màu."
Kreiter, giống như tất cả các bậc cha mẹ được phỏng vấn cho bài viết này, chỉ cho phép con mình sử dụng ChatGPT với sự giúp đỡ và giám sát của anh, nhưng khi chúng trở nên say mê công cụ này hơn, mối lo ngại của anh tăng lên. Vào tháng 10 năm 2024, tin tức về một cậu bé 14 tuổi tự tử sau khi bị ám ảnh với một chatbot do Character.ai tạo ra đã bùng nổ. Cha mẹ của ít nhất hai thanh thiếu niên khác đã đệ đơn kiện cáo buộc rằng các chatbot AI đã góp phần vào việc tự tử của con họ, và các báo cáo tin tức ngày càng nổi bật những câu chuyện đáng lo ngại về người lớn hình thành mối gắn kết cảm xúc mãnh liệt với các bot hoặc mất liên lạc với thực tế.
"Càng trở thành một phần của cuộc sống hàng ngày và tôi càng đọc nhiều về nó, tôi càng nhận ra có rất nhiều điều tôi không biết về việc điều này đang làm gì với não bộ của chúng," Kreiter nói. "Có lẽ tôi không nên để con mình trở thành những con chuột bạch."
"[Con gái tôi] biết [ChatGPT] không phải là người thật, nhưng... nó giống như một nàng tiên đại diện cho toàn bộ internet" - Josh.
Nghiên cứu về cách AI tạo sinh ảnh hưởng đến sự phát triển của trẻ em vẫn đang trong giai đoạn đầu, mặc dù nó dựa trên các nghiên cứu xem xét các dạng AI kém tinh vi hơn, chẳng hạn như trợ lý giọng nói kỹ thuật số như Alexa và Siri. Nhiều nghiên cứu đã phát hiện ra rằng tương tác xã hội của trẻ nhỏ với các công cụ AI khác biệt một cách tinh tế so với tương tác với con người, với trẻ em từ 3 đến 6 tuổi có vẻ "kém tích cực" hơn trong các cuộc trò chuyện với loa thông minh. Phát hiện này cho thấy trẻ em coi các tác nhân AI tồn tại ở đâu đó giữa ranh giới giữa các thực thể có sinh khí và vô sinh, theo Ying Xu, giáo sư giáo dục tại Trường Cao học Giáo dục Harvard.
Hiểu được liệu một vật thể là sinh vật sống hay đồ tạo tác là một sự phát triển nhận thức quan trọng giúp trẻ đánh giá mức độ tin tưởng đặt vào vật thể đó và loại mối quan hệ nào cần hình thành với nó, Xu giải thích, người có nghiên cứu tập trung vào cách AI có thể thúc đẩy học tập cho trẻ em. Trẻ em bắt đầu phân biệt này từ thời thơ ấu và thường phát triển hiểu biết tinh vi về nó vào tuổi 9 hoặc 10. Nhưng trong khi trẻ em luôn gán cho các vật vô sinh như gấu bông và búp bê những tính cách và khả năng tưởng tượng, ở một mức độ nào đó chúng biết rằng phép màu đang đến từ tâm trí của chính chúng.
"Một chỉ báo rất quan trọng của việc trẻ em nhân cách hóa AI là chúng tin rằng AI có tác nhân," Xu nói. "Nếu chúng tin rằng AI có tác nhân, chúng có thể hiểu nó như AI muốn nói chuyện với chúng hoặc chọn nói chuyện với chúng. Chúng cảm thấy rằng AI đang phản hồi các tin nhắn của chúng, và đặc biệt là những tiết lộ cảm xúc, theo những cách tương tự như cách con người phản hồi. Điều đó tạo ra rủi ro rằng chúng thực sự tin rằng chúng đang xây dựng một loại mối quan hệ xác thực nào đó."
Trong một nghiên cứu xem xét trẻ em từ 3 đến 6 tuổi phản hồi với thiết bị Google Home Mini, Xu phát hiện ra rằng đa số coi thiết bị là vô sinh, nhưng một số gọi nó là sinh vật sống, và một số đặt nó ở đâu đó ở giữa. Đa số nghĩ rằng thiết bị sở hữu khả năng nhận thức, tâm lý và liên quan đến lời nói (suy nghĩ, cảm nhận, nói và nghe), nhưng hầu hết tin rằng nó không thể "nhìn thấy".
Các bậc cha mẹ đã nói chuyện với Guardian nhận xét về loại vùng xám bản thể học này khi mô tả tương tác của con họ với AI tạo sinh. "Tôi không hoàn toàn biết nó nghĩ ChatGPT là gì, và khó hỏi nó," Kaushik nói về đứa con 4 tuổi của mình. "Tôi không nghĩ nó có thể diễn đạt những gì nó nghĩ nó là."
Con gái của Josh gọi ChatGPT là "internet", như trong "Con muốn nói chuyện với 'internet'." "Nó biết đó không phải là người thật, nhưng tôi nghĩ nó hơi mờ nhạt," anh nói. "Nó giống như một nàng tiên đại diện cho toàn bộ internet."
Đối với Kreiter, việc thấy con mình tương tác với Alexa của Amazon tại nhà một người bạn đã làm dấy lên một cờ đỏ khác. "Chúng không hiểu rằng thứ này không hiểu chúng," anh nói. "Alexa khá thô sơ so với ChatGPT, và nếu chúng đang gặp khó khăn với điều đó... tôi thậm chí không muốn đi đến đó với con mình."
Một mối quan tâm liên quan là liệu khả năng lừa dối trẻ em của AI tạo sinh có phải là vấn đề hay không. Đối với Kaushik, niềm vui thuần khiết của con trai khi nói chuyện với những gì nó nghĩ là một phi hành gia thực sự trên ISS đã dẫn đến cảm giác bất an, và anh quyết định giải thích rằng đó là "một máy tính, không phải con người".
"Nó rất hào hứng đến nỗi tôi cảm thấy hơi tệ," Kaushik nói. "Nó thực sự tin rằng điều đó có thật."
John, một người cha 40 tuổi có hai con từ Boston, đã trải qua một nỗi băn khoăn tương tự khi con trai mình, một đứa trẻ 4 tuổi đang trong cơn ám ảnh xe tải, hỏi liệu sự tồn tại của xe tải quái vật và xe cứu hỏa có ngụ ý sự tồn tại của một xe tải quái vật-cứu hỏa hay không. Không suy nghĩ nhiều về điều đó, John mở công cụ AI tạo sinh của Google trên điện thoại và sử dụng nó để tạo ra một hình ảnh chân thực của một chiếc xe tải có các yếu tố của hai loại xe.
"Khi những mô hình AI bám vào cảm xúc tiêu cực, chúng đang kéo dài sự tham gia vì lý do dựa trên lợi nhuận" Andrew McStay
Chỉ sau một cuộc tranh cãi gay gắt giữa cậu bé, người thề rằng mình đã thấy bằng chứng thực tế về sự tồn tại của một chiếc xe tải quái vật-cứu hỏa, và chị gái 7 tuổi thông thái của cậu, người chắc chắn rằng không có thứ như vậy tồn tại trong thế giới thực, John mới bắt đầu tự hỏi liệu việc đưa AI tạo sinh vào cuộc sống của con mình có phải là quyết định đúng đắn hay không.
"Đó là một chút cảnh báo để có lẽ có chủ ý hơn về loại việc đó," anh nói. "Vợ tôi và tôi đã nói chuyện rất nhiều về cách chúng tôi sẽ xử lý mạng xã hội hơn là về AI. Chúng tôi rất millennials, vì vậy chúng tôi đã có 20 năm câu chuyện kinh hoàng về mạng xã hội, nhưng ít hơn nhiều về AI."
Đối với Andrew McStay, giáo sư công nghệ và xã hội tại Đại học Bangor chuyên nghiên cứu về AI tuyên bố phát hiện cảm xúc của con người, loại bóp méo thực tế này không nhất thiết là mối quan tâm lớn. Nhớ lại những bộ phim chuyển động đầu tiên của anh em Lumière, ông nói: "Khi họ lần đầu tiên cho mọi người xem một màn hình lớn với những đoàn tàu đang đến [về phía họ], mọi người nghĩ rằng những đoàn tàu thực sự đang ra khỏi màn hình. Có một sự trưởng thành cần được thực hiện... Mọi người, trẻ em và người lớn, sẽ trưởng thành."
Tuy nhiên, McStay thấy một vấn đề lớn hơn với việc để trẻ em tiếp xúc với công nghệ được hỗ trợ bởi mô hình AI: "Cha mẹ cần biết rằng những thứ này không được thiết kế vì lợi ích tốt nhất của trẻ em."
Giống như Xu, McStay đặc biệt quan tâm đến cách mà mô hình AI có thể tạo ra ảo tưởng về sự quan tâm hoặc đồng cảm, thúc đẩy trẻ chia sẻ cảm xúc - đặc biệt là cảm xúc tiêu cực. "Một mô hình AI không thể [đồng cảm] vì nó là một phần mềm dự đoán," ông nói. "Khi chúng bám vào cảm xúc tiêu cực, chúng đang kéo dài sự tham gia vì lý do dựa trên lợi nhuận. Không có kết quả tốt nào cho trẻ ở đó."
Cả Xu và McStay đều không muốn cấm AI tạo sinh cho trẻ em, nhưng họ cảnh báo rằng bất kỳ lợi ích nào cho trẻ em sẽ chỉ được giải phóng thông qua các ứng dụng được thiết kế đặc biệt để hỗ trợ sự phát triển hoặc giáo dục của trẻ em.
"Có điều gì đó phong phú hơn có thể, nhưng điều đó đến từ việc thiết kế những thứ này một cách có ý nghĩa và chân thành," McStay nói.
"Đối với một đứa trẻ cá nhân, AI có thể tăng hiệu suất của chúng, nhưng đối với một xã hội, chúng ta có thể thấy sự giảm sút của sự đa dạng trong biểu hiện sáng tạo" - Ying Xu.
Xu cho phép con mình sử dụng AI tạo sinh - ở mức độ hạn chế. Con gái 6 tuổi của cô sử dụng chương trình đọc AI mà Xu thiết kế để nghiên cứu liệu AI có thể thúc đẩy khả năng đọc viết và học tập hay không. Cô cũng đã thiết lập một phiên bản tùy chỉnh của ChatGPT để giúp con trai 10 tuổi của mình với các vấn đề toán học và lập trình mà không chỉ đưa ra câu trả lời. (Xu đã cấm rõ ràng các cuộc trò chuyện về trò chơi và kiểm tra bản ghi để đảm bảo con trai mình tập trung vào chủ đề.)
Một trong những lợi ích của AI tạo sinh được các bậc cha mẹ đề cập với tôi - khả năng sáng tạo mà họ tin rằng nó thúc đẩy - vẫn là một câu hỏi mở, Xu nói.
"Vẫn còn tranh luận về việc liệu bản thân AI có sáng tạo hay không," cô nói. "Nó chỉ dựa trên dự đoán thống kê về những gì sẽ xảy ra tiếp theo, và nhiều người đặt câu hỏi liệu điều đó có được coi là sáng tạo hay không. Vậy nếu AI không có sáng tạo, liệu nó có thể hỗ trợ trẻ em tham gia vào trò chơi sáng tạo không?"
Một nghiên cứu gần đây phát hiện ra rằng việc có quyền truy cập vào các gợi ý AI tạo sinh đã tăng khả năng sáng tạo cho các cá nhân trưởng thành được giao nhiệm vụ viết một câu chuyện ngắn, nhưng giảm sự đa dạng tổng thể của đầu ra tập thể của các nhà văn.
"Tôi hơi lo lắng về loại đồng nhất hóa biểu hiện và sáng tạo này," Xu nói về nghiên cứu. "Đối với một đứa trẻ cá nhân, nó có thể tăng hiệu suất của chúng, nhưng đối với một xã hội, chúng ta có thể thấy sự giảm sút của sự đa dạng trong biểu hiện sáng tạo."
"Bạn chơi" AI cho trẻ em
Thung lũng Silicon nổi tiếng với sự sẵn sàng ưu tiên tốc độ hơn an toàn, nhưng các công ty lớn đôi khi đã thể hiện một chút kiềm chế khi nói đến trẻ nhỏ. Cả YouTube và Facebook đều tồn tại ít nhất một thập kỷ trước khi họ ra mắt các sản phẩm dành riêng cho trẻ dưới 13 tuổi (YouTube Kids và Messenger Kids bị chỉ trích nhiều, tương ứng).
Nhưng việc giới thiệu mô hình AI cho trẻ nhỏ dường như đang tiến triển với tốc độ chóng mặt.
Trong khi OpenAI cấm người dùng dưới 13 tuổi truy cập ChatGPT và yêu cầu sự cho phép của cha mẹ đối với thanh thiếu niên, rõ ràng là họ biết rằng trẻ nhỏ đang được tiếp xúc với nó - và coi chúng là thị trường tiềm năng.
Vào tháng 6, OpenAI công bố "hợp tác chiến lược" với Mattel, nhà sản xuất đồ chơi đứng sau Barbie, Hot Wheels và Fisher-Price. Cùng tháng đó, giám đốc điều hành Sam Altman đã phản hồi câu chuyện về trẻ mới biết đi của Josh (đã trở nên khá viral trên Reddit) với điều nghe có vẻ như một chút tự hào. "Trẻ em yêu thích chế độ giọng nói trên ChatGPT," ông nói trên podcast OpenAI, trước khi thừa nhận rằng "sẽ có vấn đề" và "xã hội sẽ phải tìm ra các rào cản mới."
Trong khi đó, các startup như Curio có trụ sở tại Thung lũng Silicon - đã hợp tác với nhạc sĩ Grimes trên một đồ chơi được hỗ trợ bởi OpenAI có tên Grok - đang chạy đua nhồi các hộp giọng nói được trang bị mô hình AI vào đồ chơi nhồi bông và tiếp thị chúng cho trẻ em.
Lời giới thiệu cho các đồ chơi như Grok của Curio là chúng có thể "học" tính cách của con bạn và phục vụ như một loại bạn đồng hành vui vẻ và giáo dục trong khi giảm thời gian sử dụng màn hình. Đó là một thị trường ngách cổ điển của Thung lũng Silicon - khai thác những lo ngại hợp lý về thế hệ công nghệ trước để bán thế hệ tiếp theo. Các nhà lãnh đạo công ty cũng đã gọi con thú nhồi bông là thứ gì đó "giữa một người em trai nhỏ và một con vật cưng" hoặc "như một người bạn chơi" - ngôn ngữ ngụ ý loại tác nhân có sinh khí mà mô hình AI thực sự không có.
Không rõ liệu chúng có thực sự là đồ chơi đủ tốt để cha mẹ phải lo lắng nhiều hay không. Xu nói rằng con gái cô đã nhanh chóng đưa các đồ chơi nhồi bông AI vào tủ quần áo, thấy các khả năng chơi "hơi lặp đi lặp lại". Con em của các nhà văn Guardian và New York Times cũng đã bỏ phiếu chống lại đồ chơi của Curio bằng chân của chúng. Nhà văn Guardian Arwa Mahdawi bày tỏ lo ngại về việc đồ chơi "khó chịu một cách bất an" và quyết định cô thích cho phép con gái xem Peppa Pig hơn: "Con heo nhỏ có thể khó chịu, nhưng ít nhất nó không thu thập dữ liệu của chúng tôi." Nhà văn Times Amanda Hess tương tự kết luận rằng việc sử dụng đồ chơi AI để thay thế thời gian xem TV - một điều cần thiết cho nhiều bậc cha mẹ bận rộn - là "hơi giống như thả một con cầy mangut vào phòng chơi để giết tất cả những con rắn bạn đặt ở đó".
Nhưng với thị trường cho các đồ chơi thông minh được gọi là - bao gồm đồ chơi được hỗ trợ bởi AI, dự kiến tăng gấp đôi lên hơn 25 tỷ đô la vào năm 2030 - có lẽ không thực tế khi mong đợi sự kiềm chế.
Mùa hè này, các thông báo tìm kiếm trẻ em từ 4 đến 8 tuổi để giúp "một nhóm từ MIT và Harvard" thử nghiệm "đồ chơi kể chuyện được hỗ trợ bởi AI đầu tiên" đã xuất hiện trong khu phố của tôi ở Brooklyn. Tò mò, tôi đã hẹn một cuộc hẹn để ghé thăm văn phòng của họ.
Sản phẩm, Geni, là họ hàng gần với các máy phát âm thanh không màn hình phổ biến như Yoto và Toniebox. Tuy nhiên, thay vì phát nội dung được ghi âm trước (Yoto và Tonies cung cấp danh mục sách nói, podcast và nội dung thân thiện với trẻ em khác để mua), Geni sử dụng mô hình AI để tạo ra những câu chuyện ngắn theo yêu cầu. Thiết bị cho phép người dùng trẻ em chọn tối đa ba "ô" đại diện cho một nhân vật, vật thể hoặc cảm xúc, sau đó nhấn nút để tạo ra một đoạn tường thuật liên kết các ô lại với nhau, được lồng tiếng. Cha mẹ cũng có thể sử dụng ứng dụng để lập trình các ô trống.
Các đồng sáng lập Geni Shannon Li và Kevin Tang khiến tôi ấn tượng là nghiêm túc và chu đáo về một số rủi ro của các sản phẩm AI cho trẻ nhỏ. Họ "cảm thấy mạnh mẽ về việc không nhân cách hóa AI", Tang nói. Li nói rằng họ muốn trẻ em xem Geni, "không phải như một người bạn đồng hành" như những con thú nhồi bông có hộp giọng nói, mà là "một công cụ cho sự sáng tạo mà chúng đã có".
Tuy nhiên, khó mà không tự hỏi liệu một mô hình AI có thể thực sự tạo ra những câu chuyện đặc biệt hấp dẫn hoặc khơi dậy sáng tạo hay không. Geni đang lên kế hoạch bán các bộ ô với các nhân vật họ phát triển nội bộ cùng với thiết bị, nhưng "kể chuyện" thực tế được thực hiện bởi loại công nghệ dựa trên xác suất có xu hướng hướng tới trung bình.
Câu chuyện tôi gợi ý bằng cách chọn các ô phù thủy và phi hành gia tốt nhất cũng chỉ là nhạt nhẽo:
Họ tình cờ phát hiện một hang động ẩn giấu phát sáng với ánh sáng vàng.
"Đó là gì?" Felix hỏi, nhìn vào bên trong.
"Một kho báu?" Sammy tự hỏi, trí tưởng tượng của cô xoay tít, "hay có thể là thứ gì đó thậm chí còn tuyệt vời hơn."
Trước khi họ có thể quyết định, một làn sóng ùa vào hang động, gửi những bong bóng bùng nổ xung quanh họ.
Nhóm Geni đã huấn luyện hệ thống của họ trên nội dung trẻ em có sẵn. Việc sử dụng AI tạo sinh có giải quyết vấn đề cho cha mẹ mà bộ sưu tập nội dung âm thanh trẻ em không thể? Khi tôi đưa ra khái niệm này cho một bậc cha mẹ của một đứa trẻ 5 tuổi, anh ấy trả lời: "Họ chỉ đang trình bày một lựa chọn thay thế cho sách. Đó là một ví dụ thực sự tốt về việc nắm bắt các cách sử dụng đã được xử lý bởi các nghệ sĩ hoặc những người sống, thở."
Tuy nhiên, áp lực thị trường của văn hóa startup để lại ít thời gian cho những suy tư hiện sinh như vậy. Tang nói nhóm háo hức đưa sản phẩm của họ ra thị trường trước khi những con thú nhồi bông có hộp giọng nói làm hỏng cha mẹ về toàn bộ khái niệm AI cho trẻ em.
Khi tôi hỏi Tang liệu Geni có cho phép cha mẹ tạo ô cho, chẳng hạn, một khẩu súng - không phải là ý tưởng xa vời đối với nhiều gia đình Mỹ - anh ấy nói họ sẽ phải thảo luận vấn đề này như một công ty.
"Sau khi ra mắt, chúng tôi có lẽ sẽ đưa một người về đạo đức AI vào nhóm của chúng tôi," anh ấy nói.
"Chúng tôi cũng không muốn hạn chế kiến thức," anh ấy thêm. "Tính đến bây giờ không có câu trả lời đúng hay sai về mức độ ràng buộc chúng tôi muốn đặt ra... Nhưng rõ ràng chúng tôi đang tham khảo rất nhiều nội dung trẻ em đã có sẵn ngoài kia. Bluey có lẽ không có súng trong đó, đúng không?"
