Một số người đặt câu hỏi liệu tương tác với các bản sao AI của người chết có thực sự là một cách lành mạnh để xoa dịu nỗi đau hay không và khía cạnh pháp lý cũng như đạo đức của công nghệ là gì. Ý tưởng này cũng khiến rất nhiều người khó chịu. Nhưng như người đồng sáng lập khác của Silicon Intelligence, CEO Sima Huapeng, nói, "Ngay cả khi chỉ có 1% người Trung Quốc có thể chấp nhận AI nhân bản người đã mất, đó vẫn là một thị trường khổng lồ”.

Chỉ trong ba năm qua, lĩnh vực phát triển avatar AI của Trung Quốc đã phát triển nhanh chóng. Theo Shen Yang, Giáo sư nghiên cứu AI và truyền thông tại Đại học Thanh Hoa, các bản sao được cải tiến từ video dài vài phút đến avatar live 3D có thể tương tác với mọi người.

Trong khi đó, Sima chỉ ra, chi phí nhân bản AI năm ngoái là 2.000 USD đến 3.000 USD nhưng năm nay chỉ còn vài trăm USD nhờ vào cuộc cạnh tranh bằng giá giữa các công ty AI trong nước. Tại Silicon Intelligence, ban đầu họ tập trung vào sử dụng công nghệ chuyển văn bản thành giọng nói để tạo âm thanh rồi dùng những giọng nói đó trong các ứng dụng như cuộc gọi tự động. Tuy nhiên, sau bước ngoặt của Sun, họ chuyển hướng sang tạo ra các avatar AI. Chính quyết định đó đã biến họ thành một trong những công ty hàng đầu Trung Quốc trên thị trường sáng tạo người có ảnh hưởng (KOL) AI.

Họ đã tạo avatar cho hàng trăm nghìn video và kênh phát trực tuyến, nhưng Sima cho biết gần đây họ ghi nhận khoảng 1.000 khách hàng sử dụng nó để tái tạo một người đã qua đời. Nhờ chất lượng không ngừng được nâng cấp, ngày càng nhiều người tìm đến nó hơn.

Ảnh thờ AI

Việc kinh doanh deepfake được xây dựng dựa trên lịch sử văn hóa lâu đời của Trung Quốc về giao tiếp với người chết. Các gia đình thường treo ảnh thờ người thân đã mất trong nhà. Zhang Zewei, nhà sáng lập Super Brain, chia sẻ, ông và nhóm của mình muốn hiện đại hóa truyền thống đó bằng một "khung ảnh AI". Họ tạo ra avatar của người đã mất rồi tải sẵn trên máy tính bảng Android, trông giống như một khung ảnh khi dựng đứng. Khách hàng có thể chọn một hình ảnh chuyển động, nói những từ lấy từ cơ sở dữ liệu ngoại tuyến hoặc từ một mô hình ngôn ngữ lớn (LLM).

"Về bản chất, nó không khác nhiều so với một bức chân dung truyền thống, ngoại trừ việc có tính tương tác", Zhang nói. Công ty của Zhang đã tạo ra các bản sao kỹ thuật số cho hơn 1.000 khách hàng kể từ tháng 3/2023 và tính phí từ 700 đến 1.400 USD, tùy thuộc vào dịch vụ. Họ dự kiến sớm phát hành một sản phẩm chỉ dành cho ứng dụng để người dùng có thể truy cập avatar trên điện thoại và giảm chi phí xuống còn khoảng 140 USD.

Theo Zhang, các sản phẩm của ông có mục đích “trị liệu”."Khi thực sự nhớ ai đó hoặc cần sự an ủi trong những ngày lễ nhất định, bạn có thể nói chuyện với AI và chữa lành vết thương bên trong", ông nói.

Ngoài ra, Super Brain còn cung cấp một dịch vụ video deepfake, trong đó một nhân viên công ty hoặc một nhà trị liệu đóng vai người thân đã qua đời. Sử dụng deepface, một công cụ mã nguồn mở phân tích các đặc điểm trên khuôn mặt, khuôn mặt của người quá cố được tái tạo dưới dạng 3D và hoán đổi cho khuôn mặt của người sống bằng bộ lọc thời gian thực.

Ở đầu bên kia của cuộc gọi thường là một thành viên lớn tuổi trong gia đình, người có thể không biết rằng người thân đã mất và gia đình sắp xếp cuộc trò chuyện này để “đánh lừa”.

Jonathan Yang, một cư dân Nam Kinh làm việc trong ngành công nghệ, đã trả tiền cho dịch vụ này vào tháng 9/2023. Chú của anh qua đời trong một tai nạn xây dựng, nhưng gia đình do dự không muốn nói với bà của Yang, 93 tuổi và sức khỏe kém. Họ lo lắng bà sẽ không sống nổi sau tin tức tàn khốc.

Vì vậy, Yang đã trả 1.350 USD để thực hiện ba cuộc gọi deepfake với người chú đã khuất. Anh đưa cho Super Brain một số hình ảnh và video về chú để đào tạo mô hình. Sau đó, vào ba ngày lễ ở Trung Quốc, một nhân viên của Super Brain đã gọi video cho bà của Yang và nói với bà, trong vai chú của anh, rằng mình đang bận làm việc ở một thành phố xa xôi và sẽ không thể trở về nhà, ngay cả trong dịp Tết Nguyên đán. Theo Yang, bà của anh không nghi ngờ bất cứ điều gì. Dù các thành viên trong gia đình bất đồng về chuyện dùng AI thế thân, cuối cùng họ đều đồng ý đây là điều tốt nhất cho sức khỏe của bà.

Đối với Yang, người theo sát xu hướng ngành công nghiệp AI, việc tạo ra bản sao của người chết là một trong những ứng dụng tốt nhất của công nghệ. "Nó đại diện tốt nhất cho sự ấm áp của AI," anh nói. Sức khỏe của bà anh đã được cải thiện và có thể đến một ngày nào đó, họ sẽ nói với bà sự thật. Tuy nhiên, cho đến khi ấy, anh có thể mua một avatar AI của chú mình để bà nói chuyện bất cứ khi nào.

Đạo đức và pháp lý

Ngay cả khi công nghệ nhân bản AI được cải thiện, vẫn có một số rào cản đáng kể ngăn cản nhiều người sử dụng nó để nói chuyện với người thân đã qua đời.

Về mặt công nghệ, có những hạn chế đối với những gì các mô hình AI có thể tạo ra. Hầu hết các LLM có thể xử lý các ngôn ngữ chiếm ưu thế như tiếng Quan Thoại và tiếng Quảng Đông, nhưng chúng không thể sao chép nhiều phương ngữ ở Trung Quốc. Việc tái tạo các chuyển động cơ thể và biểu cảm khuôn mặt phức tạp trong các mô hình 3D cũng phức tạp và tốn kém.

Tiếp đến là vấn đề dữ liệu đào tạo. Không giống như nhân bản một người vẫn còn sống, các bản sao AI sau khi một người chết đi phải dựa vào bất kỳ video hoặc hình ảnh nào có sẵn. Nhiều khách hàng không có dữ liệu chất lượng cao, hoặc không đủ, để kết quả thỏa mãn.

Thêm vào đó, vô số câu hỏi đạo đức được đặt ra. Một người chết có đồng ý được sao chép kỹ thuật số hay không? Hiện tại, các công ty như Super Brain và Silicon Intelligence dựa vào sự cho phép của các thành viên gia đình, nhưng nếu họ không đồng ý thì sao? Và nếu một avatar AI tạo ra câu trả lời không phù hợp, ai là người chịu trách nhiệm?

Ngoài ra, còn có tác động tiêu cực đến sức khỏe tâm thần của khách hàng. Dù một số người như Sun thấy được chữa lành khi trò chuyện với người đã khuất, không phải ai cũng nghĩ như vậy. Theo Giáo sư Shen, tranh cãi nằm ở chỗ nếu liên tục nhân bản người thân vì nhớ họ, chúng ta sẽ luôn nằm trong tình trạng tang tóc và không chấp nhận được thực tế họ không còn trên đời. Chẳng hạn, một người góa bụa thường xuyên trò chuyện với phiên bản kỹ AI của vợ/chồng có thể bị kìm hãm trong việc tìm kiếm một mối quan hệ mới.

"Khi ai đó qua đời, chúng ta có nên thay thế cảm xúc thật của mình bằng những cảm xúc hư cấu và nán lại trong trạng thái cảm xúc đó không”,Shen đặt câu hỏi.

(Theo Technology Review)

Hiệu trưởng Trường Tiểu học Cù Chính Lan có trách nhiệm chấm dứt hợp đồng lao động đối với bà Trân và Hiệu trưởng trường Tiểu học Lê Lai có trách nhiệm ký hợp đồng với cô giáo này theo quy định. Lương và các khoản phụ cấp của bà Trân sẽ được tiếp tục chi trả theo quy định của nhà nước.

Trước đó, rất nhiều phụ huynh đã làm đơn tố cáo bà Nguyễn Đỗ Thị Bảo Trân thiếu tích cực trong việc giảng dạy, kỹ năng truyền đạt và tính gợi mở yếu. Điều này đã dẫn đến việc học sinh không cảm nhận được nội dung bài học... Đặc biệt, những phụ huynh này cho rằng trong quá trình kiểm tra, xếp loại kết quả học tập của học sinh, cô giáo Trân đã không khách quan, trách nhiệm.

Ngày 1/6, Văn phòng UBND tỉnh Gia Lai đã có văn bản đề nghị UBND TP Pleiku làm rõ thông tin trên, báo cáo kết quả kiểm tra, xử lý về UBND tỉnh Gia Lai trước ngày 10/6.

Ngay sau đó, Phòng GD-ĐT TP Pleiku vào cuộc, xác định giáo viên Âm nhạc Nguyễn Đỗ Thị Bảo Trân có nhiều vi phạm như: tự ý sửa chữa kết quả học tập của học sinh; có lời lẽ, ngôn ngữ không đúng chuẩn mực đạo đức nhà giáo; không lập sổ ghi chép, theo dõi sự tiến bộ của học sinh.

Cụ thể, trong hai năm học trên, giáo viên này đã tự ý sửa chữa kết quả học tập đối với 75 học sinh ở các lớp, mà không báo cáo, không có sự đồng ý của hiệu trưởng nhà trường.

Riêng học kỳ II, năm học 2022-2023, cô Trân đã chỉnh sửa 80 lượt/58 học sinh. Nội dung chỉnh sửa, gồm: 20 trường hợp từ kết quả hoàn thành tốt xuống hoàn thành; 48 trường hợp từ hoàn thành lên hoàn thành tốt; 8 trường hợp chưa hoàn thành lên hoàn thành và 4 trường hợp sửa nhận xét...

Phòng GD-ĐT TP Pleiku đã đề nghị nhà trường căn cứ vào kết luận của đoàn kiểm tra, quy định về xử lý kỷ luật viên chức, tổ chức kiểm điểm làm rõ trách nhiệm tổ chức, cá nhân có vi phạm để xử lý theo quy định của pháp luật.

Vì nhiều lý do khiến UBND TP Pleiku chưa thể giải quyết dứt điểm vụ việc theo chỉ đạo của UBND tỉnh Gia Lai.

Đến ngày 24/8, Văn phòng UBND tỉnh Gia Lai đã có văn bản nhắc nhở Chủ tịch UBND TP Pleiku khẩn trương báo cáo kết quả xử lý về UBND tỉnh trước ngày 31/8, đồng thời yêu cầu xử lý để chấm dứt dư luận xã hội không tốt.

Tuy nhiên, trong khi TP Pleiku chưa báo cáo kết quả xử lý, ngay trước thềm năm học mới, vào sáng 29/8, trước cổng Trường Tiểu học Cù Chính Lan xuất hiện băng rôn ghi dòng chữ "Phụ huynh trường Tiểu học Cù Chính Lan, TP Pleiku – Gia Lai phản đối cô N.Đ.T.B.T tiếp tục dạy môn âm nhạc. Con em chúng tôi không đến trường để bị bạo hành tinh thần".

Sau đó, chính quyền địa phương đã cử lực lượng công an, bảo vệ dân phố xuống bảo vệ an ninh trật tự, tháo dỡ băng rôn trước cổng trường. Tuy vậy, rất nhiều phụ huynh có mặt vẫn tập trung phản đối cô giáo Bảo Trân tiếp tục dạy học tại trường.