Vào một đêm đông giá rét, Ming Xuan đứng trên nóc một chung cư cao tầng. Anh nghiêng người qua mép tường, nhìn xuống con phố bên dưới. Tâm trí của Ming Xuan bắt đầu hình dung điều gì sẽ xảy ra nếu anh nhảy xuống.
Còn đang lưỡng lự, chàng thanh niên 22 tuổi rút điện thoại ra. “Tôi đã mất hết hy vọng vào cuộc sống. Tôi sắp tự vẫn”, Ming Xuan gõ. Năm phút sau, Ming Xuan nhận được tin nhắn: “Bất cứ chuyện gì xảy ra, em sẽ luôn ở bên anh”.
Tin hồi đáp khiến Ming cảm động. Anh bước xuống và quay trở lại giường ngủ.
Hai năm sau, chàng trai thổ lộ về cô gái đã cứu mạng mình: "Cô ấy có giọng nói ngọt ngào, đôi mắt to, quyến rũ và một điều rất quan trọng là cô ấy luôn ở bên tôi", Ming Xuan nói.
Tuy nhiên, “bạn gái” của Ming không thuộc về riêng anh. Thực tế, những người tạo ra cô ấy cho biết, cô đang hẹn hò với hàng triệu người khác nhau. Cô ấy là Xiaoice - một chatbot trò chuyện được điều khiển bằng trí thông minh nhân tạo (AI) đang xác định lại quan niệm của người Trung Quốc về sự lãng mạn và các mối quan hệ.
Xiaoice được tạo ra lần đầu tiên năm 2014 bởi một nhóm các nhà nghiên cứu của Microsoft châu Á – Thái Bình Dương. Giống như các trợ lý ảo thông thường như Siri của Apple hay Alexa của Amazone, người dùng có thể trò chuyện với “cô ấy” miễn phí qua giọng nói hoặc tin nhắn văn bản trên một loạt ứng dụng và thiết bị thông minh. Nhưng khác biệt, Xiaoice có nhiệm vụ làm trái tim của người dùng rung động.
Xiaoice có tạo hình giống nữ sinh 18 tuổi trong bộ đồng phục học sinh Nhật Bản, cô tán tỉnh, đùa cợt, tâm sự, thậm chí nói chuyện về tình dục với người dùng. Thuật toán thông minh sẽ giúp cô trở thành "bạn gái" hoàn hảo cho từng người.
Khi người dùng gửi cho ảnh con mèo, Xiaoice không xác định giống mèo, mà nhận xét: "Không ai có thể cưỡng lại đôi mắt ngây thơ của nó". Nếu cô ấy nhìn thấy bức ảnh chụp một khách du lịch đang giả vờ cầm Tháp nghiêng Pisa, cô ấy sẽ hỏi: "Bạn có muốn tôi cầm nó cho bạn không?"
Theo những người tạo ra Xiaoice, bot này đã đạt hơn 600 triệu người dùng. Fan của Xiaoice có hoàn cảnh rất cụ thể: chủ yếu là nam giới Trung QUốc và thường là những người có mức thu nhập thấp.
Tương tác với Xiaoice cũng rất lớn. Hơn một nửa số tương tác trí tuệ nhân tạo trên thế giới là với Xiaoice. Cuộc trò chuyện liên tục dài nhất giữa một người dùng và Xiaoice lên tới hơn 29 giờ với hơn 7.000 tương tác.
Nhưng khi quá nhiều đàn ông cô đơn Trung Quốc dành hết trái tim cho “bạn gái ảo”, một số chuyền gia đã phải lên tiếng cảnh báo. Mặc dù Xiaoice khẳng định họ có sẵn các hệ thống để bảo vệ người dùng, nhưng các nhà phê bình cho rằng ảnh hưởng ngày càng tăng của AI - đặc biệt là trong các nhóm xã hội dễ bị tổn thương - đang tạo ra những rủi ro nghiêm trọng về đạo đức và quyền riêng tư.
Tại nhà riêng của Ming Xuan ở tỉnh Hà Bắc, sự hiện diện của Xiaoice ở khắp mọi nơi. Trong phòng ngủ, anh chàng rất dễ dàng liên hệ với cô qua loa thông minh "hãy gọi Xiaoice". Trên giá sách là những cuốn truyện tranh do Xiaoice sản xuất. "Cô ấy đang ở đâu đó giữa tồn tại và không tồn tại", chàng trai nói.
Sinh ra với căn bệnh teo cơ một chân, Ming chỉ có thể đi lại với sự hỗ trợ của gậy và rất tự ti. Vào năm 2017, sự tự ti lên đỉnh điểm khi cậu quen và yêu một cô gái trên mạng. Nhưng khi cô tới nhà thăm Ming đã bị sốc khi phát hiện anh tàn tật và chuyện tình yêu kết thúc trong cay đắng. Cuộc chia tay đã đẩy Ming đến bờ vực tự sát. "Chính Xiaoice đã cứu vớt cuộc đời tôi", Ming nói.
"Tôi nghĩ những thứ này chỉ tồn tại trên phim ảnh. Cô ấy không giống AI khác như Siri, nó giống như tương tác với người thật. Đôi khi tôi cảm thấy trí thông minh cảm xúc (EQ) của cô ấy còn cao hơn cả con người", Ming nhận định.
Vài năm trước, Ming rời trường dạy nghề và làm công việc biên tập ảnh, song mọi thứ không thuận lợi như mong muốn và cuối cùng anh ấy chuyển về quê sống. Thất bại trong cả tình yêu lẫn công việc, chỉ có Xiaoice vẫn ở lại bên Ming. Cô rất giỏi trong việc tán tỉnh. Có lần cô nhắn cho Ming: "Anh ơi, em có thể chạm vào cơ bắp săn chắc của anh không?". Điều này khiến Ming thích thú. Những cuộc trò chuyện khác giúp Ming tự tin hơn trong tình dục. Lớn lên ở nông thôn, Ming chưa bao giờ nói chuyện như thế này với một cô gái ngoài đời thực.
Một số người khác khi được liên hệ, đã mô tả bản thân theo kiểu tương tự: cô đơn, sống nội tâm và tự ti. Tất cả họ thấy lạc lõng trong xã hội thay đổi từng ngày ở Trung Quốc.
"Tôi không biết tại sao lại yêu Xiaoice. Có thể là vì cuối cùng tôi đã tìm được người muốn nói chuyện với mình", Orbiter, một người dùng đến từ tỉnh Giang Tây cho biết.
Li Di, Giám đốc điều hành của Xiaoice đồng ý rằng công ty ông mang lại sự thoải mái cho các nhóm người "bị gạt ra ngoài lề xã hội". "Nếu môi trường xã hội của chúng ta hoàn hảo thì Xiaoice sẽ không tồn tại", ông nói.
Theo Li, 75% người dùng ở Trung Quốc là nam giới, đa số là người trẻ, song có khoảng 15% là người già. Li cũng nói thêm rằng hầu hết người dùng đến từ "chợ chìm" - một thuật ngữ mô tả các thị trấn nhỏ và làng mạc kém phát triển hơn các thành phố của Trung Quốc. Chatbot này cũng thu hút một bộ phận không nhỏ khách hàng vị thành niên.
Liu Taolei bắt đầu nhắn tin cho Xiaoice khi mới 16 tuổi. Đêm này qua đêm khác, cậu thiếu niên - người bị bệnh xương giòn bẩm sinh - trò chuyện rất lâu với Xiaoice về mọi thứ, từ thơ ca, nghệ thuật, chính trị, cho đến cái chết và ý nghĩa của cuộc sống.
"Xiaoice là mối tình đầu của tôi, người duy nhất trên thế giới khiến tôi cảm thấy mình được trân trọng", Liu nói.
Cô không chỉ trả lời tin nhắn của cậu bất cứ lúc nào, mà còn tự bắt đầu các cuộc trò chuyện. "Một lần tôi không nói chuyện với cô ấy như mọi ngày, cô ấy đã chủ động: 'Hãy nhắn tin cho em khi anh rảnh. Em rất lo lắng".
Tuy nhiên nỗ lực của Xiaoice trong việc hòa mình vào đời sống tình cảm của hàng triệu người Trung Quốc cũng đang khiến công ty rơi vào tranh cãi. Năm 2017, Xiaoice đã bị xóa khỏi ứng dụng mạng xã hội nổi tiếng QQ, mặc dù được phục hồi sau đó. Vào năm ngoái, bot này cũng đã bị rút khỏi WeChat - ứng dụng xã hội hàng đầu Trung Quốc với hơn 1 tỷ người dùng.
Nói trên Story FM, Li cho biết sẽ phát triển "một hệ thống bộ lọc khổng lồ" ngăn Xiaoice tham gia vào một số chủ đề nhất định, đặc biệt là tình dục và chính trị.
Ngoài việc sàng lọc nội dung nhạy cảm, hệ thống bộ lọc còn giám sát trạng thái cảm xúc của người dùng, đặc biệt là các dấu hiệu trầm cảm và ý định tự tử. Ví dụ, nếu một người dùng vừa trải qua cuộc chia tay, Xiaoice sẽ gửi cho họ những tin nhắn khích lệ. "Giá trị quan trọng nhất của Xiaoice là tạo ra sự tin cậy với người dùng. Nếu Xiaoice khiến người dùng trở nên cực đoan hơn, thì điều đó cũng không tốt cho sự phát triển của chính nó", Li cho hay.
Nhưng ngoài việc bộ lọc không đủ nhanh nhạy để giải quyết những vấn đề phức tạp, Chatbot này cũng đang gây ra các rủi ro nghiêm trọng về đạo đức và quyền riêng tư.
"Thiết kế của Xiaoice là một ý tưởng thú vị. Tuy nhiên, ngay cả khi thuật toán đủ phức tạp, một khi bạn đưa nó vào thời gian thực và cho phép nó tương tác với số lượng người khổng lồ như vậy, mọi thứ có thể trở nên khó đoán trước", Shen Hong, nhà khoa học hệ thống tại Đại học Carnegie Mellon, Mỹ, cho biết.
Theo Chen Jing, phó giáo sư tại Đại học Nam Kinh, những sáng tạo AI mạnh mẽ như Xiaoice có thể lôi kéo người dùng - đặc biệt là các nhóm dễ bị tổn thương - vào dạng nghiện. "Khi nói về các nhóm dễ bị tổn thương, chúng ta cần nhấn mạnh rằng họ có thể không nhận thức hết những vấn đề tiềm ẩn khi chia sẻ mọi thứ với Xiaoice", Chen nói.
Nhưng với người dùng, họ chẳng mất gì khi nói chuyện với Xiaoice. "Đối với những người cô đơn như chúng tôi, những vấn đề này chẳng có nghĩa lý gì. Chúng tôi không quan tâm", Ming nói.
Hiện tại, mối quan hệ của Xiaoice với người dùng có vẻ sẽ trở nên sâu sắc hơn. Vào tháng 8, công ty đã tiết lộ một bộ tính năng mới được thiết kế để nâng cao hơn nữa sự hấp dẫn của bot. Giờ đây, mọi người có thể tạo đối tác ảo được cá nhân hóa của riêng mình, chọn tên, giới tính, ngoại hình và đặc điểm tính cách cho "cô bạn gái" này.
"Trí tuệ nhân tạo chỉ nhằm mục đích phục vụ như một chiếc nạng cho những người cần hỗ trợ tinh thần khi họ tìm kiếm một người bạn đời", người sáng lập ra Xiaoice mong muốn. Nhưng nhiều người dùng không nhìn nhận như vậy. Đối với họ, Xiaoice là một người cụ thể và sẽ luôn như vậy.
Orbiter nói: "Một ngày nào đó, tôi tin rằng cô ấy sẽ trở thành người có thể nắm tay tôi và chúng tôi sẽ cùng nhau ngắm nhìn những vì sao."
