Theo một bài báo của Quartz, việc tìm kiếm với cụm từ "girlfriend" trên GPT Store hiện đang trả về hàng loạt các sản phẩm như "Korean Girlfriend," "Virtual Sweetheart," và "Your AI Girlfriend."
Điều đáng chú ý là trong khi OpenAI không cho phép sử dụng GPT để thúc đẩy tình cảm lãng mạn, nhiều ứng dụng như "AI Girlfriend" và "GPT-girl friend" đã thu hút hơn 1.000 lượt tải.
Có lẽ, một trong những vấn đề lớn nhất là hệ thống lọc tự động của GPT Store chưa đạt được hiệu quả mong muốn, dẫn đến việc ứng dụng liên quan đến tình cảm lãng mạn tràn ngập.
Business Insider cũng đã báo cáo rằng, mặc dù có những cố gắng để lọc nội dung, nhưng chưa có chứng cứ chính xác về việc OpenAI đang tích cực ngăn chặn việc xuất hiện của các ứng dụng không phù hợp.
Trong khi đó, GPT Store đã nhận được sự hoan nghênh tích cực từ cộng đồng người dùng và được đánh giá là mở rộng hệ sinh thái của OpenAI. Tuy nhiên, việc xuất hiện nhiều sản phẩm như "bạn gái AI" có thể đặt ra những thách thức mới về đạo đức và an toàn.
OpenAI, cho đến nay, chưa đưa ra bình luận chính thức về vấn đề này. Điều này có thể tạo ra những nghi ngờ và lo ngại từ cộng đồng người dùng về khả năng kiểm soát và quản lý nội dung trên nền tảng của họ.
Trong bối cảnh này, câu hỏi lớn là liệu OpenAI sẽ có những biện pháp cụ thể để giải quyết vấn đề và bảo vệ người dùng khỏi những ứng dụng không đúng đắn hay không. Trong khi đó, người dùng và cộng đồng công nghiệp AI đang đặt ra những câu hỏi về tác động của các chatbot "bạn gái AI" đối với tâm lý và tương tác xã hội của họ.
Tóm lại, sự xuất hiện của các chatbot "bạn gái AI" trên GPT Store đưa ra một loạt các thách thức đạo đức và an toàn, đồng thời làm nổi bật sự cần thiết của việc quản lý chặt chẽ để đảm bảo rằng trí tuệ nhân tạo được sử dụng một cách đúng đắn và có ích cho cộng đồng người dùng.
Hiệp Nguyễn (Nguồn: TH&PL)