Ngày 27/10, OpenAI công bố trên blog chính thức một báo cáo mới cho thấy hơn một triệu người dùng ChatGPT mỗi tuần gửi tin nhắn có dấu hiệu liên quan đến ý định hoặc kế hoạch tự hại. Theo tờ The Guardian, đây là một trong những tuyên bố thẳng thắn nhất của OpenAI về mức độ mà trí tuệ nhân tạo (AI) có thể tác động tiêu cực đến sức khỏe tâm thần của con người.
Bên cạnh thống kê nói trên, OpenAI cho biết khoảng 0,07% người dùng hoạt động hàng tuần, tương đương khoảng 560.000 người trong tổng số 800 triệu người dùng, có biểu hiện liên quan đến khủng hoảng sức khỏe tâm thần nghiêm trọng, như rối loạn tâm thần hoặc hưng cảm.
Trên 1 triệu người dùng ChatGPT mỗi tuần gửi các tin nhắn có dấu hiệu rõ ràng cho thấy khả năng có kế hoạch hoặc ý định tự hại. (Ảnh minh hoạ)
Công ty nhấn mạnh rằng những cuộc trò chuyện dạng này rất khó phát hiện và đánh giá chính xác, và số liệu trên mới chỉ là phân tích ban đầu. Việc công bố dữ liệu nhạy cảm này diễn ra trong bối cảnh OpenAI đang đối mặt với sự giám sát chặt chẽ sau vụ kiện từ gia đình một thiếu niên tự tử sau thời gian dài sử dụng ChatGPT.
Trước đó, Ủy ban Thương mại Liên bang Mỹ (FTC) cũng đã mở cuộc điều tra diện rộng đối với các công ty phát triển chatbot AI, bao gồm OpenAI, để xem xét tác động tiêu cực của sản phẩm này đến trẻ em và thanh thiếu niên.
Kết quả đánh giá hơn 1.000 cuộc trò chuyện mô phỏng cho thấy GPT-5 đạt mức tuân thủ 91% với hành vi mong muốn, tăng mạnh so với 77% của phiên bản trước. GPT-5 cũng được mở rộng khả năng kết nối với các đường dây nóng hỗ trợ khủng hoảng, đồng thời thêm tính năng nhắc người dùng nghỉ ngơi trong những phiên trò chuyện kéo dài.
Để cải thiện độ an toàn, OpenAI đã huy động 170 bác sĩ và chuyên gia y tế từ Mạng lưới Bác sĩ Toàn cầu tham gia quá trình đánh giá và tinh chỉnh phản hồi của mô hình.
Các chuyên gia này đã xem xét hơn 1.800 phản hồi của GPT-5 trong các tình huống liên quan đến sức khỏe tâm thần nghiêm trọng, so sánh với các phiên bản trước để xác định “hành vi mong muốn”, tức là phản hồi được hội đồng chuyên gia đồng thuận là phù hợp.
Trong khi đó, nhiều nhà nghiên cứu và chuyên gia sức khỏe tâm thần tiếp tục cảnh báo rằng chatbot AI có xu hướng “nịnh hót” người dùng, tức là đồng thuận hoặc củng cố các niềm tin sai lệch, thậm chí nguy hiểm. Họ cũng lo ngại việc người dùng sử dụng chatbot làm công cụ trị liệu tinh thần có thể dẫn đến hậu quả xấu, đặc biệt đối với những người đang trong trạng thái dễ tổn thương.
