OpenAI Đang ‘Khám Phá’ Cách Tạo Ra Nội Dung Khiêu D.â.m Bằng AI Một Cách Có Trách NhiệmOpenAI, công ty đứng sau ChatGPT, đã công bố bản hướng dẫn dự t

Xem bài viết trên Group | Tác giả: Lê Công Thành
Like: 8 | Comment: 2 | Share: 0

OpenAI Đang ‘Khám Phá’ Cách Tạo Ra Nội Dung Khiêu D.â.m Bằng AI Một Cách Có Trách NhiệmOpenAI, công ty đứng sau ChatGPT, đã công bố bản hướng dẫn dự thảo về cách họ muốn công nghệ AI của mình hoạt động. Đáng chú ý, họ đang xem xét khả năng tạo ra nội dung nhạy cảm, bao gồm cả nội dung khiêu d.â.m, một cách có trách nhiệm.Hiện tại, các chính sách sử dụng của OpenAI nghiêm cấm tài liệu tường minh tình d.ụ.c hoặc gợi d.ụ.c. Tuy nhiên, trong tài liệu Model Spec mới, công ty đã đề cập đến việc đang khám phá cách cung cấp khả năng tạo ra nội dung “không an toàn cho công việc” (NSFW) trong các bối cảnh phù hợp với độ tuổi thông qua API và ChatGPT. Nội dung NSFW có thể bao gồm văn chương khiêu d.â.m, cảnh m.á.u me cực đoan, lời lẽ xúc phạm và ngôn từ tục tĩu.OpenAI cho biết họ mong muốn hiểu rõ hơn về kỳ vọng của người dùng và xã hội về hành vi của AI trong lĩnh vực này. Tuy nhiên, phạm vi cụ thể của việc nới lỏng chính sách, chẳng hạn như chỉ cho phép tạo ra văn bản khiêu d.â.m hay mở rộng hơn để bao gồm cả mô tả bạo lực, vẫn chưa được làm rõ.Nội dung khiêu d.â.m do AI tạo ra đã trở thành một trong những ứng dụng đáng lo ngại nhất của công nghệ AI tạo sinh mà OpenAI đã tiên phong. “Deepfake” khiêu d.â.m – hình ảnh hoặc video nhạy cảm mô tả người thật mà không có sự đồng ý của họ – đã trở thành công cụ phổ biến để quấy rối phụ nữ và trẻ em gái. Gần đây, hai thiếu niên nam ở Florida đã bị bắt vì phân phối hình ảnh khỏa t.h.â.n do AI tạo ra mà không có sự đồng ý.Giáo sư Danielle Keats Citron từ Trường Luật Đại học Virginia cho rằng việc OpenAI tiềm năng chấp nhận nội dung AI nhạy cảm là “đáng báo động”. Bà nhấn mạnh rằng các vi phạm quyền riêng tư thân mật như vậy gây tổn hại sâu sắc và khiến nạn nhân mất đi các cơ hội quan trọng trong cuộc sống.Mặc dù OpenAI cấm mạo danh mà không có sự cho phép, nhưng vẫn chưa rõ liệu công ty có thể kiểm duyệt hiệu quả việc tạo nội dung nhạy cảm để ngăn chặn sự lạm dụng hay không. Microsoft gần đây đã phải thực hiện những thay đổi đối với một công cụ AI của họ sau khi nó được sử dụng để tạo và phân phối hình ảnh nhạy cảm về Taylor Swift trên mạng xã hội.Việc OpenAI khám phá cách tạo ra nội dung nhạy cảm một cách có trách nhiệm đang thu hút sự chú ý và tranh luận. Khi công nghệ AI tiếp tục phát triển, việc thiết lập các hướng dẫn đạo đức và giới hạn phù hợp sẽ là một thách thức quan trọng đối với các công ty như OpenAI.

Xem bài viết trên Group