Nội dung khiêu dâm trẻ em do AI tạo ra gia tăng với tốc độ ‘đáng lo ngại’ – Cảnh báo từ cơ quan giám sát về việc ngày càng khó phát hiện

Sự gia tăng đáng báo động của nội dung khiêu dâm trẻ em do AI tạo ra

Theo một tổ chức giám sát quốc gia, số lượng nội dung khiêu dâm trẻ em do AI tạo ra được tìm thấy trên internet đang tăng lên với tốc độ “khiếp đảm”. Quỹ Giám sát Internet (IWF) chuyên xử lý nội dung khiêu dâm trẻ em trực tuyến, xóa hàng trăm nghìn hình ảnh mỗi năm. Giờ đây, họ cho biết AI đang khiến công việc của họ trở nên khó khăn hơn nhiều. “Tôi thấy điều này thực sự đáng sợ vì cảm giác như chúng ta đang ở một điểm bùng phát”, “Jeff”, một nhà phân tích cấp cao tại IWF, người sử dụng tên giả tại nơi làm việc để bảo vệ danh tính, nói. Trong sáu tháng qua, Jeff và nhóm của anh đã xử lý nhiều nội dung khiêu dâm trẻ em do AI tạo ra hơn cả năm trước đó, báo cáo tăng 6% về lượng nội dung AI. Rất nhiều hình ảnh AI mà họ nhìn thấy về trẻ em bị tổn thương và lạm dụng thực sự đáng sợ. “‘Trước đây, chúng tôi có thể chắc chắn phân biệt hình ảnh AI, nhưng giờ đây chúng tôi đang đến điểm mà ngay cả nhà phân tích được đào tạo […] cũng sẽ gặp khó khăn trong việc phân biệt đâu là thật, đâu là giả”, Jeff nói với Sky News.

AI được đào tạo trên hình ảnh lạm dụng tình dục

Theo IWF, để tạo ra nội dung khiêu dâm AI chân thực đến vậy, phần mềm được đào tạo trên những hình ảnh lạm dụng tình dục hiện có. “Mọi người không thể lầm tưởng”, Derek Ray-Hill, Giám đốc điều hành tạm thời của IWF, nói. “Nội dung lạm dụng tình dục trẻ em do AI tạo ra gây ra những tổn hại khủng khiếp, không chỉ đối với những người có thể nhìn thấy nó mà còn đối với những người sống sót, những người bị tổn thương lại mỗi khi hình ảnh và video về sự lạm dụng của họ bị khai thác một cách tàn nhẫn để phục vụ cho thú vui bệnh hoạn của những kẻ săn mồi trực tuyến”.

Nội dung AI được tìm thấy trên các trang web công khai

IWF cảnh báo rằng hầu hết nội dung này không được ẩn trên web đen mà được tìm thấy trên các khu vực công khai của internet. “Công nghệ mới này đang biến đổi cách thức sản xuất nội dung lạm dụng tình dục trẻ em”, Giáo sư Clare McGlynn, một chuyên gia pháp lý chuyên về lạm dụng trực tuyến và khiêu dâm tại Đại học Durham, nói. Bà nói với Sky News rằng việc tạo ra hình ảnh lạm dụng tình dục trẻ em do AI tạo ra hiện nay “dễ dàng và đơn giản”, sau đó quảng cáo và chia sẻ trực tuyến. “Cho đến nay, việc này rất dễ thực hiện mà không lo lắng về việc cảnh sát đến truy tố bạn”, bà nói.

Công tác chống lại nội dung lạm dụng tình dục trẻ em do AI tạo ra

Trong năm qua, một số kẻ ấu dâm đã bị buộc tội sau khi tạo ra nội dung khiêu dâm trẻ em bằng AI, trong đó có Neil Darlington, người đã sử dụng AI trong khi cố gắng tống tiền các cô gái để gửi cho anh ta những hình ảnh khiêu dâm. Việc tạo ra những hình ảnh khiêu dâm về trẻ em là bất hợp pháp, ngay cả khi chúng được tạo ra bằng AI, và các nhà phân tích của IWF hợp tác với các lực lượng cảnh sát và nhà cung cấp công nghệ để xóa bỏ và truy tìm những hình ảnh họ tìm thấy trực tuyến. Các nhà phân tích tải lên URL của các trang web chứa hình ảnh lạm dụng tình dục trẻ em do AI tạo ra vào một danh sách được chia sẻ với ngành công nghiệp công nghệ để họ có thể chặn các trang web đó. Những hình ảnh AI cũng được gắn một mã duy nhất giống như dấu vân tay kỹ thuật số để chúng có thể được tự động truy tìm ngay cả khi chúng bị xóa và tải lại ở nơi khác.

Sự phân bố địa lý của nội dung AI

Hơn một nửa nội dung do AI tạo ra được IWF tìm thấy trong sáu tháng qua được lưu trữ trên các máy chủ ở Nga và Hoa Kỳ, với một lượng đáng kể cũng được tìm thấy ở Nhật Bản và Hà Lan.

Nguồn: https://news.sky.com

Xem bài viết gốc tại đây