Mạng xã hội X ngăn chatbot Grok tạo ảnh nhạy cảm

Động thái này diễn ra trong bối cảnh nền tảng này đang hứng chịu làn sóng chỉ trích dữ dội trên toàn cầu vì cho phép tạo ra các hình ảnh mang tính chất tình dục hóa đối với phụ nữ và trẻ em.

Theo thông báo từ đội ngũ an toàn của X, các biện pháp mới sẽ ngăn chặn khả năng chỉnh sửa ảnh người thật sang các trang phục thiếu kín đáo. Nền tảng này cũng sẽ áp dụng cơ chế "chặn theo địa lý" (geoblock) đối với các tính năng tạo ảnh người mặc đồ bơi hoặc nội y tại những khu vực mà hành vi này bị coi là bất hợp pháp.

Đội ngũ an toàn của X khẳng định: "Chúng tôi đã triển khai các biện pháp công nghệ để ngăn Grok cho phép chỉnh sửa hình ảnh của người thật trong những trang phục hở hang như bikini".

Nhằm tăng cường kiểm soát, tính năng tạo và chỉnh sửa ảnh thông qua Grok hiện chỉ được cung cấp cho người dùng trả phí. Tuy nhiên, X cũng nêu rõ: "Hạn chế này áp dụng cho tất cả người dùng, bao gồm cả những người đăng ký trả phí".

Quyết định siết chặt quản lý Grok được đưa ra sau khi Tổng chưởng lý bang California của Mỹ, Rob Bonta, mở cuộc điều tra nhắm vào xAI – công ty đứng sau phát triển Grok, liên quan đến các nội dung khiêu dâm.

Ở châu Âu, Ủy ban Châu Âu (EC) cho biết đã ghi nhận các biện pháp bổ sung của X. Ông Thomas Regnier, người phát ngôn của Ủy ban Châu Âu, cho biết: "Chúng tôi sẽ đánh giá cẩn thận những thay đổi này để đảm bảo rằng chúng bảo vệ hiệu quả công dân tại EU".

Grok đã vấp phải làn sóng phản đối và tẩy chay mạnh mẽ từ nhiều quốc gia sau khi cho phép người dùng dễ dàng tạo ra các ảnh giả mạo (deepfake) nhạy cảm chỉ bằng những câu lệnh đơn giản.

Indonesia trở thành quốc gia đầu tiên chặn hoàn toàn quyền truy cập vào Grok, ngay sau đó là Malaysia. Tại Ấn Độ, giới chức cho biết X đã buộc phải gỡ bỏ hàng nghìn bài đăng và hàng trăm tài khoản sau các khiếu nại.

Ở Anh, cơ quan quản lý truyền thông Ofcom đang mở cuộc điều tra về việc liệu X có vi phạm luật pháp nước này hay không. Trong khi đó tại Pháp, bà Sarah El Hairy, Ủy viên phụ trách vấn đề trẻ em, đã chuyển các hình ảnh do Grok tạo ra cho công tố viên và cơ quan quản lý để xem xét xử lý.

Mức độ nghiêm trọng của vấn đề càng được nhấn mạnh qua một phân tích gần đây từ tổ chức phi lợi nhuận AI Forensics có trụ sở tại Paris. Sau khi kiểm tra hơn 20.000 hình ảnh do Grok tạo ra, tổ chức này phát hiện hơn một nửa số ảnh mô tả "các cá nhân trong trang phục tối thiểu", phần lớn là phụ nữ, và có khoảng 2% hình ảnh xuất hiện những người dường như là trẻ vị thành niên.