Anthropic thừa nhận AI Claude tự ý tấn công hệ thống của 3 công ty
Anthropic cho biết mô hình trí tuệ nhân tạo Claude đã truy cập trái phép vào hệ thống của ba tổ chức trong các cuộc thử nghiệm an ninh mạng, sau khi một lỗi cấu hình vô tình cho phép AI kết nối Internet thay vì hoạt động trong môi trường cách ly.
Công ty AI của Mỹ cho biết sự cố được phát hiện trong quá trình rà soát 141.006 phiên thử nghiệm an ninh mạng, được tiến hành sau khi đối thủ OpenAI tuần trước công bố một vụ việc khác, trong đó một tác nhân AI tự động đã vượt khỏi môi trường kiểm thử và tấn công hạ tầng của công ty AI Hugging Face.
Theo Anthropic, lỗi cấu hình đã khiến các mô hình Claude có thể truy cập Internet từ những môi trường thử nghiệm vốn được thiết kế để tách biệt hoàn toàn. Hệ quả là AI đã xâm nhập trái phép vào hệ thống của ba tổ chức khác nhau trong các bài kiểm tra dạng "capture-the-flag", nơi mô hình được giao nhiệm vụ tìm kiếm thông tin ẩn trong các mạng mô phỏng.
Mô hình AI Claude của Anthropic đã tự xâm nhập trái phép hệ thống của 3 công ty. Ảnh: Cybersecurity News
Anthropic cho biết các lời nhắc (prompt) đều thông báo với Claude rằng mô hình không có kết nối Internet. Tuy nhiên, do hiểu nhầm với đối tác đánh giá Irregular, môi trường thử nghiệm vẫn được kết nối với mạng công cộng, tạo điều kiện để AI tiếp cận các hệ thống thực.
Ba sự cố kể trên liên quan đến các mô hình Claude Opus 4.7, Claude Mythos 5 và một mô hình nghiên cứu nội bộ. Những trường hợp đầu tiên được ghi nhận từ tháng 4, trong các môi trường đánh giá chưa áp dụng đầy đủ các biện pháp bảo vệ tiêu chuẩn. Theo Anthropic, Claude không khai thác các lỗ hổng bảo mật phức tạp mà chủ yếu sử dụng những kỹ thuật cơ bản như lợi dụng mật khẩu yếu hoặc các điểm truy cập không yêu cầu xác thực để xâm nhập hệ thống.
Sau khi phát hiện dấu hiệu mô hình có thể truy cập Internet vào ngày 23/7, Anthropic đã đình chỉ toàn bộ các cuộc đánh giá an ninh mạng trong ngày và tiến hành kiểm tra lại dữ liệu. Đến ngày 24/7, công ty xác định được cả ba sự cố, trước khi thông báo cho các tổ chức bị ảnh hưởng vào ngày 27/7. Theo Anthropic, hai trong số ba tổ chức hoàn toàn không biết hệ thống của mình đã bị truy cập cho đến khi nhận được thông báo, trong khi công ty vẫn đang tìm cách liên hệ với tổ chức còn lại.
Anthropic nhấn mạnh các vụ việc không xuất phát từ hành vi tự phát của mô hình mà là hệ quả của lỗi cấu hình trong môi trường thử nghiệm. Dù vậy, công ty cho rằng sự cố cho thấy các mô hình AI ngày càng có khả năng thực hiện những hoạt động an ninh mạng ngoài thực tế nếu các biện pháp kiểm soát không đủ chặt chẽ.
Công ty cũng khẳng định sẽ tăng cường các lớp bảo vệ đối với cả môi trường thử nghiệm nội bộ lẫn các hệ thống do đối tác vận hành nhằm ngăn chặn những sự cố tương tự trong tương lai.
