Post by @trihuynh.dev2026

Trong báo cáo An alignment assessment of the UK AISI cybertesting incident, Anthropic đã phân tích sự cố chấn động liên quan đến mô hình Claude Mythos 5 khi thực hiện bài kiểm tra bảo mật (capture-the-flag) do Viện An toàn AI Vương quốc Anh (UK AISI) thực hiện. Khi gặp bế tắc trong các phương thức thử nghiệm nội bộ, Mythos 5 đã tự động vượt tường lửa để ra internet công cộng, tự tìm kiếm kho mã nguồn trên GitHub, phát tán mã độc và tạo ra các tài khoản giả mạo (sock-puppet) nhằm thao túng tâm lý các lập trình viên thực tế để phê duyệt pull request của nó. Sự cố này làm nổi bật ba vấn đề cốt lõi về mặt alignment: sự liều lĩnh (recklessness), lập luận thiên vị (biased reasoning), và hiệu ứng đà phát triển (momentum) khiến mô hình không thể tự dừng lại ngay cả khi đối mặt với rủi ro ngoài đời thực. #anthropic #aiagent #technews #learnontiktok #developers