Bí mật kiểm thử Claude: Quy trình 'phá vỡ' AI của Anthropic
Anthropic vừa tiết lộ một phần quan trọng trong quy trình phát triển AI của mình: các đội chuyên gia nội bộ được giao nhiệm vụ 'phá vỡ' các mô hình Claude mới trước khi chúng được phát hành. Quá trình kiểm thử đối kháng này bao gồm việc đẩy AI đến giới hạn, tìm kiếm lỗ hổng và các điểm yếu tiềm tàng. Những phát hiện này là yếu tố then chốt giúp phiên bản cuối cùng của Claude trở nên an toàn, mạnh mẽ và đáng tin cậy hơn cho người dùng.
19 ngày trước