#nghiên-cứu

Nhóm Nghiên cứu Kinh tế của Anthropic vừa ra mắt Khảo sát Chỉ số Kinh tế Anthropic, một cuộc khảo sát hàng tháng được thực hiện thông qua Anthropic Interviewer. Mục tiêu là thu thập dữ liệu định tính phong phú về cách AI đang thay đổi công việc, năng suất và kỳ vọng của người dùng. Khảo sát này sẽ giúp Anthropic hiểu rõ hơn về tác động kinh tế của AI và sự thay đổi trong quan điểm của người dùng theo thời gian.

Dự án Glasswing của Anthropic, với sự tham gia của 50 đối tác, đã sử dụng AI Claude Mythos Preview để phát hiện hơn mười nghìn lỗ hổng bảo mật nghiêm trọng. Cập nhật ban đầu này cho thấy tiềm năng to lớn của AI trong việc bảo vệ phần mềm quan trọng, đồng thời đặt ra thách thức mới về việc xác minh và vá lỗi ở quy mô lớn.

Viện Anthropic (TAI) sẽ sử dụng thông tin nội bộ để nghiên cứu tác động của AI đối với thế giới và chia sẻ những phát hiện này với công chúng. Chương trình nghiên cứu của TAI tập trung vào bốn lĩnh vực chính: khuếch tán kinh tế, các mối đe dọa và khả năng phục hồi, hệ thống AI trong thực tế, và R&D do AI thúc đẩy.

Anthropic công bố nghiên cứu đột phá về cách dạy Claude hiểu 'tại sao' đằng sau các hành động của mình, không chỉ là 'cái gì'. Phương pháp này tập trung vào việc huấn luyện mô hình suy luận về các giá trị, giúp giảm đáng kể sai lệch hành vi tác nhân (agentic misalignment) và là bước tiến quan trọng trong việc đảm bảo an toàn AI.

Anthropic đang phát triển Claude để trở thành một công cụ mạnh mẽ cho ngành hóa học. Bằng cách tận dụng khả năng đa phương thức và suy luận tường minh, Claude có thể phân tích dữ liệu phức tạp như phổ NMR, vượt qua các phần mềm chuyên dụng và hứa hẹn đẩy nhanh tốc độ khám phá khoa học trong phòng thí nghiệm.

Anthropic đang kêu gọi cộng đồng người dùng Claude chia sẻ kinh nghiệm về mức độ 'suy nghĩ' của AI. Nhà nghiên cứu Sholto Douglas muốn biết liệu Claude có đang cân bằng tốt giữa việc phân tích sâu và phản hồi nhanh hay không. Phản hồi của bạn sẽ giúp tối ưu hóa hiệu suất, chi phí và trí thông minh của các thế hệ Claude tiếp theo.

Anthropic đang mở rộng đáng kể Dự án Glasswing, một nỗ lực hợp tác nhằm bảo vệ các phần mềm quan trọng nhất thế giới bằng AI. Với việc bổ sung 150 tổ chức từ hơn 15 quốc gia, dự án tập trung vào các lĩnh vực hạ tầng trọng yếu. Sáng kiến này sử dụng mô hình Claude Mythos Preview để chủ động phát hiện lỗ hổng, chuẩn bị cho một kỷ nguyên mới của an ninh mạng.

Sự kiện Jan Leike, một trong những nhà nghiên cứu an toàn AI hàng đầu, gia nhập Anthropic đang tạo ra làn sóng trong ngành. Dự án mới của anh không chỉ tập trung vào 'căn chỉnh' mà còn hướng tới một cách tiếp cận toàn diện hơn để đảm bảo Trí tuệ tổng quát nhân tạo (AGI) phát triển an toàn và có lợi cho nhân loại. Điều này đánh dấu một chương mới đầy hứa hẹn cho Anthropic.

Nhóm Frontier Red Team của Anthropic đã công bố LLM ATT&CK Navigator, một công cụ đột phá để lập bản đồ các mối đe dọa an ninh mạng do AI gây ra. Bằng cách điều chỉnh khuôn khổ MITRE ATT&CK nổi tiếng cho các mô hình ngôn ngữ lớn, nghiên cứu này cung cấp một cái nhìn sâu sắc về cách các tác nhân độc hại có thể khai thác AI và quan trọng hơn là cách chúng ta có thể xây dựng hệ thống phòng thủ chủ động để chống lại chúng.